Hacer magia con IA Generativa: Prem Natarajan de Capital One (I)

Al crecer en una comunidad multilingüe, Prem Natarajan se interesó por los idiomas desde una edad temprana. Con el tiempo, ese interés, aptitud y curiosidad se tradujeron en un interés por el aprendizaje automático y el desarrollo técnico, y hoy Prem trabaja como jefe de Inteligencia Artificial (IA) empresarial en la empresa de servicios financieros Capital One.

Prem se une a este episodio del podcast Me, Myself, and AI para compartir cómo los equipos de tecnología de Capital One están brindando valor a los clientes mediante la aplicación de IA en áreas como la detección de fraude, cómo las fortalezas de la IA generativa pueden transformar la experiencia del desarrollador y por qué la correcta.

La combinación de experiencia en productos, ciencia e ingeniería es clave para iniciativas exitosas de Inteligencia Artificial y aprendizaje automático.

Suscríbete a Me, Myself, and AI en Apple Podcasts , Spotify o Google Podcasts .

La mentalidad del innovador: Así se crea un mañana mejor con ayuda de la IA

Transcripción

Sam Ransbotham: La IA generativa requiere que las organizaciones equilibren cuidadosamente la innovación de productos, la ciencia y la ingeniería. En el episodio de hoy, un líder de la industria de servicios financieros comparte su experiencia con estos desafíos.

Prem Natarajan: Soy Prem Natarajan de Capital One y estás escuchando Me, Myself, and AI .

Sam Ransbotham: Bienvenido a Me, Myself, and AI , un podcast sobre ia en los negocios. En cada episodio, le presentamos a alguien que innova con la IA. Soy Sam Ransbotham, profesor de análisis en Boston College. También soy editor invitado de inteligencia artificial y estrategia empresarial en MIT Sloan Management Review .

Shervin Khodabandeh: Y yo soy Shervin Khodabandeh, socio principal de BCG y uno de los líderes de nuestro negocio de IA. Juntos, MIT SMR y BCG han estado investigando y publicando sobre IA desde 2017.

Hemos entrevistado a cientos de profesionales para saber lo que se necesita para construir e implementar capacidades de IA y transformar cómo operan las organizaciones.

Hola a todos. Hoy, Sam y yo estamos hablando con Prem Natarajan, líder científico y director de IA empresarial de Capital One. Prem, gracias por unirte a nuestro programa de hoy. Empecemos.

Prem Natarajan: Encantados de estar aquí, Sam y Shervin.

¿Cuál es la función de Prem Natarajan en Capital One?

Shervin Khodabandeh: Describe su función en Capital One y la historia de cómo llegó allí, por favor.

Prem Natarajan: Mi papel en Capital One, si nos atenemos únicamente al aspecto de IA, es construir sobre la base. Capital One tiene el legado de ser una empresa muy avanzada en tecnología.

Fue el primer banco que trabajó todo en una única nube pública. Ese tipo de transformación requiere tanto una profunda creencia en el poder de la tecnología como la voluntad de movilizar a la empresa.

Para hacer esto se necesita visión, voluntad de ejecución y energía. Y creo que eso nos coloca en una excelente base para luego aprovechar el poder del aprendizaje automático (ML), la IA y todo eso.

Y Capital One está integrando tecnología utilizando la tecnología como herramienta transformadora pero también en el aprendizaje automático. Entonces, mi papel ahora es fortalecer ese tipo de historia, construir sobre esa historia de adopción temprana de mucha tecnología.

Ya sabes, estamos en este tipo de punto de inflexión histórico en la IA con transformadores e IA generativa y todo eso. Una forma en que veo mi función es aportar el poder de toda esta nueva tecnología para ofrecer valor al negocio. Ofrecer experiencias mágicas, experiencias valiosas y comodidades cotidianas a nuestros más de 100 millones de clientes para ayudar a todas esas personas.

¿La humanidad atraviesa un punto de inflexión frente a la IA?

Shervin Khodabandeh: Dijiste “punto de inflexión” y estoy de acuerdo en que estamos en un punto de inflexión. ¿Por qué crees que estamos en un punto de inflexión?

Prem Natarajan: Este no es el primer punto de inflexión, pero en cierto sentido me parece histórico. En las últimas décadas, ha habido algunos puntos de este tipo.

A la gente le gusta pensar en ellos como la primavera de la IA, seguida del invierno de la IA, seguida de la primavera de la IA, seguida del invierno de la IA.

Siento que cada uno de esos puntos de transición entre esas épocas es una especie de punto de inflexión. Inicialmente, eran todos estos sistemas expertos y todo eso, y luego dijimos: “Oh, realmente no escalan porque requieren mucha participación humana”.

Luego apareció todo el conjunto probabilístico de cosas: los modelos bayesianos. Luego, en algunos contextos, se convirtieron en modelos ocultos de Markov y todo eso para el procesamiento del habla y el lenguaje, etc.

Todos esos han sido puntos de inflexión en los que dijimos: “Oh, esta cosa”. Y aunque a veces la gente siente que la IA siempre ha sido prometedora, en muchos sentidos, los puntos de inflexión anteriores en la historia de la IA en realidad se han mercantilizado, lo cual es la verdadera señal de éxito.

Hace 20 o 25 años, utilizar el reconocimiento de voz en la práctica estándar de la industria, ya fuera para una respuesta de voz interactiva, parecía novedoso. Ahora todos esperamos que esté ahí. Y entonces, una vez que está ahí todo el tiempo, honestamente, no lo consideramos IA. Como, “Oh, eso es sólo reconocimiento de voz”.

Pero hubo un momento en que estaba a la vanguardia del aprendizaje automático y la Inteligencia Artificial.

El punto de inflexión IA ya cambió

Ahora, sin embargo, en este nuevo punto de inflexión, diría que si lo pensamos como una pila, pasamos de ser capaces de tomar fenómenos y convertirlos en alguna representación. Como una señal del habla en la secuencia de palabras, y el siguiente paso es interpretar algo de esa transducción en algo significativo.

Seguimos avanzando en esa diapositiva. En este momento, estamos en este lugar donde hemos construido todos estos sistemas. Están demostrando una tremenda capacidad para adaptarse a circunstancias novedosas.

Pero una cosa nueva en este momento es que están demostrando comportamientos para los cuales no fueron necesariamente entrenados o diseñados explícitamente. Y, si eres completamente técnico, lo llamarán aprendizaje en contexto. En la literatura popular, nos referimos a ellos como “Oh, responden a indicaciones. Siguen instrucciones”.

Entonces, creo que esa parte reduce sustancialmente el listón para su uso. Aún tienes que hacerlo de forma responsable. Aún tienes que hacerlo de forma reflexiva.

Pero baja el listón para su uso, donde todos podemos comenzar a usarlos en nuestros proyectos favoritos y en nuestras iniciativas a nivel empresarial. Ese es el punto de inflexión que veo: la experiencia del desarrollador ha cambiado.

Regular el fenómeno de la IA: David Hardoon de Aboitiz Data Innovation

El cambio de experiencia del desarrollador

Shervin Khodabandeh: Ahora, cuando dices “estos”, te refieres específicamente a modelos de lenguaje grandes y todo el conjunto que los rodea, ¿es así?

Prem Natarajan: Sí, sí. Desde una perspectiva técnica/tecnológica son transformadores en términos de su manifestación como capacidad. Creo que tiene el poder de transformar la experiencia del desarrollador.

Por ejemplo, tu creatividad está al frente y al centro, y puedes usar todos estos recursos con relativa facilidad.

¿Cuál es la experiencia de Prem Natarajan en el campo IA?

Shervin Khodabandeh: Prem, tienes una experiencia bastante interesante. Tal vez puedas compartir un poco sobre cómo comenzó tu carrera.

Prem Natarajan: Estaré feliz de hacerlo. Debo decir que la primera parte del camino es algo canónica para alguien con mi experiencia. Crecí en la India, hice mi educación universitaria en una comunidad y sociedad multilingüe.

Todos hablaban cuatro idiomas. Mi familia es étnicamente tamil por lo que crecí en Maharashtra, donde muchos de mis amigos más cercanos hablaban marathi.

El hindi era una de las materias obligatorias en clase, y yo vivía en un barrio razonablemente cosmopolita, por lo que había gente que venía de otras partes de la India y hablaba hindi.

El inglés fue el medio de instrucción, ya lo sabes. Por eso fue difícil no detectar algunos aspectos del lenguaje que son interesantes. Si solo hablas idiomas indoeuropeos, estás acostumbrado a ciertos órdenes de palabras (sujeto-objeto). Pero luego tomas algo como el tamil, y no es una lengua indoeuropea, es dravídica, por lo que esos órdenes son diferentes.

Entonces, incluso en un momento sorprendentemente temprano… no entendía que en realidad existía una materia llamada lingüística. Me preguntaba por qué decimos ‘ven aquí‘ en este idioma y luego ‘aquí ven’ en este otro idioma.

Hubo una chispa de curiosidad construida desde el principio de esa manera y desencadenó algunas acciones más adelante.

El niño multilingüe que se transformó en un genio IA

Una de las pasantías de verano que hice durante mi escuela de posgrado fue trabajar en el reconocimiento de escritura a mano fuera de línea. Creo que eso despertó de alguna manera mi interés en el lenguaje y su producción.

Y entonces comencé a trabajar en esta empresa llamada BBN Technologies, una escisión del MIT que construyó Arpanet. Había mucha historia moderna reciente en ese lugar, y había sido un lugar pionero para la investigación del habla y el lenguaje en ese momento, por lo que los siguientes años fueron simplemente una experiencia de aprendizaje increíble para mí. Entonces eso fue temprano.

Luego amplié el conjunto de cosas que me interesaban. Esto me llevó a la visión por computadora y a otras áreas. Y todo eso resultó ser algo bueno para el mundo actual, donde nuestro interés es la IA.

Cuando hablamos de ello ahora, lo hacemos en términos de multimodalidad, razonamiento y cosas así. Supongo que también querer trabajar constantemente en nuevos problemas y al mismo tiempo mantener cierta conexión con los viejos problemas me permitió aumentar la superficie de lo que estaba haciendo.

El camino a la universidad de Prem Natarajan

Y luego fui a la Universidad del Sur de California como miembro de la facultad y también como administrador. Fui vicedecano de la Facultad de Ingeniería, profesor de informática pero también fui director del Instituto de Ciencias de la Información.

Luego fui a Amazon, donde dirigí la organización Alexa AI. Tuve una fantástica oportunidad de aprendizaje allí también. Contribuí y aprendí a escalar: hacer una escala masiva.

Luego quise volver a mis raíces originales, donde también estaba creando soluciones de extremo a extremo para usuarios finales en empresas. Y Capital One, ahora volviendo a la tendencia tecnológica avanzada, todo eso parecía un lugar emocionante para venir y construir.

¿La IA se está comenzando a alejar de la ciencia de datos básica?

Shervin Khodabandeh: Sí. Es maravilloso y lo es. Me doy cuenta de que es posible que no tengas la libertad de hablar sobre toda la magia que se está desarrollando.

Pero ¿estás viendo un futuro en el que la composición del equipo que hace IA esté cambiando y evolucionando y tal vez alejándose de la ciencia de datos básica? ¿Un poco más hacia otros conjuntos de habilidades como ingeniería e ingeniería rápida y diseño y diseño centrado en el ser humano y cosas así?

Prem Natarajan: Creo que con cada ola de tecnología, ya sea IA u otra cosa, se trata más bien de un reequilibrio de los recursos en todo el espectro de habilidades. Cuando surge algo nuevo, necesitas nuevas habilidades en tu empresa. Y luego tal vez ayude a mejorar la productividad.

Básicamente, la empresa en general está produciendo más a través de un reequilibrio de estas cosas, entonces, ya sabes, la gente aprende cosas nuevas, etc.

Sin embargo, yo diría que, volviendo al núcleo de su pregunta, estamos abriendo un conjunto completamente nuevo de posibilidades en términos de lo que se puede hacer. Ya es una de las formas más populares en las que se utilizan.

Estos usos del estilo de generación aumentada de recuperación . Si miras algo como tu herramienta de búsqueda favorita hoy en día que usa IA generativa, están usando alguna forma de esto. Y esas cosas nos permiten ser mejores y más rápidos en cosas que usted podría hacer de forma rutinaria, cosas que tal vez no le guste hacer.

Pero cuando se trata de ciertas cosas relacionadas con la toma de decisiones. Creo que el fin de la ciencia de datos aún permanece, en el que aportas tu experiencia en el dominio para utilizar estas tecnologías para ofrecer más valor.

Pero creo que el hecho de que sean más escalables, más adaptables, más capaces de aprender, de consumir cantidades masivas de contexto, hace que esa inversión sea mucho más valiosa porque se obtiene mucho más rendimiento de ella.

Ayudar a los médicos a tomar mejores decisiones con datos: Ziad Obermeyer de UC Berkeley

¿Realmente hacen magia en Capital One?

Sam Ransbotham: Cuando piensas en lo que cuesta algo, si cuesta A más B, y el costo de la parte A baja mucho, entonces el A más B en general baja mucho y puedes hacer mucho más.

¿Puedes darnos algunos ejemplos del tipo de cosas que está haciendo en Capital One? Antes dijiste “mágico“. ¿Qué es algo mágico que estás pasando?

Prem Natarajan: Lo que podría ser mágico son las cosas que se anticipan a mis necesidades o cosas así. Pero dejando de lado especulativo, también iba a reflexionar. ¿Fue Arthur C. Clarke quien dijo: “Cualquier tecnología que sea lo suficientemente avanzada parece mágica?”.

Así que también es en ese contexto técnico de ciencia ficción que estaba diciendo “mágico“. Pero llegando a esta otra pregunta que tienen sobre cómo lo estamos haciendo, les daré un ejemplo conceptual abstracto y luego algo muy específico.

A nivel abstracto, creo que vemos un enorme potencial aquí para aprovechar todos estos avances en IA para ofrecer mejores experiencias a nuestros clientes.

Capital One tiene una cartera completa de ofertas para los clientes, por lo que vemos una oportunidad real de ofrecer experiencias continuamente mejores a nuestros clientes. En ese sentido, creo que lo que sucederá es que la IA será cada vez más central en la forma en que entregamos valor a nuestros clientes, cómo manejamos nuestro negocio, etc.

IA vs. la delincuencia, así actúa Capital One

Ahora, con un ejemplo específico, permítanme hablar sobre nuestra plataforma de fraude. Reconstruimos esta plataforma de fraude desde cero y básicamente para usar ML en el centro de esa empresa, y también para hacerla eficiente para que podamos tomar decisiones complejas de ML en tiempo real.

Se están consumiendo enormes cantidades de contexto y de datos. Y para que sea realmente útil para nuestros clientes, esos modelos deben activar un resultado en el tiempo que les lleva a nuestros clientes pasar sus tarjetas de crédito.

Así que es una hazaña de la ciencia, pero es una hazaña de ingeniería aún más impresionante. Me gusta el ejemplo del fraude porque creo que reúne la nota de todas las diferentes disciplinas que necesitamos unir.

Creo que el mejor trabajo aquí será en la intersección de personas con una visión sólida del producto que están imaginando los casos de uso, y personas con la visión científica para traducir esa visión del producto en decir: “¿Cuál es la invención que se requiere para permitir eso?” y luego la gente con experiencia en ingeniería dice:

“Puedo hacer todo esto. Puedo hacerlo de manera confiable. Funcionará cada cierto tiempo y funcionará en tiempo real todo el tiempo. Y puedes contar con esto”, etc.

Así que es como algo que ejercita todos los músculos de una organización multidisciplinaria compleja.

SOBRE LOS ANFITRIONES

Sam Ransbotham (@ransbotham)es profesor en el departamento de sistemas de información de la Carroll School of Management de Boston College. Shervin Khodabandeh es socio senior y director general de BCG y colíder de BCG GAMMA (la práctica de IA de BCG) en Norteamérica. Se le puede contactar en shervin@bcg.com .

Me, Myself, and AI es un podcast colaborativo de MIT Sloan Management Review y Boston Consulting Group y está presentado por Sam Ransbotham y Shervin Khodabandeh. Nuestro ingeniero es David Lishansky y los productores coordinadores son Allison Ryder y Sophie Rüdinger.

Síguenos en Google News