IA Generativa en Mastercard: La gobernanza ocupa un lugar central

Si has visto la película de acción y aventuras Everything Everywhere All at Once, es posible que hayas tenido la misma reacción que nosotros. ¿Impresionante y emocionante? Sin duda, por eso ganó siete premios Óscar. ¿Un presagio del futuro? Tal vez. Mientras los científicos exploran la idea de un multiverso, la película ofrece una visión de cómo podría ser. ¿Algo extraño y confuso? Bueno, al menos para nosotros.

JoAnn Stonier, hasta hace poco directora de datos de Mastercard, hizo una acertada comparación entre la película y la IA generativa en un reciente panel. “Everything Everywhere All at Once” es una buena forma de describir esta tecnología: emocionante, confusa e importante al mismo tiempo.

¿Quieres más claridad sobre la IA Generativa? Experimenta ampliamente

Hemos escrito anteriormente sobre Stonier y su inusual posición como una de las pocas CDO que ha estado muy centrada en la ética de los datos durante muchos años.

La entrevistamos en uno de sus últimos días como CDO. Desde entonces se ha convertido en becaria de Mastercard, pero seguirá trabajando en cuestiones de ética de los datos y la IA.

Relación entre Mastercard y la IA generativa

Después de la entrevista, nos sentimos un poco aliviados, al descubrir que Stonier y Mastercard todavía están tanteando el terreno con respecto a la IA generativa.

Es el caso de muchas empresas. Más de la mitad de quienes respondieron a una encuesta reciente de VentureBeat afirmaron que sus organizaciones están experimentando con la IA. Pero sólo el 18 por ciento de esas empresas han empezado a implantarla. El mismo porcentaje afirmó que espera gastar más en esta tecnología el año que viene.

Por supuesto, Mastercard es un experto en datos, análisis e IA. Hace un año escribimos sobre sus esfuerzos para convertirse en un “centro neurálgico de la IA“, y Stonier habló sobre el uso de la IA por parte de la empresa en el podcast Me, Myself, and AI del MIT Sloan Management Review.

Mastercard lleva más de una década en el sector de la IA, sobre todo en el ámbito de la ciberseguridad. El hecho de que un líder y una empresa con tanta experiencia en IA todavía estén tratando de resolver los detalles de una estrategia de IA generativa debería ser reconfortante para muchas otras empresas y directivos.

El impacto de la IA generativa en Hollywood y el entretenimiento

IA generativa, ¿qué elementos están claros?

La amplia experiencia de Mastercard con formas anteriores de IA le llevó a construir una metodología y un proceso de gobernanza sólidos. A un alto nivel, este proceso implica comprender los datos, comprender los modelos y revisar la producción y los resultados relacionados.

Cada uno de estos pasos se incluirá en el proceso de evaluación de los modelos generativos, pero es probable que tengan un sabor diferente. Por supuesto, a Mastercard no le faltan datos numéricos estructurados, pero los datos que procesa la IA generativa suelen ser imágenes y texto menos estructurado.

Dada la complejidad y el tamaño de los modelos generativos, comprender exactamente cómo una entrada determinada produce un resultado específico es todo un reto.

A pesar de las incertidumbres inherentes a la tecnología, Mastercard ya ha establecido algunas políticas con respecto a la IA generativa. Poco después de la introducción de ChatGPT en noviembre de 2022, la empresa puso en marcha unas directrices para garantizar que los empleados innoven de forma responsable con la nueva tecnología.

Esto fomenta la exploración interna de los modelos que proporciona su proveedor, al tiempo que salvaguarda la información confidencial de la empresa.

IA generativa, ¿el nuevo riesgo publicitario para las empresas?

Mastercard, un oasis para la IA

Algunas empresas han llegado a prohibir ChatGPT y el uso de otros grandes modelos lingüísticos por parte de los empleados, pero Mastercard no ha caído en esa tentación.

“Algunos de los casos de uso han sido más creativos que otros, pero hasta ahora no hemos tenido ningún problema. Todo el mundo en la empresa está más concienciado y comprometido digitalmente ahora, y ven la gobernanza como parte del trabajo de todos”, afirmó Stonier.

Creemos que prácticamente todas las empresas deberían formar a sus altos ejecutivos y miembros del consejo de administración sobre la IA generativa, y Mastercard se ha mostrado previsiblemente activa en este sentido.

Ha celebrado múltiples sesiones para el equipo de altos ejecutivos y los miembros del consejo de administración en las que se han abordado distintos aspectos de la tecnología. Por ejemplo: las oportunidades que ofrece, la regulación que necesita y el proceso que debe seguir la empresa para implantarla.

Numerosos expertos externos han participado en estas sesiones informativas, y Stonier señaló que hay varios miembros del consejo expertos en tecnología que ya la conocen bien.

Mastercard cuenta con un consejo de líderes de todas las áreas de la empresa que evalúan los casos de uso de la IA antes de su implantación, y ha añadido casos de uso de IA generativa a los que se revisan.

Algunos de los casos de uso desarrollados hasta ahora se refieren a áreas como la detección del fraude, la gestión del conocimiento interno y la personalización. Otros casos de uso se encuentran en fase de experimentación y aún no están pensados para su despliegue en producción.

¿Los programas RAI están preparados para la IA generativa? Los expertos lo dudan

¿Aún no está regulado el uso de la IA generativa? No hay problema

Aunque aún no se han publicado políticas gubernamentales detalladas para la IA generativa en Estados Unidos, Stonier afirma que ya está claro que habrá políticas diferentes para las distintas capacidades de la IA generativa.

Dado que Mastercard depende en gran medida de sistemas de información fiables. Por ejemplo, el uso de la IA generativa para desarrollar código de programación se tratará de forma diferente que su uso para crear textos de marketing.

El enfoque interdisciplinar de Mastercard

También está claro que será necesario un enfoque interdisciplinar y multifuncional para gestionar la IA generativa en Mastercard. Ya hay abogados, profesionales de Recursos Humanos (RH) e ingenieros y arquitectos de sistemas y datos participando en el desarrollo del enfoque de la empresa respecto a la tecnología.

A medida que los casos de uso se orienten más al cliente (ahora son principalmente internos), es probable que participen más partes de la organización.

Los reguladores externos querrán ver cómo ha construido la empresa los modelos de “caja negra”, en los que la lógica y las fuentes de datos sobre las que se construyen los modelos no son fácilmente visibles para los usuarios.

Stonier afirmó que la gobernanza de la IA generativa es un reto, dados todos los posibles casos de uso y los aspectos de la organización que intervienen.

Espera que, en consonancia con el anterior proceso de desarrollo de la IA, la gobernanza tendrá que abordar no sólo lo que los usuarios de la tecnología están tratando de lograr, sino también cuáles serán los resultados más probables.

La Inteligencia Artificial generativa sigue siendo líder

¿Qué sigue?

Stonier afirmó que aún se están debatiendo muchos aspectos de la IA generativa, como debe ser. Se trata de un periodo de experimentación para la empresa y sus empleados, y Stonier señaló que nadie quiere entorpecerlo mientras se sigan los principios de responsabilidad de datos de la empresa.

Mastercard quiere utilizar la IA generativa como una oportunidad de aprendizaje y, con el tiempo, beneficiarse de ella tanto como se ha beneficiado de la IA convencional en sus iniciativas de reducción del fraude y ciberseguridad.

Por el momento, los principales beneficios que se están obteniendo son aumentos de productividad interna para los propios procesos de la empresa. Los casos de uso para los clientes de Mastercard, incluidos los comerciantes que aceptan Mastercard, llegarán más tarde. En el futuro existe la posibilidad de realizar análisis de datos y enviar mensajes muy personalizados a los clientes.

Mastercard ya cuenta con un proceso bien definido para desplegar datos y productos de datos e incluso una unidad de negocio para ponerlos a disposición de los clientes.

Stonier cree que Data & Services y el negocio Cyber & Intelligence de la empresa serán los que más probablemente implementen productos generativos basados en IA en el futuro, sumándose a una amplia gama de soluciones de IA ya existentes.

Confía en que estos usos de la IA generativa emplearán múltiples tipos de modelos lingüísticos y que harán un uso extensivo de los humanos en el bucle, tal vez a través del aprendizaje por refuerzo con retroalimentación humana.

¿La IA generativa creará una nueva era de competencia de búsqueda?

“La IA generativa es como el aprendizaje automático pero con LSD”

Se realizarán pruebas exhaustivas para garantizar que los productos no produzcan alucinaciones ni otros resultados problemáticos. Creemos que esto es importante; si el aprendizaje automático es como la analítica con esteroides, la IA generativa es como el aprendizaje automático con LSD. Eso capta el aspecto impredecible de la tecnología.

Las arquitecturas específicas de los modelos de IA generativa también están por determinar.

Stonier cree que sin duda habrá varios modelos, pero no está segura de si se apilarán o se agruparán, con un sistema frontal que determine cuál es el más apropiado para el contexto.

Preguntamos a Stonier si cree que la IA generativa es una tecnología incremental o enormemente transformadora.

“Hasta ahora ha sido incremental, pero con el tiempo puede ser transformadora. Pero cualquier transformación no será un momento de gran explosión, sino que se producirá con el tiempo. Las mejoras en la eficiencia operativa llegarán con relativa rapidez, pero los cambios en productos y servicios llevarán más tiempo”.

Si su empresa está luchando con la forma de gobernar y aprovechar plenamente la IA generativa, la experiencia de Mastercard debería hacerle sentir algo más relajado. Esta tecnología puede o no transformar su negocio, pero sin duda plantea muchas cuestiones y oportunidades nuevas. No es necesario resolverlos todos de la noche a la mañana.

SOBRE LOS AUTORES

Thomas H. Davenport (@tdav) es Catedrático Distinguido del Presidente de Tecnología y Gestión de la Información en el Babson College. Randy Bean (@randybeannvp) es responsable de innovación, estrategia de datos, en la consultora global Wavestone.

Síguenos en Google News