La gestión de RAI requiere un equipo central, ¿esto es cierto o falso?
La IA llegó para quedarse, pero no está sola, con ella llegó la Inteligencia Artificial Responsable, o RAI, que busca su buen funcionamiento.
MIT Sloan Management Review y Boston Consulting Group han reunido un panel internacional de expertos en IA que incluye académicos y profesionales para ayudarnos a obtener información sobre cómo se está implementando la Inteligencia Artificial Responsable (RAI) en las organizaciones de todo el mundo.
A medida que las empresas aumenten el uso de herramientas de IA, las actividades se volverán más amplias y tendrán mayor riesgo. Entonces, ¿quién debería gestionar los esfuerzos de la RAI?
¿Debería la gestión de la RAI centralizarse en un solo equipo o descentralizarse, con la responsabilidad distribuida en toda la empresa? Queríamos entender cómo nuestros panelistas expertos abordarían estas preguntas. Por esto, les pedimos que reaccionaran ante la siguiente provocación:
La gestión de RAI debería centralizarse en una función específica. En lugar de descentralizarse en múltiples funciones y unidades de negocio.
Si bien la mitad de los panelistas estuvieron de acuerdo o totalmente de acuerdo en que la gestión de la RAI debería estar centralizada, la gran mayoría indicaron lo contrario.
Programas de RAI, los encargados de proteger a terceros
Los defensores de esta visión híbrida compartían estas perspectivas comunes:
¿Por qué es necesario que la RAI se centralice?
Es necesario un equipo centralizado para establecer estándares y prácticas de RAI y para ser responsable de los esfuerzos en toda la empresa. Se necesita un equipo centralizado para gobernar sus prácticas.
La gestión RAI descentralizada es la mejor opción
La gestión de RAI también debería realizarse a nivel de proyecto y entre funciones. Es responsabilidad de todos los involucrados en las implementaciones de IA incorporar y cumplir los estándares y prácticas de RAI. Es necesario un enfoque descentralizado para garantizar que la organización, en términos generales, sea responsable de la RAI.
Si bien el 50 por ciento de nuestros panelistas está explícitamente de acuerdo o totalmente de acuerdo en que la gestión de RAI debe centralizarse, el 92% mencionó la gestión centralizada en su respuesta en texto abierto a esta pregunta.
El caso de la centralización de la gestión de la RAI
Una función principal de los esfuerzos de la RAI es regular el uso de la IA en toda la empresa. Como mecanismo de gobernanza, RAI ayuda a establecer y comunicar estándares, garantiza que se cumplan, cultiva una cultura que adopta el uso responsable de la IA, etc.
Totalmente de acuerdo
“La RAI es gobernanza, y la gestión de la gobernanza debe centralizarse para lograr la eficacia prevista de orientación y supervisión. Además, una configuración centralizada permite la estandarización, eficiencias de escala y alcance y menores costos de coordinación. La implementación y operacionalización de la gobernanza debe ser descentralizada y la responsabilidad de cada función específica”.
David R. Hardoon
Aboitiz Data Innovation y United Bank de Filipinas
Para cumplir estos objetivos, los panelistas alientan la creación de equipos multifuncionales o centralizados. Linda Leopold, directora de IA responsable del Grupo H&M, afirma que alguien debe estar a cargo de la estrategia y la visión de la RAI.
“Aportando experiencia en el tema, liderazgo y coordinación. Preferiblemente, esto debería ser manejado por un equipo específico y centralizado”.
LINDA Leopold
Según Riyanka Roy Choudhury, becaria CodeX de la Facultad de Derecho de Stanford, el liderazgo debe evaluar, analizar y crear una estructura organizativa integrada para gestionar la RAI en múltiples funciones y unidades de negocio.
Los panelistas fueron consistentes al describir el propósito de un equipo centralizado.
Triveni Gandhi, líder responsable de IA en Dataiku, dice que su función es proporcionar orientación y “estructuras claras de rendición de cuentas“. Giuseppe Manai, cofundador y director de operaciones de Stemly, añade:
“Una unidad RAI designada establece directrices y estándares éticos para las implementaciones de IA en toda la organización. Esta unidad actúa como punto focal para las iniciativas de la RAI y está equipada con experiencia especializada en ética y cumplimiento de la IA. Su tarea principal es desarrollar marcos éticos que todas las demás unidades y funciones comerciales deben cumplir al implementar soluciones de IA”.
¿Los programas RAI están preparados para la IA generativa? Los expertos lo dudan
Cultivar la cultura RAI en toda la empresa
Intel cuenta con un consejo RAI multifuncional que lleva a cabo una revisión rigurosa durante el ciclo de vida de un proyecto de IA, evalua y los riesgos éticos.
Elizabeth Anne Watkins, científica investigadora de Intel Labs, señala que los miembros del consejo “brindan capacitación, retroalimentación y apoyo a los equipos de desarrollo y unidades de negocios para garantizar la coherencia y el cumplimiento de nuestros principios en todo Intel”.
Cultivar una cultura RAI a menudo significa cultivar embajadores, defensores y personas influyentes de la RAI en toda la empresa.
“Para fomentar culturas RAI duraderas. También es útil complementar este equipo central con una sólida red de defensores”, dice Watkins.
Leopold está de acuerdo: “Al tener defensores de la RAI o similares en todas las funciones o unidades de negocios, el mensaje… es que es responsabilidad de todos ser responsables”.
Y, como observan Choudhury y el especialista en políticas digitales de Fondo de las Naciones Unidas para la Infancia (Unicef), Steven Vosloo, una función RAI centralizada minimiza los costos de coordinación entre las implementaciones de IA y las iniciativas RAI a nivel funcional.
Totalmente de acuerdo
“La responsabilidad de la función central es poner en marcha el cambio (RAI); concienciar a la organización; apoyar a las unidades de negocios en el nombramiento de defensores de la RAI y garantizar que estén capacitados adecuadamente; asegurarse de que las unidades de negocio comprendan y sigan el modelo de gobernanza organizacional de la IA; establecer enlace con otras áreas relevantes, como ESG, privacidad, seguridad, TI, legal e IA; establecer comunidades de práctica; apoyar al comité de ética de IA, etc”.
Richard Benjamín
Telefónica
El caso de la gestión híbrida: responsabilidad centralizada, responsabilidad distribuida
Incluso los panelistas que respondieron negativamente compartieron opiniones que eran consistentes con tener un equipo central que tenga la responsabilidad final de la RAI.
La respuesta de Vosloo refleja la opinión de varios panelistas: “Si bien debería haber una función dedicada que sea, en última instancia, responsable de la IA responsable, la práctica de la RAI es una tarea que involucra a toda la organización. Por lo tanto, un enfoque híbrido es ideal: una función central, compuesta por una amplia gama de partes interesadas en la organización, que se basa en prácticas responsables en múltiples funciones y unidades de negocio”.
Los líderes funcionales y de unidades de negocios que gestionan las implementaciones de IA son administradores de facto de las implementaciones de RAI.
Como dice el profesor Simon Chesterman de la Universidad Nacional de Singapur: “La dirección estratégica y el liderazgo [para la RAI] pueden residir en la alta dirección, pero la puesta en funcionamiento de la RAI dependerá de quienes implementen soluciones de IA para garantizar niveles apropiados de control humano y transparencia para que la verdadera responsabilidad es incluso posible”.
David R. Hardoon, director ejecutivo de Aboitiz Data Innovation y director de datos e inteligencia artificial del Union Bank de Filipinas, sostiene que la implementación y puesta en funcionamiento de la gobernanza debe estar descentralizada y la responsabilidad de cada función específica.
Ni de acuerdo ni en desacuerdo
“A menudo ocurre que diferentes funciones dentro de una organización manejan diferentes áreas de RAI: ingeniería, seguridad, producto, legal, etc. Esto no sólo es importante sino necesario. Sin embargo, de nada sirve que estas funciones funcionen de forma totalmente independiente. Por eso es fundamental contar con una función de supervisión y gobernanza, para brindar una perspectiva holística a través de estos esfuerzos simultáneos”.
Paula Goldman
Salesforce
Como ocurre con cualquier mecanismo de gobernanza, ejercer demasiado control puede tener un efecto paralizador en los esfuerzos por innovar o implementar la IA.
Belona Sonna, gerente de cuestiones de ética y género de AfroLeadership, observa que un mecanismo de gobernanza central debe adaptarse a la complejidad del proyecto. De lo contrario, entrará en conflicto con objetivos más amplios.
Muy en desacuerdo
“Aunque la gestión centralizada de la IA responsable puede garantizar que todos los proyectos sigan el mismo circuito de control, puede convertirse en una desventaja. Esto si el proyecto examinado es complejo. Además, la gestión centralizada va en contra de la visión de un desarrollo responsable de la IA. Mismo que involucraría preferentemente a todos los actores de la cadena de desarrollo. Por eso, en mi opinión, la gestión descentralizada permite distribuir las funciones de cada unidad según sus competencias. Para garantizar no sólo una interacción positiva sino también la participación de todos”.
Belona Sonna
AfroLeadership
Roboleyes: Principios de responsabilidad algorítmica en la Inteligencia Artificial
Recomendaciones
Para las organizaciones que buscan establecer una estructura de gestión eficaz de la RAI, recomendamos lo siguiente:
1. Establecer un equipo central multifuncional que sea responsable de los esfuerzos de RAI en toda la organización
Sin embargo, es importante definir qué constituye la rendición de cuentas para este equipo: ¿Cuáles son las funciones y responsabilidades de este grupo? ¿Cómo es una rendición de cuentas exitosa? ¿Qué medidas y métricas se pueden utilizar para evaluar el éxito?
Es fundamental establecer claramente el papel y los derechos de decisión del equipo central. De lo contrario, tendrá la responsabilidad pero no la autoridad necesaria para tener éxito.
Una advertencia: definir la responsabilidad del equipo central de manera amplia o restringida invita a hacer concesiones. Definir RAI de manera amplia introducirá desafíos de escalabilidad para el equipo central, creando cuellos de botella y riesgos organizacionales adicionales.
Definir la responsabilidad de manera estricta puede reducir la capacidad de la organización para identificar y mitigar los riesgos de otros usos de la IA.
Asegúrate de que los equipos centralizados tengan una combinación de líderes estratégicos y expertos técnicos de todos los dominios
Su experiencia, redes e influencia combinadas fortalecerán los esfuerzos para establecer y comunicar estándares, cultivar defensores de la RAI. Y apoyar una cultura más amplia de desarrollo y uso responsable de la IA.
Además, un equipo que incluya una combinación de líderes y expertos puede abordar mejor la naturaleza inherente de las implementaciones de IA. Mismos que implican riesgos tanto organizativos como técnicos.
Crea circuitos de retroalimentación para que la gobernanza de la RAI no sea un proceso de arriba hacia abajo
Los gerentes de primera línea pueden ser una fuente crítica de información sobre lo que funciona y lo que no con la RAI. Ningún programa RAI puede ser estático.
Se necesitan iteraciones y mejoras constantes para garantizar la eficacia continua de un programa a la luz del cambio organizacional.
ACERCA DEL PANEL
MIT Sloan Management Review y Boston Consulting Group reunieron un panel internacional de más de 20 profesionales de la industria para compartir sus puntos sobre cuestiones relacionadas con la IA responsable. A lo largo de cinco meses, pediremos a los panelistas que respondan una pregunta sobre la IA responsable y expliquen brevemente su respuesta. Los lectores pueden ver todas las respuestas y comentarios de los panelistas en el panel al final de cada artículo y continuar la discusión en AI for Leaders, una comunidad de LinkedIn diseñada para fomentar la conversación entre líderes y expertos en tecnología con ideas afines.
SOBRE LOS AUTORES
David Kiron es director editorial de MIT Sloan Management Review y coautor del libro Workforce Ecosystems: Reaching Strategic Goals With People, Partners, and Technology (MIT Press, 2023). Steven Mills es director general y socio de Boston Consulting Group, donde se desempeña como director de ética de IA.