¿Por qué la alta dirección debe empezar a preocuparse por la IA responsable?

MIT Sloan Management Review y BCG reunieron un panel internacional de expertos en IA que incluye académicos y profesionales para ayudarnos a obtener información sobre cómo se está implementando la inteligencia artificial responsable (RAI) en organizaciones de todo el mundo.

La pregunta de este mes para nuestros panelistas: ¿Debería RAI ser un elemento de la agenda de la alta dirección en organizaciones de todas las industrias y geografías?1

El 86 por ciento de ellos (18 de 21) están de acuerdo o muy de acuerdo en que debería serlo. En conjunto, sus respuestas ofrecen una razón convincente para que la alta dirección supervise los esfuerzos de RAI. Destilamos y explicamos este razonamiento a continuación.

IA responsable y responsabilidad social corporativa: una mezcla difícil de conseguir

También realizamos una encuesta global de más de 1,000 ejecutivos que generó hallazgos similares: el 82 por ciento de los gerentes en empresas con al menos 100 millones de dólares en ingresos anuales están de acuerdo o muy de acuerdo en que la RAI debe ser parte de la agenda de la alta dirección de su empresa.

Desafortunadamente, solo la mitad de los encuestados en esa misma encuesta informaron que RAI está, de hecho, en la agenda de su alta dirección, una brecha dramática entre las expectativas y la realidad.

A continuación, compartimos algunas de las ideas de nuestros panelistas de RAI. Luego, basándonos en las respuestas de nuestros panelistas y nuestra propia experiencia trabajando con iniciativas RAI, ofrecemos tres pasos prácticos para hacer de RAI un tema de la agenda de la alta dirección.

Razones para centrarse en la IA responsable

Una gran mayoría de nuestros panelistas está de acuerdo en que RAI debería ser una preocupación de la alta dirección.

Pero sus razones, o lo que eligieron enfatizar, representan dos conjuntos distintos de preocupaciones.

Un conjunto se relaciona con la forma en que el uso de la IA por parte de una empresa afecta a las partes interesadas externas, como los clientes y la sociedad, como parte de su estrategia corporativa y propósito social más amplios.

El otro conjunto se centra en las partes interesadas internas y considera que el apoyo del liderazgo y la gestión de la empresa es vital para los esfuerzos de RAI efectivos.

Estos dos conjuntos de razones hacen eco de la distinción entre estrategia para y con IA.

La inteligencia artificial responsable permite el tipo de innovación que importa

Una estrategia para IA es diferente de una estrategia corporativa con IA: como explican David Kiron y Michael Schrage en un artículo de MIT SMR de 2019, “Las estrategias para capacidades novedosas exigen diferentes habilidades de gestión y énfasis que las estrategias con ellas”.

Idealmente, la IA responsable debería estar conectada con una estrategia para y con la IA, con un enfoque en las partes interesadas tanto internas como externas. Varios panelistas reconocen explícitamente esta conexión en sus comentarios.

Centrarse en las partes interesadas externas

Los ejecutivos discuten cada vez más el propósito social de su empresa en términos no financieros.

Reconocen que la IA tiene el potencial de promover o socavar el propósito social de una organización. Algunos panelistas enfatizan que la RAI debe ser una preocupación de la alta dirección porque la IA puede tener un impacto significativo en muchas partes interesadas externas.

Jaya Kolhatkar, directora de datos de Hulu y vicepresidenta ejecutiva de datos de Disney Streaming, ofrece un ejemplo:

“Dado que nuestra narración tiene el poder de dar forma a las opiniones e impactar a la sociedad, debemos asegurarnos de que nuestro uso de la IA represente tanto nuestro contenido y la audiencia inclusive”.

Slawek Kierner, vicepresidente sénior de análisis y salud digital de Humana, considera que el uso de la IA por parte de la empresa tiene un gran impacto en la vida humana al mejorar los resultados de salud y reducir los costos.

Él describe el enfoque del liderazgo superior en RAI como “fundamental” para brindar soluciones de IA confiables que los pacientes y los médicos estén dispuestos a adoptar.

Centrarse en las partes interesadas internas

Independientemente de lo que una empresa decida hacer con la IA dentro de la organización, ya sea mejorar la productividad y el diseño del producto o reducir los costos, su estrategia para la IA depende de tener prácticas de IA responsables, observan varios panelistas.

Linda Leopold, directora de IA y datos responsables de H&M Group, ofrece una declaración clara en ese sentido:

“La IA responsable debe verse como una parte integrada de la estrategia de IA, no como un complemento o una ocurrencia tardía“.

Francesca Rossi, líder global de ética de IA de IBM, agrega: “Cualquier empresa que construya, use o implemente IA debe asegurarse de que los sistemas de IA no solo sean precisos sino también confiables (justos, sólidos, explicables, etc.). … Es necesario definir una estrategia de IA responsable y utilizarla para respaldar todo el ecosistema de IA en toda la empresa”.

La alta dirección puede desempeñar un papel clave para garantizar que estas prácticas de RAI se adopten e implementen ampliamente como parte de la estrategia de la empresa para la IA.

Steven Vosloo, especialista en políticas digitales de la Oficina de Perspectivas y Políticas Globales de UNICEF, sostiene que “no es suficiente esperar que los gerentes de productos y los desarrolladores de software tomen decisiones difíciles sobre el diseño responsable de los sistemas de IA cuando están bajo una presión constante para cumplir con los objetivos corporativos”.

Necesitan un mensaje claro de la alta dirección sobre dónde se encuentran las prioridades de la empresa y que cuentan con el apoyo para implementar la IA de manera responsable”. Belona Sonna, un Ph.D. candidato en el programa Humanising Machine Intelligence en la Universidad Nacional de Australia, agrega:

“La decisión de suscribirse a la IA responsable debe ser llevada a cabo por el equipo de gestión para que su implementación sea efectiva”.

Centrarse en las partes interesadas tanto internas como externas

Algunos panelistas reconocen explícitamente que la IA responsable es esencial para ser una empresa responsable, tanto operativa como estratégicamente. Por ejemplo, Katia Walsh, directora de estrategia global y directora de inteligencia artificial de Levi Strauss & Co., observa:

“Todas las empresas ahora son empresas de tecnología, y construir un marco de inteligencia artificial responsable desde el principio es fundamental para administrar un negocio responsable. Los datos, lo digital y la IA son fundamentales para la forma en que las empresas se conectan con los consumidores, impulsan las operaciones internas y trazan estrategias futuras”.

Richard Benjamins, jefe de inteligencia artificial y estratega de datos de Telefónica, enfatiza específicamente la responsabilidad social de una empresa.

“Las empresas que hacen un uso extensivo de la inteligencia artificial, ya sea para uso interno o para ofrecer productos al mercado, deberían incluir la IA responsable en sus agendas de alta dirección”, dice.

“Para tales empresas, es importante monitorear, de manera continua, los posibles impactos sociales y éticos de los sistemas que usan IA en personas o sociedades”.

A medida que las empresas integran la IA en sus operaciones y estrategias corporativas, la alta dirección debe priorizar y reforzar los esfuerzos de IA responsable.

Precauciones

Aproximadamente una sexta parte de nuestros panelistas (14 por ciento) no está ni de acuerdo ni en desacuerdo con que la RAI debería ser un problema de la alta dirección. Ofrecen varias razones por las que el enfoque de la alta dirección en RAI no es suficiente.

El profesor asociado de ética empresarial de Carnegie Mellon, Tae Wan Kim, observa que la alta dirección es falible:

“Necesitamos más pruebas sobre si tener una IA responsable como parte de la agenda de la alta dirección tiene un impacto positivo o negativo”.

Cita el despido por parte de Google de un destacado especialista en ética de la IA, Timnit Gebru, como un ejemplo de la preocupante toma de decisiones de la alta dirección sobre cuestiones relacionadas con la RAI. ¿Están los propios líderes aceptando la transformación cultural necesaria para adoptar IA y RAI? Leopold de H&M advierte que las empresas necesitan la aceptación de los empleados de primera línea tanto como la atención de la alta dirección.

Algunas aplicaciones de IA no merecen la atención de la alta dirección, afirma Brian Yutko, vicepresidente e ingeniero jefe de sostenibilidad y movilidad futura de Boeing.

“Algunas aplicaciones necesitan una supervisión de liderazgo superior significativamente mayor que otras”, señala.

David R. Hardoon, director de datos e inteligencia artificial en UnionBank de Filipinas, invita a la pregunta: ¿Cómo encaja RAI con los objetivos más amplios de una empresa para ser un negocio responsable? Por ejemplo, ¿la alta dirección está conectando intencionalmente la RAI con sus esfuerzos de responsabilidad social corporativa, en términos de gobierno, métodos y procesos?

Cerrando la brecha

Con estas precauciones en mente, los líderes pueden seguir los siguientes tres pasos para incluir la IA en sus agendas de alta dirección:

1.Educar a la alta dirección. Es fácil decir las cosas correctas sobre la importancia de una IA responsable. También es fácil reconocer la importancia de hacer tales declaraciones. Pero entender por qué RAI es una preocupación material para la estrategia corporativa puede requerir educación. Sin esa educación, es posible que RAI no llegue a la agenda de la alta dirección o no permanezca allí.

2.Evalúe si la RAI es parte de su estrategia para la IA o parte de una discusión más amplia sobre los objetivos corporativos, incluida la responsabilidad social corporativa. Si la alta dirección ve la RAI como un problema estrictamente operativo, es posible que no se incluya en la agenda de la alta dirección.

3.Fomentar la urgencia. Si el uso de IA está en la agenda de la alta dirección, RAI también debería estarlo. Esperar a que la IA gane tracción en su empresa y luego agregar RAI después del hecho invita a comportamientos y resultados riesgosos.

Para evitar esos problemas, como señalan muchos panelistas, es mejor considerar la RAI como un problema de la alta dirección más temprano que tarde.

SOBRE EL PANEL

MIT Sloan Management Review y Boston Consulting Group reunieron un panel internacional de más de 20 profesionales de la industria, académicos, investigadores y legisladores para compartir sus puntos de vista sobre temas centrales relacionados con la IA responsable.

En el transcurso de cinco meses, pediremos a los panelistas que respondan una pregunta sobre la IA responsable y expliquen brevemente sus respuestas. Los lectores pueden ver todas las respuestas y comentarios de los panelistas en el panel que se encuentra en la parte inferior de cada artículo y continuar la discusión en AI for Leaders, una comunidad de LinkedIn diseñada para fomentar la conversación entre líderes y expertos en tecnología con ideas afines.

REFERENCIAS

1. Definimos la agenda de la alta dirección como una pequeña lista de prioridades estratégicas nombradas o un tema regular de la agenda en las reuniones de liderazgo.