RAI, más allá de la tecnología es un tema que se resuelve integralmente
¿La RAI es un tema que va más allá del liderazgo tecnológico? Algunos expertos opinaron si la gobernanza responsable de la IA es un tema más profundo.
¿Cómo se está aplicando la inteligencia artificial responsable (RAI) en las organizaciones de todo el mundo? MIT Sloan Management Review y BCG han reunido un panel internacional de expertos en IA que incluye a académicos y profesionales para ayudarnos a conocer esta respuesta.
Este mes, hemos pedido a nuestros expertos que reaccionen a la siguiente aseveración: Los ejecutivos suelen pensar en la RAI como una cuestión tecnológica.
La inteligencia artificial responsable permite el tipo de innovación que importa
Los resultados fueron muy variados, ya que el 40% (8 de 20) de nuestros panelistas estaban de acuerdo o muy de acuerdo con la afirmación. El 15% (3 de 20) estaban en desacuerdo o muy en desacuerdo con ella. Mientras que el 45% (9 de 20) se mostraron ambivalentes, ni de acuerdo ni en desacuerdo.
Si bien nuestros panelistas difieren en cuanto a si este sentimiento está muy extendido entre los ejecutivos, una fracción considerable sostiene que depende de a qué ejecutivos se les pregunte.
Nuestros expertos también afirman que las opiniones están cambiando, y algunos ofrecen ideas sobre cómo acelerar este cambio.
En septiembre de 2022, publicamos los resultados de un estudio de investigación titulado “Para ser un líder responsable de la IA, céntrate en ser responsable“.
A continuación, compartimos las opiniones de nuestros panelistas y nos basamos en nuestras propias observaciones en iniciativas de RAI. Esto con el objetivo de persuadir a los ejecutivos de que la RAI es algo más que una cuestión tecnológica.
Perspectivas diversas de los ejecutivos sobre la RAI
Muchos de nuestros expertos son reacios a generalizar cuando se trata de las percepciones de los directivos sobre la IA.
Para Linda Leopold, jefa de IA y datos responsables del Grupo H&M, “los ejecutivos, así como los expertos en la materia, suelen ver la IA responsable a través de la lente de su propia área de especialización. Pero tal vez no vean todo su espectro”.
Belona Sonna, candidata al doctorado en el programa de Humanización de la Inteligencia Artificial de la Universidad Nacional de Australia, coincide en que “que los que tienen una formación técnica piensan que la RAI consiste en construir un modelo eficiente. Los que tienen una formación social piensan que es más o menos una forma de tener un modelo que sea coherente con los valores de la sociedad”.
Ashley Casovan, directora ejecutiva del Responsible AI Institute, sostiene igualmente que “realmente depende del ejecutivo. Depende su función, de la cultura de su organización. También de su experiencia en la supervisión de otros tipos de tecnologías y de las prioridades que compiten entre sí”.
La medida en que un directivo considere la inteligencia artificial como una cuestión tecnológica puede depender no sólo de su propia formación. También lo hace por la naturaleza su negocio e influye el grado de utilización de la inteligencia artificial para conseguir resultados.
“Las empresas que no se ocupan de la IA en términos de su negocio de sus operaciones pueden no prestar ninguna atención o atender la necesidad de preocuparse por la RAI. Pero aun así deben preocuparse por la responsabilidad empresarial. Por tanto, depende de la naturaleza de su negocio y del grado de integración de la IA en sus procesos organizativos”, dijo Aisha Naseer, directora de investigación de Huawei Technologies (Reino Unido).
En resumen, la medida en que los ejecutivos consideran la RAI como una cuestión tecnológica depende del contexto individual y organizativo.
No está de acuerdo
“Los ejecutivos tienden a considerar la RAI como una distracción. De hecho, muchos de ellos saben muy poco sobre la RAI y están preocupados por la maximización de los beneficios. Hasta que la RAI no encuentre su camino hacia la normativa, permanecerá en la periferia”.
Tshilidzi Marwala
Universidad de Johannesburgo
Un énfasis excesivo en las soluciones tecnológicas, ¿dónde quedó la RAI?
Aunque muchos de nuestros panelistas creen personalmente que la RAI es algo más que una cuestión tecnológica. Reconocen que algunos ejecutivos siguen albergando una perspectiva más limitada.
Por ejemplo, Katia Walsh, vicepresidenta sénior y jefa de estrategia global y de IA de Levi Strauss & Co., sostiene que “la RAI debería formar parte de los valores de toda la organización. Ya que es tan importante como otros pilares clave, como la sostenibilidad; la diversidad, la equidad y la inclusión. Además brinda contribuciones para marcar una diferencia positiva en la sociedad y en el mundo”.
En resumen, la RAI debe ser una cuestión fundamental para una organización, no relegada únicamente a la tecnología, según la directora.
Sin embargo, David R. Hardoon, director de datos y de IA de UnionBank de Filipinas, observa que la realidad suele ser diferente. Señala que el enfoque dominante adoptado por muchas organizaciones para establecer la RAI es tecnológico. Como la implementación de plataformas y soluciones para el desarrollo de la IA.
Nuestra encuesta global cuenta una historia similar, ya que el 31% de las organizaciones informan de que sus iniciativas de RAI están dirigidas por líderes técnicos, como un CIO o un CTO.
¿La RAI es un tema que solo atañe a los especialistas en tecnología?
Varios de nuestros panelistas afirman que los ejecutivos pueden poner demasiado énfasis en la tecnología. Y cree que esto resolverá todas sus preocupaciones relacionadas con la RAI.
Como dice Casovan, “Algunos ejecutivos ven la RAI como un simple problema tecnológico que puede resolverse con pruebas estadísticas o datos de buena calidad“.
“Los ejecutivos suelen entender que el uso de la IA tiene implicaciones más allá de la tecnología. Especialmente en relación con las consideraciones legales, de riesgo y de cumplimiento. En ocasiones, la RAI como marco de solución para abordar estas consideraciones, suele verse como una cuestión puramente tecnológica”, dice Nitzan Mekel-Bobrov, director de IA de eBay.
Y añade: “Hay una idea errónea generalizada de que la tecnología puede resolver todas las preocupaciones sobre el potencial mal uso de la IA“.
Nuestra investigación sugiere que los Líderes de RAI (organizaciones que asumen un compromiso filosófico y material con la RAI) no creen que la tecnología pueda resolver completamente el mal uso de la IA.
De hecho, nuestra encuesta global descubrió que los líderes de RAI implican un 56% más de roles en sus iniciativas de RAI que los no líderes (4,6 para los líderes frente a 2,9 para los no líderes).
Los líderes reconocen la importancia de incluir a un amplio conjunto de partes interesadas más allá de los individuos con funciones técnicas.
Ni de acuerdo ni en desacuerdo
“La naturaleza multidisciplinar de la IA responsable es tanto la belleza como la complejidad del área. La amplia gama de temas que abarca puede ser difícil de comprender. Pero para adoptar plenamente la IA responsable, se necesita una multitud de perspectivas. Pensar en ella como una cuestión tecnológica que puede ‘arreglarse’ sólo con herramientas técnicas no es suficiente”.
Linda Leopold
Grupo H&M
Las actitudes hacia la RAI están cambiando
Aunque algunos ejecutivos siguen considerando la RAI como una cuestión principalmente tecnológica, nuestros panelistas creen que las actitudes hacia la RAI están evolucionando. Esto es debido a la creciente concienciación y apreciación de las preocupaciones relacionadas con la RAI.
Como explica Naseer, “aunque la mayoría de los ejecutivos consideran la RAI como una cuestión tecnológica, debido a los recientes esfuerzos de concienciación sobre este tema, la tendencia está cambiando”.
Del mismo modo, Francesca Rossi, líder global de ética de la IA de IBM, observa: “Aunque esto podía ser cierto hasta hace unos años, ahora la mayoría de los ejecutivos entienden que la RAI significa abordar cuestiones sociotecnológicas. Que requieren soluciones sociotecnológicas“.
Por último, Simon Chesterman, director sénior de gobernanza de la IA en AI Singapur, sostiene que “al igual que la responsabilidad social corporativa, la sostenibilidad y el respeto a la privacidad. La RAI está en camino de pasar de ser algo de lo que se preocupan los departamentos de TI o de comunicación a ser una consideración de la línea de fondo“.
En otras palabras, está evolucionando de un “agradable de tener” a un “debe tener”.
Cambio de opiniones en la industria sobre la RAI, la verdadera razón de la ruptura de paradigmas
Para algunos de los panelistas, este cambio de actitud hacia la RAI se corresponde con un cambio en las opiniones de la industria sobre la propia IA.
Como observa Oarabile Mudongo, investigador del Center for AI and Digital Policy, “las actitudes de los directivos sobre la IA y su aplicación están cambiando“.
Asimismo, Slawek Kierner, vicepresidente senior de datos, plataformas y aprendizaje automático de Intuitive, plantea que “los recientes acontecimientos geopolíticos aumentaron la sensibilidad de los ejecutivos hacia la diversidad y la ética. Mientras que las exitosas transformaciones de la industria impulsadas por la IA la han convertido en un tema estratégico. La RAI está en la intersección de ambos y, por tanto, llega a la agenda de la sala de juntas“.
Para Vipin Gopal, director de datos y análisis de Eli Lilly, esta evolución depende de los niveles de madurez de la IA.
“Cada vez se reconoce más que la RAI es una cuestión empresarial más amplia que una cuestión puramente tecnológica. Pero las organizaciones que están en las primeras etapas de maduración de la IA todavía tienen que hacer este viaje”, dijo.
No obstante, Gopal cree que “es sólo cuestión de tiempo que la gran mayoría de las organizaciones consideren la RAI como un tema de negocio y la gestionen como tal.”
De acuerdo
“Para dejar de ver la RAI como un problema tecnológico, es importante ver los retos que la RAI plantea como retos que existen en gran medida con o sin IA”.
David R. Hardoon
UnionBank de Filipinas
En última instancia, una visión más amplia de la RAI puede requerir una transformación cultural u organizativa.
Paula Goldman, jefa de ética y uso humano de Salesforce, sostiene que “la ética de la tecnología tiene que ver tanto con el cambio de cultura como con la tecnología”.
“La IA responsable solo puede lograrse una vez que todos los miembros de la organización la hagan suya” agregó.
Mudongo está de acuerdo en que “aprovechar todo el potencial de la IA exige una transformación del pensamiento organizativo“.
Unir diversos puntos de vista puede ayudar. Richard Benjamins, jefe de estrategia de IA y datos de Telefónica, afirma que los líderes de nivel ejecutivo deben asegurarse de que los equipos técnicos de IA y los equipos de ESG (ambiental, social y de gobernanza) de mayor orientación social.
“Deben estar conectados y orquestar una estrecha colaboración para acelerar la implementación de la RAI”, mencionó.
Del mismo modo, Casovan sugiere que “el escenario ideal es tener una responsabilidad compartida a través de una junta de gobierno integral que represente tanto al negocio, como a los tecnólogos, la política, el derecho y otras partes interesadas“.
En nuestra encuesta, descubrimos que los Líderes son casi tres veces más propensos que los No Líderes (28% frente al 10%) a tener un comité o junta de RAI.
Recomendaciones
Para las organizaciones que quieran asegurarse de que su C-suite ve la RAI como algo más que una cuestión tecnológica, recomendamos lo siguiente:
- Reunir diversas voces. Los ejecutivos tienen diferentes puntos de vista sobre la RAI, a menudo basados en su propia formación y experiencia. Es fundamental adoptar una auténtica multiplicidad e interdisciplinariedad entre los encargados de diseñar, aplicar y supervisar los programas de RAI.
- Adoptar soluciones no técnicas. Los directivos deben entender que una RAI madura requiere ir más allá de las soluciones técnicas a los retos que plantean tecnologías como la IA. Deben adoptar soluciones tanto técnicas como no técnicas, incluyendo una amplia gama de políticas y cambios estructurales, como parte de su programa de RAI.
- Centrarse en la cultura. En última instancia, como explica Mekel-Bobrov, ir más allá de una visión estrecha y tecnológica de la RAI requiere una “cultura corporativa que incorpore las prácticas de RAI a la forma normal de hacer negocios”. Cultiva una cultura de responsabilidad dentro de su organización.
SOBRE EL PANEL
MIT Sloan Management Review y Boston Consulting Group han reunido a un grupo internacional de más de 20 profesionales de la industria, académicos, investigadores y responsables políticos para que compartan sus puntos de vista sobre cuestiones fundamentales relacionadas con la IA responsable.
A lo largo de cinco meses, pediremos a los panelistas que respondan a una pregunta sobre la IA responsable y expliquen brevemente su respuesta. Los lectores pueden ver todas las respuestas de los panelistas y los comentarios en el panel que aparece al final de cada artículo y continuar el debate en AI for Leaders, una comunidad de LinkedIn diseñada para fomentar la conversación entre expertos y líderes tecnológicos con ideas afines.
SOBRE LOS AUTORES
Elizabeth M. Renieris es editora invitada del programa MIT Sloan Management Review Responsible AI Big Idea y es investigadora asociada en el Instituto de Ética en la IA de Oxford. David Kiron es director editorial de MIT Sloan Management Review. Steven Mills es director general, socio y jefe de ética de la IA en Boston Consulting Group.