IA responsable y responsabilidad social corporativa: una mezcla difícil de conseguir

MIT Sloan Management Review y Boston Consulting Group (BCG) han reunido un panel internacional de expertos en IA que incluye académicos y profesionales para ayudarnos a obtener información sobre cómo se está implementando la inteligencia artificial responsable (RAI) en organizaciones de todo el mundo. 

La pregunta de este mes para nuestros panelistas: ¿Debe una organización vincular sus esfuerzos de RAI con sus esfuerzos generales de responsabilidad social corporativa (RSC)? 

Los resultados presentan un panorama mixto. Mientras que el 52% de los panelistas (11 de 21) cree que los esfuerzos de RAI y RSE de una organización deben estar vinculados, el 24% no lo cree (5 de 21 en desacuerdo o totalmente en desacuerdo), y un porcentaje igual expresó ambivalencia (5 de 21 ni de acuerdo ni en desacuerdo). 

Síguenos en Google Noticias para mantenerte informado

A pesar de la falta de consenso, hay algunas características comunes entre quienes están de acuerdo en que las organizaciones deben vincular sus esfuerzos de RAI y RSE, así como algunas preocupaciones compartidas entre los panelistas restantes.

También realizamos una encuesta global a más de 1,000 ejecutivos para preguntar sobre una pregunta similar: la medida en que creen que los esfuerzos de RAI y RSE de su organización están realmente vinculados en la práctica.

Una abrumadora mayoría de los encuestados: el 90% de los gerentes en las empresas con al menos $100 millones en ingresos anuales, informaron que los esfuerzos de RAI y CSR de su organización están vinculados, aunque en diversos grados (23% en gran medida, 24% en una medida moderada, 25 % en cierta medida y 18 % en cierta medida). 

Entre los líderes de RAI, el 73% informó sobre vínculos entre los dos (totalmente de acuerdo/de acuerdo), en comparación con sólo el 35 % de los no líderes.

Solo el 10% de los gerentes encuestados informaron que no hay ninguna conexión entre los dos. 

Si bien la pregunta planteada a nuestros panelistas era normativa y la pregunta planteada a los encuestados era empírica, la divergencia entre los resultados de la encuesta y del panel también podría atribuirse a la amplia variedad de opiniones que describimos en este artículo sobre qué abarca RAI y RSE.

A continuación, compartimos algunas de las ideas de nuestros panelistas de RAI.

Luego, basándonos en las respuestas de nuestros panelistas y nuestra propia experiencia trabajando con iniciativas de RAI, ofrecemos tres consideraciones prácticas para las organizaciones que están considerando vincular sus esfuerzos de RAI y CSR.

Razones para conectar la IA responsable y la RSE

Una ligera mayoría de nuestros panelistas (52%) cree que las organizaciones deben vincular sus esfuerzos de RAI con sus esfuerzos de RSE. 

Pero sus respuestas reflejan dos razones distintas para hacerlo basadas en la alineación inherente entre RAI y CSR, y el valor instrumental de vincular RAI a los esfuerzos de CSR.

Alineación inherente entre RAI y RSE

Entre los panelistas que destacaron la alienación inherente entre los principios y objetivos de la RAI y la RSC se encuentra Nitzan Mekel-Bobrov, director de inteligencia artificial de eBay. 

Como él explica “Muchas de las ideas centrales detrás de la IA responsable, como la prevención de sesgos, la transparencia y la equidad, ya están alineadas con los principios fundamentales de la responsabilidad social corporativa, por lo que ya debería parecer natural que una organización vincule su IA.” 

Por ejemplo, como señala Linda Leopold, jefa de inteligencia artificial y datos responsables en H&M Group, “existe una estrecha conexión entre la inteligencia artificial responsable y los esfuerzos para promover la sostenibilidad social y ambiental”.

De manera similar, Vipin Gopal, director de datos y análisis de Eli Lilly, agrega: “Muchas dimensiones de la IA responsable reflejan la responsabilidad de las empresas hacia sí mismas y hacia sus partes interesadas y, por lo tanto, están fundamentalmente vinculadas a la RSE“. 

Finalmente, enlazando la RSC y los objetivos ambientales, sociales y de gobierno (ESG) relacionados, Richard Benjamins, jefe de inteligencia artificial y estratega de datos de Telefónica, observa que “en las organizaciones que usan IA a escala, existe una estrecha conexión con todos los elementos ESG.”

¿Qué perdemos cuando hablamos de ESG y no de sostenibilidad?

Valor instrumental de vincular la RAI a la RSE

Más allá de la alienación inherente entre RAI y CSR, varios panelistas destacaron razones más instrumentales o pragmáticas para vincularlos. 

Aisha Naseer, directora de investigación de Huawei Technologies Co. (Reino Unido), argumenta que los dos deben trabajar en conjunto: “Desde una perspectiva organizacional, la implementación práctica de la iniciativa de IA responsable debe estar estrechamente alineada con los esfuerzos de responsabilidad social corporativa para dirigir resultados comerciales responsables”. 

Situando a RAI en un contexto más extenso como la licencia social de una organización para operar IA, Katia Walsh, directora de estrategia global y directora de IA de Levi Strauss & Co., sostiene: “Para que los esfuerzos de transformación digital tengan éxito, deben estar al servicio de los impulsores comerciales que permitirán y protegerán el derecho de una empresa a operar en el futuro, incluidas las prioridades de responsabilidad social corporativa.”

Por otro lado, la visión instrumental también sugiere que no vincular la RAI con la RSE podría dañar a una organización. 

Oarabile Mudongo, investigador del Centro de IA y Política Digital, refuerza la idea de que la RAI es fundamental para proteger el derecho a operar de una empresa. 

Advierte: “Al establecer esfuerzos de responsabilidad social corporativa, estas empresas pueden demostrar que desarrollar e incorporar de manera efectiva la IA ética no es solo una ventaja y que no hacerlo puede ser una responsabilidad importante para las operaciones comerciales“.

Completamente de acuerdo.

“Más allá de diseñar soluciones basadas en IA, las organizaciones involucradas en IA responsable establecen una estrecha relación entre las soluciones y la sociedad al incorporar valores que sitúan al ser humano en el centro del desarrollo. En tal contexto, es más probable que las personas usen, confíen y recomienden los productos: la organización es responsable y puede obtener la mayor parte del mercado. Además, a través de esta relación, la organización es más consciente de las necesidades y preocupaciones de la sociedad y, por lo tanto, es capaz de producir soluciones que le importan. Esta es una clave para el éxito empresarial y la innovación”.

Belona Sonna 
Australian National University and Bel’s AI Initiative

Precauciones

Ya sea que los encuestados estén o no de acuerdo con nuestra declaración, el punto clave que surgió es que no existe una respuesta única para todos. 

Los panelistas identificaron dos consideraciones principales que afectan si una organización debe vincular sus esfuerzos de RAI y RSE: su uso de IA y la fuerza de su iniciativa de RSE.

Varios panelistas que expresaron ambivalencia sugirieron que la respuesta depende del uso de IA de una organización, incluido su nivel de madurez de IA. 

Como dice Slawek Kierner, vicepresidente sénior de análisis y salud digital de Humana, “es probable que cada empresa necesite encontrar su respuesta única según su industria y su estado de madurez en IA y ESG”. 

Para Jaya Kolhatkar, director de datos de Hulu, “la vinculación de los esfuerzos de IA responsable con los esfuerzos de responsabilidad social corporativa de una empresa depende en gran medida de si el uso de IA por parte de una empresa está vinculado a su responsabilidad social. Cada empresa debe evaluar esta relación caso por caso en función de los estatutos de la empresa”. 

Finalmente, Philip Dawson, miembro del Schwartz Reisman Institute for Technology and Society, argumenta que vincular la RAI con la RSE es menos importante que “establecer políticas y prácticas de RAI que se entiendan ante todo como una respuesta proactiva a los problemas legales, de gobernanza y estándares técnicos y una expresión auténtica de los valores corporativos.”

En desacuerdo

“La IA responsable debería ser un requisito para cada modelo construido. Debe ejercerse como una cuestión de rutina, al igual que la construcción de un espacio de trabajo seguro es necesaria como una cuestión de rutina. Es independiente de los esfuerzos más grandes de responsabilidad social corporativa, que a menudo están dirigidos a esfuerzos específicos”.

Craig Martell 
Lyft

La Inteligencia Artificial administrativa puede ser una aliada para mejorar la atención médica

Los panelistas también expresaron su preocupación acerca de vincular la RAI con la RSE si la RAI es débil dentro de una organización. 

Como explica Simon Chesterman, director sénior de gobernanza de IA en la Universidad Nacional de Singapur: “Una de las preocupaciones sobre la responsabilidad social corporativa era que ubicaría las cuestiones de responsabilidad en el departamento de marketing en lugar del departamento legal o de cumplimiento”. 

De manera similar, el profesor asociado de ética empresarial de Carnegie Mellon, Tae Wan Kim, observa: “Es cierto que la ética se puede utilizar como una estrategia para la gestión de la reputación, y las empresas lo hacen bajo el nombre de CSR. Sin embargo, tal perspectiva es insuficiente. Tomemos como ejemplo a Enron, una empresa que se dedicaba a varias actividades filantrópicas (más allá del deber) mientras que también infringía imprudentemente los deberes éticos en torno al engaño y la manipulación”.

Kim también señala que, si bien los esfuerzos de RSE a menudo se preocupan por la reputación, la percepción y la imagen de una empresa y, por lo tanto, deben ser visibles para los clientes, “gran parte de los esfuerzos de IA responsables son técnicos y difíciles de explicar a los clientes” y, por lo tanto, carecen de las mismas motivaciones externas. 

Por último, Steven Vosloo, especialista en políticas digitales de la Oficina de Perspectiva y Políticas Globales de UNICEF, se preocupa por la fugacidad de las prioridades de la RSE y señala: “Los esfuerzos de responsabilidad social corporativa pueden cambiar a medida que las empresas se enfocan en diferentes temas a lo largo del tiempo, mientras que la IA responsable es un tema perdurable que debe estar anclado en el funcionamiento central de la organización”.

De acuerdo

“Si bien creo que las prácticas de IA deben alinearse con los esfuerzos de responsabilidad social corporativa de una organización, realmente depende de qué tan en serio se tome la RSC dentro de una organización y si se usa para ayudar a establecer las prioridades de la misma. He visto muchos ejemplos en los que la RSE no está fuertemente integrada en la toma de decisiones corporativas, por lo que no creo que la IA responsable deba vincularse a la RSC. Idealmente, la IA responsable está ligada a los objetivos ambientales, sociales y de gobierno establecidos de una organización, con informes regulares y transparentes sobre estos objetivos en una función sólida de RSC”.

Ashley Casovan 
Responsable Instituto IA 

Cerrando la brecha

Con estas precauciones en mente, los líderes deben considerar lo siguiente al determinar si vincular sus esfuerzos de RAI con sus esfuerzos de RSE:

• Considera la cultura organizacional. Dada la alienación inherente y el valor instrumental de vincular los esfuerzos de RAI y CSR, considera la cultura organizacional más amplia, incluidas sus actitudes hacia la innovación, la transformación digital y otros resultados comerciales. Si tu organización está muy orientada a un propósito, podría tener sentido vincularlos.
• Ten en cuenta el uso de la IA y el nivel de madurez de la IA. Si los niveles de madurez de la IA son altos y el uso de la IA está vinculado a su responsabilidad social, podría ser beneficioso vincular sus esfuerzos de RAI y CSR.
• Evalúa la fortaleza de los esfuerzos de RSE. Si tus iniciativas de RSE son sólidas, podría ser beneficioso vincular RAI con ellas debido a la alienación inherente y el valor instrumental al hacerlo. Sin embargo, si la RSE es un eslabón débil, es posible que desee reconsiderarlo.

SOBRE EL PANEL

MIT Sloan Management Review y Boston Consulting Group reunieron un panel internacional de más de 20 profesionales de la industria, académicos, investigadores y legisladores para compartir sus puntos de vista sobre temas centrales relacionados con la IA responsable. En el transcurso de cinco meses, pediremos a los panelistas que respondan una pregunta sobre la IA responsable y expliquen brevemente su respuesta. Los lectores pueden ver todas las respuestas y comentarios de los panelistas en el panel que se encuentra en la parte inferior de cada artículo y continuar la discusión en AI for Leaders, una comunidad de LinkedIn diseñada para fomentar la conversación entre líderes y expertos en tecnología con ideas afines. 

SOBRE LOS AUTORES

Elizabeth Renieris es editora invitada del programa MIT Sloan Management Review Responsible AI Big Idea y directora fundadora del Laboratorio de Ética Tecnológica de Notre Dame-IBM. David Kiron es director editorial de MIT Sloan Management Review. Steven D. Mills es director gerente, socio y director de ética de IA en Boston Consulting Group.

Sé parte de nuestra comunidad en LinkedIn

Síguenos en Google News