El ‘deepfake’ y las interacciones humanas: riesgos y posibilidades

Sanjay Podder, Shalabh Kumar Singh, Neville Dubash y David Light

Los personajes virtuales (individuos ficticios con estilo, personalidad y actitudes propios, creados a partir de tecnologías digitales) se han vuelto cada vez más comunes y han representado una transformación radical para el estudio y la comprensión de la historia. De hecho, las investigaciones demuestran que el uso de tecnologías de inmersión virtual, para fines educativos, puede aumentar las tasas de participación hasta 10 veces y también mejorar los procesos mnemotécnicos.

Pero ahora también las empresas comienzan a darse cuenta de todas las posibilidades que puede ofrecerles este tipo de tecnología: hacer publicidad cada vez más personalizada o crear experiencias de compra más entretenidas, ya sea en tiendas físicas o en línea. Por ejemplo, Cheetos, la marca de frituras, hace poco lanzó un comercial con avatares de celebridades; y la aplicación Pictofit de Reactive Reality permite a los usuarios crear sus propios avatares en sólo tres minutos para “probarse” ropa de venta en línea.

Muchos líderes aprecian el potencial de esta tecnología en ciernes, ya sea para respaldar la marca de su empresa, informar a los consumidores o defender el cambio social y ambiental, pero también han notado que existen dos importantes retos a superar:

Complejidad

El primer obstáculo es de tipo tecnológico. Producir un deepfake simple (medio sintético para reemplazar a una persona en imagen, video o audio), con software de intercambio de rostros y/o síntesis de voz, es relativamente fácil. Pero crear un personaje interactivo que participe en una comunicación bidireccional con el usuario, por otro lado, es mucho más difícil; tan sólo para sostener conversaciones con el público, un personaje digital debe tener un banco de conocimientos profundo, para lo cual se requiere de una inversión inicial cuantiosa.

Hacer un avatar “viviente” interactivo es todo un reto. El Centro de Educación y Museo del Holocausto de Illinois, creó avatares de sobrevivientes del Holocausto. Para ello, el equipo de diseñadores planteó a cada participante más de 2,000 preguntas; luego, transfirieron esa información al avatar, usando la comprensión del lenguaje natural (un subcampo del procesamiento del lenguaje, enfocado en la comprensión de lectura de las máquinas). Finalmente, gracias a las herramientas de machine learning el avatar pudo responder correctamente cuando interactuaba con los visitantes.

Si se pretende crear un personaje digital de alguien que ya falleció es aún más difícil. Una de las herramientas para elaborar estos personajes se llama codificador automático, el cual codifica los rasgos faciales y luego los decodifica en la cara meta. Este proceso se puede mejorar aún más utilizando una red generativa de confrontación, un método de machine learning que enfrenta dos redes neuronales: una red “generadora” crea datos falsos para intentar engañar a la otra, “evaluadora”, haciéndole creer que es real hasta que pasa una prueba.

Dado que las necesidades tecnológicas de cada personaje varían según su propósito, no todas se crean con las mismas herramientas. Pero si se toman en cuenta todas las posibilidades de interacción (preguntas, interrupciones, etc.), es menos probable que las empresas subestimen los retos que enfrentará su personaje.

Uso indebido, abusos y hackeos

El segundo reto es el riesgo potencial que esta tecnología representa para la sociedad. Por desgracia existen muchísimos ejemplos de uso indebido del deepfake: en 2019, The Wall Street Journal informó que el director ejecutivo de una empresa energética con sede en el Reino Unido, creyendo que hablaba por teléfono con su jefe, transfirió 243,000 dólares a la cuenta bancaria de un proveedor húngaro; en Gabón, lanzaron un video controversial del presidente tan auténtico que provocó un intento de golpe de Estado; y la compañía de IA DeepTrace estimó que entre los 15,000 videos deepfake hallados en internet, en septiembre de 2019, el 96% eran pornográficos, casi todos celebridades femeninas.

Los riesgos son claros; no obstante, muchas tecnologías nuevas han planteado inquietudes similares: la edición de fotos y videos, la impresión 3D, etc. Los personajes digitales pueden ofrecer inmensos beneficios sociales y comerciales, pero las empresas deben desarrollar y ejecutar una estrategia bien pensada para mitigar los riesgos.

3 puntos clave de una buena estrategia

1. Desarrollar un personaje auténtico. En el museo de Bangalore, se tomó la decisión de producir un holograma de M.F. Husain, el “Picasso de la India”, sólo después de haber concluido un proceso de diseño exhaustivo para analizar cualquier posible fallo; por ejemplo, ¿con cuántas personas puede interactuar a la vez?, ¿será accesible para la gente con discapacidad?, ¿se ve bien desde todos los ángulos?

Una herramienta clave fue la ergonomía cognitiva, mediante la cual los sistemas simplifican su uso, a través del análisis de la percepción humana y los procesos mentales. En el caso de Husain, los diseñadores tuvieron que asegurarse de que la iluminación fuera consistente y que el cabello, el tono de piel, la barba y la estructura facial estuvieran correctamente representados. Incluso las imperfecciones leves pueden “arruinar” la experiencia de un usuario.

En otros contextos, se pueden destacar diferentes características. Por ejemplo, si una empresa planea que los clientes desarrollen sus propios avatares para probarse ropa, es crucial que el programa imite con precisión las características físicas de la persona real. En cambio, para un juego, el avatar debe forjar relaciones y vínculos con el usuario.

2. Crear un personaje flexible. La mayoría de los personajes digitales son estáticos y no responden; difunden un mensaje y no pueden adaptarse a los intereses cambiantes del usuario. Un nivel tan simple de funcionalidad no bastará para crear una experiencia atractiva. Los avatares tienen que relacionarse y adaptarse como lo haría un comediante en su rutina de stand-up para mantener el interés del público.

En este punto entran en juego el procesamiento y la comprensión del lenguaje natural. Contar con funciones multilingües puede mejorar aún más la experiencia en un país o en varios. Una vez más, sin embargo, es importante comprender el contexto en el que el avatar “se desempeña”; se debe tomar en cuenta el ruido ambiental, la variación del acento, los regionalismos o las interrupciones normales de una conversación cotidiana.

El análisis de emociones también es importante. El estado de ánimo de una audiencia se puede medir a través de señales no verbales; por ejemplo, en el museo de Bangalore, si los movimientos oculares de los visitantes sugieren que su interés cae por debajo del 50%, el avatar de Husain cambiará el tema de conversación.

3. Hacer un personaje a prueba de sesgos y hackeos. Dado que los personajes digitales son, en su mayoría, “gemelos virtuales”, la experiencia debe ser ética. Para minimizar los riesgos, estas tecnologías se deben emplear en un entono controlado y las partes interesadas tienen que conocer y aprobar cada detalle.

Otro aspecto de suma importancia son los prejuicios raciales o de género, pues se sabe que el software de reconocimiento facial funciona mal para las personas de color. Cuando permitan que sus clientes creen avatares de sí mismos, las empresas deben asegurarse de que el software no tiene sesgos y que funciona igual con distintos tonos de piel, estructuras faciales y otras características.

Respecto al tema de seguridad, una forma de protección contra hackers pueden ser las marcas de agua. Investigadores de la Universidad de Nueva York están desarrollando una marca de agua digital que utiliza redes neuronales para autenticar la integridad de una imagen: si intentan alterarla, la marca se rompe.

Además, siempre está la posibilidad de utilizar huellas digitales a prueba de manipulaciones, que pueden alertar a una empresa si otra parte está haciendo un uso indebido del contenido original. La toma de huellas digitales depende de una combinación de IA, visión por computadora, redes neuronales y blockchain, mediante la cual se detectan alteraciones espaciales o temporales (que ocurren si intentan cambiar la cara del avatar o modificar el contenido, como las palabras, por ejemplo).

Las empresas pueden reducir los riesgos, pero igualmente tienen que planificar cómo reaccionar ante las emergencias. Deben desarrollar una estrategia de comunicación clara para su negocio e informar, tanto a los clientes como a los empleados, cómo minimizar los riesgos desde su origen.

Entre más sofisticada sea una tecnología, mayor alcance tendrán sus aplicaciones. Pronto, los personajes digitales podrían utilizarse en reuniones corporativas o en debates políticos, donde hologramas interactúen e incluso empleen software de interpretación en vivo para conversar en un idioma que les sea cómodo.

Los personajes digitales podrían ser poderosas fuentes de información: herramientas para salvar distancias físicas y permitir que los ejecutivos y equipos estén presentes en más de un lugar a la vez. Si bien los riesgos de un uso indebido son graves y es necesario comprenderlos, esta tecnología representa un enorme valor en bruto para las empresas. Es hora de que tú también puedas explotarlas.

SEMBLANZA

Sanjay Podder lidera el área de innovación tecnológica sostenible en Accenture. Shalabh Kumar Singh es director de Accenture Research. Ambos son coautores del artículo “How Green Is You Software”. Neville Dubash es director principal de I+D de tecnología en Accenture Technology Sustainability Innovation. David Light es editor en jefe de Accenture Research.

AGRADECIMIENTOS

Los autores agradecen a la directora de I+D de tecnología, Nisha Ramachandra, y a la editora de Accenture Research, Regina F. Maruca, por su apoyo en la elaboración de este artículo.

Artículo traducido por Elvira Rosales, a partir de: https://sloanreview.mit.edu/article/creating-valuable-and-trusted-experiences-with-digital-personas/

Síguenos en Google News