El lado oscuro de la IA: Descubriendo los peligros detrás de las imágenes falsas

Dall-e y Midjourney son dos herramientas que generan imágenes a través del uso de la Inteligencia Artificial (IA). Gracias a ambas plataformas, el mundo ha podido materializar escenarios futuristas. Pero también han recreado sucesos imaginarios que muchas veces son confundidos con la realidad.

Por ello, durante las últimas semanas distintas personas tomaron la imagen de actores políticos y religiosos y la insertaron en escenarios falsos. El Papa Francisco, Donald Trump y Felipe Calderón son tres personajes que recientemente han sido víctimas de esos montajes.

El encuentro con la Inteligencia Artificial Generativa, un paso en el futuro algorítmico

La IA generó el papa más fashionista de los últimos años

Durante los últimos días la imagen del Papa Francisco utilizando una cazadora color blanco, perfectamente adecuada a su estilo, se volvió viral. Y, aunque era hiperrealista, la fotografía fue creada artificialmente en la plataforma Midjourney.

Ciertamente muchos de los usuarios que compartieron la imagen sabían que era falsa. Sin embargo, hubo otros que no. 

Esta foto del Papa Francisco es un botón de muestra de lo que puede hacer la inteligencia artificial.
Se vienen tiempos muy peligrosos, de muchas mentiras y daños a la democracia. pic.twitter.com/uifFkSElgQ

— Mauro Brissio (@BrissioMauro) March 25, 2023

Donald Trump y Felipe Calderón, otras víctimas de Midjourney

Donald Trump está en uno de los momentos más difíciles que haya atravesado ya que la actriz de cine para adultos, Stormy Daniels, mencionó que el ex mandatario le pagó por mantener relaciones sexuales con ella.

Dichas acusaciones generaron revuelo ya que, de ser cierto, Trump violó las normas que rigen el financiamiento de las campañas electorales. Miles de personas han seguido el caso del político, pero fue hasta hace una semana que algunas fotografías del empresario siendo aprehendido salieron a la luz.

Einstein GPT: Dile hola a la nueva IA enfocada en atención a clientes

Al igual que el caso del pontífice, las imágenes fueron generadas por IA, aunque muchas personas creyeron la noticia y festejaron su arresto.

Lo mismo pasó con el expresidente mexicano, Felipe Calderón, quien es acusado de encubrir los nexos que su ex secretario de seguridad pública, Genaro García Luna tuvo con el narcotráfico. Posteriormente, aparecieron fotografías generadas por IA en las que el ex mandatario aparecía custodiado para ser llevado a la cárcel, lo que calentó los ánimos.

Los riesgos reales del uso de la IA para generar imágenes

La IA no tiene filtros y es guiada por el conocimiento humano almacenado en millones de páginas y vídeos de internet y, aunque actualmente la sociedad está haciendo un esfuerzo por eliminar sesgos y actitudes racistas, la tecnología puede que no lo haga.

Es así como el uso de las herramientas digitales que generan tanto imágenes como textos puede incitar la polarización y remarcar pensamientos del tipo homófobos, racistas, clasistas o machistas. 

El encuentro con la Inteligencia Artificial Generativa, un paso en el futuro algorítmico

Además, como pasó con el Papa Francisco y los dos políticos, el uso extendido de la IA puede hacer que la humanidad caiga en un grave problema de esparcimiento de noticias falsas. 

“Hasta que se puedan prevenir esos daños, no estamos hablando realmente de sistemas que se puedan usar al aire libre”, dijo Arthur Holland Michel, miembro principal del Consejo Carnegie para la Ética en Asuntos Internacionales que investiga la IA a CNN Business.

¿Es posible detectar las imágenes generadas por IA?

Observar y analizar los pequeños detalles es lo que te hará un experto detectando las imágenes generadas por IA. Por lo tanto, debes poner especial atención en las proporciones del cuerpo o en los ojos de las personas. 

Henry Ajder, un experto en IA, mencionó para la BBC que la tecnología actual no es muy buena para representar ciertas partes del cuerpo, especialmente las manos.

“Si haces zoom en las imágenes, a menudo puedes ver inconsistencias, como la cantidad de dedos“, comentó.

Síguenos en Google News