Nuestros sitios
Ver edición digital Suscríbete al NEWSLETTER
Compartir

El lado oscuro de la IA: Descubriendo los peligros detrás de las imágenes falsas

MIT SMR México 27 Mar 2023
El lado oscuro de la IA: Descubriendo los peligros detrás de las imágenes falsas

La IA brinda a los humanos posibilidades infinitas para crear imágenes, sin embargo, su uso puede traer varias consecuencias negativas.


Dall-e y Midjourney son dos herramientas que generan imágenes a través del uso de la Inteligencia Artificial (IA). Gracias a ambas plataformas, el mundo ha podido materializar escenarios futuristas. Pero también han recreado sucesos imaginarios que muchas veces son confundidos con la realidad.

Por ello, durante las últimas semanas distintas personas tomaron la imagen de actores políticos y religiosos y la insertaron en escenarios falsos. El Papa Francisco, Donald Trump y Felipe Calderón son tres personajes que recientemente han sido víctimas de esos montajes.

El encuentro con la Inteligencia Artificial Generativa, un paso en el futuro algorítmico

La IA generó el papa más fashionista de los últimos años

Durante los últimos días la imagen del Papa Francisco utilizando una cazadora color blanco, perfectamente adecuada a su estilo, se volvió viral. Y, aunque era hiperrealista, la fotografía fue creada artificialmente en la plataforma Midjourney.

Ciertamente muchos de los usuarios que compartieron la imagen sabían que era falsa. Sin embargo, hubo otros que no. 

Donald Trump y Felipe Calderón, otras víctimas de Midjourney

Donald Trump está en uno de los momentos más difíciles que haya atravesado ya que la actriz de cine para adultos, Stormy Daniels, mencionó que el ex mandatario le pagó por mantener relaciones sexuales con ella.

Dichas acusaciones generaron revuelo ya que, de ser cierto, Trump violó las normas que rigen el financiamiento de las campañas electorales. Miles de personas han seguido el caso del político, pero fue hasta hace una semana que algunas fotografías del empresario siendo aprehendido salieron a la luz.

Einstein GPT: Dile hola a la nueva IA enfocada en atención a clientes

Al igual que el caso del pontífice, las imágenes fueron generadas por IA, aunque muchas personas creyeron la noticia y festejaron su arresto.

Lo mismo pasó con el expresidente mexicano, Felipe Calderón, quien es acusado de encubrir los nexos que su ex secretario de seguridad pública, Genaro García Luna tuvo con el narcotráfico. Posteriormente, aparecieron fotografías generadas por IA en las que el ex mandatario aparecía custodiado para ser llevado a la cárcel, lo que calentó los ánimos.

Los riesgos reales del uso de la IA para generar imágenes

La IA no tiene filtros y es guiada por el conocimiento humano almacenado en millones de páginas y vídeos de internet y, aunque actualmente la sociedad está haciendo un esfuerzo por eliminar sesgos y actitudes racistas, la tecnología puede que no lo haga.

Es así como el uso de las herramientas digitales que generan tanto imágenes como textos puede incitar la polarización y remarcar pensamientos del tipo homófobos, racistas, clasistas o machistas

El encuentro con la Inteligencia Artificial Generativa, un paso en el futuro algorítmico

Además, como pasó con el Papa Francisco y los dos políticos, el uso extendido de la IA puede hacer que la humanidad caiga en un grave problema de esparcimiento de noticias falsas. 

“Hasta que se puedan prevenir esos daños, no estamos hablando realmente de sistemas que se puedan usar al aire libre”, dijo Arthur Holland Michel, miembro principal del Consejo Carnegie para la Ética en Asuntos Internacionales que investiga la IA a CNN Business.

¿Es posible detectar las imágenes generadas por IA?

Observar y analizar los pequeños detalles es lo que te hará un experto detectando las imágenes generadas por IA. Por lo tanto, debes poner especial atención en las proporciones del cuerpo o en los ojos de las personas. 

Henry Ajder, un experto en IA, mencionó para la BBC que la tecnología actual no es muy buena para representar ciertas partes del cuerpo, especialmente las manos.

“Si haces zoom en las imágenes, a menudo puedes ver inconsistencias, como la cantidad de dedos“, comentó.

Síguenos en Google News
Te recomendamos
Foto perfil de MIT SMR México
MIT SMR México La guía en español para los tomadores de decisiones Marca internacional de gran renombre con contenidos de alta calidad que cuenta con el respaldo de la prestigiosa MIT Sloan School of Management del MIT. Cualquier persona que influye en su entorno es un líder.
Descarga GRATIS nuestro especial
descargable
Descarga AQUÍ el artículo completo IA ¿Un riesgo para el planeta? ¡Descárgalo GRATIS!
Suscríbete al Newsletter
¡SUSCRÍBETE!
LanzamientoExclusiverseShaping Travel Experiences