Silicon Valley empoderará a sus usuarios para identificar imágenes con IA
Google, OpenAI y Meta son tres de las empresas insignia de Silicon Valley que trabajan para hacer que sus usuarios detecten fácilmente cuando una imagen fue creada con IA. Estas son sus funciones.
En un mundo cada vez más digital, la capacidad de distinguir entre imágenes reales y aquellas creadas mediante Inteligencia Artificial (IA) se ha convertido en una habilidad crucial. Por esto tres empresas de Silicon Valley trabajan para empoderar a sus usuarios y hacerles esta labor más sencilla.
La proliferación de tecnologías avanzadas ha facilitado la creación de imágenes extremadamente realistas, planteando desafíos significativos en diversos campos.
La creación de este tipo de imágenes y la imposibilidad de detectar su son falsas o no son un gran peligro para la humanidad. Por ejemplo, muchas de ellas pueden ser utilizadas para crear noticias falsas, que a menudo se propagan rápidamente a través de las redes sociales.
Estos archivos pueden influir en la opinión pública, manipular elecciones, o generar pánico en situaciones de emergencia. Detectar y etiquetar estas imágenes es vital para mantener la integridad de la información que circula online.
Además, las imágenes generadas por IA pueden ser utilizadas para engañar a las personas, ya sea a través de perfiles falsos en redes sociales, estafas en línea, o suplantación de identidad. Detectar estas imágenes puede prevenir fraudes y proteger a las personas de caer en engaños.
Según KPMG, cerca de 100 mil modelos IA están preparados para crear materiales falsos en cualquier momento. Por lo tanto, las personas deben de tener la capacidad de comenzar a saber distinguir si es real o no una imagen, audio o video cuando lo ven en la red.
“Mientras que 100 mil modelos pueden generar imágenes, videos o audios falsos, solo el 3 por ciento de ellas tiene la capacidad de detectar los deepfakes”.
¿Cuáles son las principales formas de ciberataques en México y cómo protegerte?
Empresas de Silicon Valley luchan contra deepfakes
Los grandes gigantes tecnológicos de Silicon Valley han emprendido una lucha contra los deepfakes. Estas son algunas de las estrategias que empresas como Google y OpenAI pusieron en marcha para mitigar uno de los mayores riesgos en el uso de la IA.
1. OpenAI
En abril de 2024 OpenAI se unió al comité directivo de la Coalición para la Procedencia y Autenticidad del Contenido (C2PA). Al hacerlo, la empresa se adentró en uno de los debates más críticos sobre la democracia en la era de la IA: ¿cómo sabremos que lo que vemos en línea es real?
Lo que Sam Altman comenzó a hacer desde enero es agregar metadatos C2PA a todas las imágenes creadas y editadas por DALL·E 3, ChatGPT y la API OpenAI. También anunció la integración de metadatos C2PA para Sora, su modelo de generación de videos.
Con esta medida, las personas aún pudieron crear contenido engañoso sin esta información, sin embargo, no les fue posible falsificar los archivos o alterarlos.
“Esto lo convirtió en un recurso importante para generar confianza. A medida que aumenta la adopción del estándar, esta información puede acompañar al contenido a lo largo de su ciclo de vida de intercambio, modificación y reutilización”.
2. Google
En 2023 Google, uno de los gigantes de Silicon Valley, lanzó una herramienta diseñada para marcar la identidad en imágenes creadas por tecnología de IA.
El motor de búsqueda y la empresa de publicidad online con sede en Estados Unidos anunció la nueva herramienta en un comunicado.
Un equipo de Google Deep Mind desarrolló la herramienta, llamada SynthID , en colaboración con Google Research. SynthID está diseñada para funcionar con el creador de imágenes con IA imagen de Google.
Este sistema crea imágenes con calidad cinematográfica a partir de simples comandos de texto. Por ahora, solo los usuarios de Imagen podrán utilizar la herramienta de identificación con Inteligencia Artificial.
SynthID funciona creando una marca de agua digital oculta en las imágenes. Las marcas de agua se han utilizado durante mucho tiempo en documentos en papel y dinero como una forma de marcarlos como reales o auténticos.
Una marca de agua digital cumple la misma función, pero utiliza tecnología para incrustar digitalmente marcadores ocultos en las imágenes. Estas son difíciles de ver con solo mirar una imagen. En cambio, se necesitan herramientas especiales para identificar la marca de agua.
3. Meta
Meta en febrero de 2024 anunció que está trabajando en un medio para detectar e identificar mejor las imágenes generadas por IA en Facebook, Instagram y Threads de cara a las elecciones de 2024.
Nick Clegg, presidente de asuntos globales de Meta, explicó que próximamente las plataformas informarían a los usuarios cuando una imagen que ven en su feed ha sido generada utilizando IA.
En la actualidad, Meta añade una marca de agua y metadatos a las imágenes generadas con su software Meta AI. Ahora, sin embargo, la empresa quiere ampliar esa capacidad a las imágenes generadas por empresas contemporáneas como Adobe, Google, Midjourney, Microsoft, OpenAI y Shutterstock.
Clegg afirmó que su empresa está trabajando con Partnership on AI, una organización sin ánimo de lucro formada por diversas personas que nació con el objetivo de garantizar que la IA tenga resultados positivos para las personas y la sociedad.