Los 3 demonios que impiden la regulación de la IA en el mundo
En 2023, la Unión Europea lanzó la primera ley para regular a la Inteligencia Artificial. Sin embargo, Carlos Iván Moreno, rector de la UDGVirtual, advirtió de tres grandes desafíos que deben atravesar los países para llegar hasta ese punto.
MONTERREY, Nuevo León.- Con la democratización de la Inteligencia Artificial (IA) a través de herramientas como ChatGPT y Midjourney también llegaron importantes dilemas éticos para sus usuarios y desarrolladores. Para mitigar esta problemática, algunos gobiernos, como el de la Unión Europea, diseñaron marcos legales para regular esta nueva tecnología.
Sin embargo, Carlos Iván Moreno, rector de la UDGVirtual, opinó que para generar una ley similar en otros países es necesario que la humanidad atraviese por un escenario utópico como lo imaginó Dante Alighieri y enfrente a tres demonios.
“Los humanos vamos varios años retrasados respecto al tema regulatorio. Queremos generar un marco legal para el uso de la IA, pero ni siquiera lo hemos hecho con las armas nucleares”, dijo durante su charla en IFE Conference 2024 del Tec de Monterrey.
Lo sentimos, alumnos; su profesor ya sabe que usan ChatGPT para hacer la tarea
3 demonios a enfrentar la humanidad
Para el experto en educación virtual y nuevas tecnologías el primero de los demonios desafiantes que debe abordar la humanidad es el entender realmente qué es la Inteligencia Artificial. Si bien el mundo conoció las bondades de herramientas como los modelos de lenguaje (LLM), no significa que todas las plataformas que utilicen datos para funcionar son similares.
Moreno destacó que en segundo lugar los gobiernos de todos los países atraviesan una importante brecha ya que la mayoría de expertos en la materia trabajan en la iniciativa privada. Por lo tanto, las autoridades no tienen los conocimientos suficientes para abordar el tema de la manera correcta.
Y como tercer demonio, el rector de la UDGVirtual explicó que es necesario que los maestros acepten que sus estudiantes usen ChatGPT para poder hacer diversas actividades.
No obstante, en lugar de castigar ese tipo de conductas, la mejor opción es educar al alumnado para que lo use de manera crítica. Esto podría evitar el mal uso de la nueva tecnología, incluso antes de que una regulación se materialice.
“Existen estudios que mencionan que actualmente el 90 por ciento de los estudiantes considera que trabajar con ChatGPT es mejor que hacerlo con un humano. Pero muy pocos saben cómo utilizar las herramientas”, añadió el experto.
Estas son las prohibiciones y puntos más importantes de la ley europea de Inteligencia Artificial
La teoría es distinta a la práctica, el otro gran problema de la regulación
Existen principios fundamentales que los gobiernos siguen con el objetivo de generar un marco legal eficiente que proteja a las personas ante las amenazas que representa la IA.
Uno de ellos busca la preservación de los seres humanos ya que dicta que no será utilizada o desarrollada con el objetivo de hacer daño.
Sin embargo, existen distintas imágenes creadas por IA que son falsas. Por ejemplo, Donald Trump peleando con policías al ser arrestado en Nueva York y posteriormente escapar de prisión o el Papa Francisco con una chamarra Puffer color blanco.
Este tipo de acciones generan un gran problema, ya que en 2024 la mitad de la población mundial atravesará por un proceso electoral y muchas plataformas de Inteligencia Artificial podrían generar un grave problema de desinformación.
Otro eje en el que se basa el diseño de una regulación IA es el apoyo a la transparencia. Aunque algunas herramientas no explican de forma tácita las fuentes de su información y si la que utilizan está libre de derechos de autor.
Esto quedó demostrado cuando a finales de diciembre de 2023 el diario The New York Times demandó a OpenAI y Microsoft por utilizar su información de forma ilegal.
Por ello, desde la perspectiva de Carlos Iván Moreno es importante que los profesores empujen un cambio desde las aulas para evitar un mal uso de la IA.
“Entender qué es lo que regulamos es el primer paso para diseñar una regulación efectiva. Pero antes de que llegue esta medida, es mejor que los maestros acerquen a los estudiantes de forma responsable a estas herramientas”.