Estas son las prohibiciones y puntos más importantes de la ley europea de Inteligencia Artificial
Estos son los puntos más importantes y que tienen que estudiar las autoridades mexicanas para regular la IA. (Freepik)
La Ley IA de la Unión Europea podría entrar en vigor hasta 2026, mientras tanto, el Consejo que la elaboró llegó a algunos acuerdos provisionales.
Las autoridades de la Unión Europea (UE) informaron que los diputados llegaron a un acuerdo político provisional con el Consejo sobre un proyecto de ley para garantizar que la IA en Europa sea segura. Así es como la primera parte de la Ley IA de la UE se aplicará.
Esto significa que el diseño de las nuevas herramientas, así como su uso, deberá respetar los derechos fundamentales y la democracia. Mientras que las empresas puedan prosperar y expandirse.
“Este reglamento tiene como objetivo garantizar que los derechos fundamentales, la democracia, el Estado de derecho y la sostenibilidad ambiental estén protegidos contra la IA de alto riesgo. Al tiempo que impulsa la innovación y convierte a Europa en líder en este campo”.
¿Cuáles son las aplicaciones que prohíbe la Ley IA de la Unión Europea?
Los siguientes puntos fueron resaltados en este nuevo marco regulatorio que regula el diseño y uso de herramientas que utilicen la IA. Para hacerlos, se aceptó que los nuevos avances pueden significar una amenaza potencial para los derechos de los ciudadanos y la democracia.
Estas son algunas de las razones por las que queda vetado el uso de la IA en las siguientes formas:
- Sistemas de categorización biométrica que utilizan características sensibles. Por ejemplo, creencias políticas, religiosas, filosóficas, orientación sexual, raza
- Extracción no dirigida de imágenes faciales de Internet para crear bases de datos de reconocimiento facial
- Reconocimiento de emociones en el lugar de trabajo y en instituciones educativas
- Puntuación social basada en comportamiento social o características personales
- Sistemas de IA que manipulan el comportamiento humano para disuadir sobre distintas elecciones
- Eliminar la explotación por distintos rasgos de vulnerabilidad de las personas. Ya sea por su edad, discapacidad, situación social o económica
Sin embargo, se acordaron una serie de excepciones para el uso de sistemas de identificación biométrica con fines policiales. Ya que se usará en la búsqueda selectiva de una persona condenada o sospechosa de haber cometido un delito grave.
Inteligencia Artificial, ¿aliada para mejorar la aprobación de leyes?
Otros puntos importantes a resaltar sobre la Ley IA
MIT Technology Review resalta algunos puntos importantes que harán que las personas y desarrolladores entiendan por qué es importante este nuevo marco normativo.
1. La Ley de IA es el comienzo de normas importantes y vinculantes sobre transparencia
Uno de los casos más conocidos que van en contra de la transparencia en el desarrollo de IA fue cuando OpenAI comenzó como un laboratorio de investigación “abierto”. Sin embargo, después cerró el acceso público a estos materiales para proteger su ventaja competitiva.
Ley IA cambiará eso porque la regulación impone reglas que exigen que las empresas de tecnología notifiquen a las personas cuando interactúan con un chatbot. Lo mismo pasaría si utilizan sistemas de categorización biométrica o reconocimiento de emociones.
“También les exigirá etiquetar los deepfakes y el contenido generado por IA, y diseñar sistemas de tal manera que los medios generados por IA puedan ser detectados”.
2. Las empresas de IA todavía tienen mucho qué hacer
Los legisladores sintieron que tenían que tener en cuenta en la regulación los llamados modelos básicos. Esto desató un intenso debate sobre qué tipo de modelos deberían regularse y si la regulación acabaría con la innovación.
La nueva ley requerirá modelos básicos y sistemas de IA construidos sobre ellos para elaborar una mejor documentación. Esto con el propósito de cumplir con la ley de derechos de autor de la UE y compartir más información sobre los datos con los que se entrenó el modelo.
“El compromiso que encontraron los legisladores fue aplicar un conjunto de reglas más estricto sólo a los modelos de IA más potentes. Corresponderá a las empresas evaluar si están sujetas a reglas más estrictas”.
3. La Unión Europea protegerá al mundo de la IA sin otro tipo de regulación
La Ley IA creará una nueva Oficina Europea de IA para coordinar el cumplimiento, la implementación y el cumplimiento. Con esto se convertirá en el primer organismo a nivel mundial en hacer cumplir reglas vinculantes sobre IA.
“El mecanismo de gobernanza de la Ley de IA también incluye un panel científico de expertos independientes”.
10 puntos para entender la ley que pretende regular la IA en Europa
¿Cuándo entrará en vigor la Ley IA?
El acuerdo provisional establece que la Ley debería aplicarse dos años después de su entrada en vigor. Además, que algunas disposiciones entrarían en vigor en una fecha posterior.
Sin embargo, según la firma de abogados internacional Mayer Brown, aún es necesario trabajar para ultimar los detalles de la nueva regulación. Por lo tanto, es probable que la Ley entre en vigor en 2026.
“La Ley se aplicará tanto a los proveedores como a los implementadores de sistemas de IA dentro del alcance que se utilicen o produzcan un efecto en la UE”.
Esto significa que los proveedores o implementadores de sistemas de IA en terceros países, como Estados Unidos, tendrán que cumplir con la Ley de IA de la UE si la tecnología se utiliza en su territorio.
Síguenos en Google News
