Elon Musk encabeza una lista de 1,000 empresarios que piden frenar pruebas de IA

Más de mil empresarios, expertos y académicos firmaron una carta en la que piden a las empresas desarrolladoras de programas de Inteligencia Artificial (IA) dejar de producir sistemas más avanzados de GPT por seis meses.

De acuerdo con una carta publicada en el sitio de la organización, Future of Life, la razón principal por la que los reconocidos personajes se unieron a la iniciativa fue porque creen que la humanidad aún no está preparada para gestionar y controlar los nuevos sistemas que utilizan IA.

GPT-4: Qué es, por qué es una mejor versión y cómo cambiará a ChatGPT

“La IA avanzada podría representar un cambio profundo en la historia de la vida en la Tierra, y debe planificarse y administrarse con el cuidado. Desafortunadamente, este nivel de planificación y gestión no está ocurriendo”, se comentó a través del escrito.

Así fue como, por primera vez en la historia contemporánea un grupo de expertos y magnates se unieron para abogar por la ética y el uso responsable de una herramienta que ha ganado día con día más admiradores.

“Los laboratorios de IA y los expertos independientes deberían aprovechar esta pausa para desarrollar e implementar conjuntamente un conjunto de protocolos de seguridad compartidos para el diseño y desarrollo avanzados de IA”, escribieron.

OpenAI, creador de ChatGPT, te ofrece trabajo y estas son sus vacantes

La autoridades y los científicos deben de trabajar en conjunto para regular la IA

Algunos medios especializados en el mundo de la tecnología opinan que esa carta, a pesar de haber sido firmada por personajes tan reconocidos, no surtirá efecto. Por lo tanto, en los próximos meses las organizaciones pondrán en el mercado nuevos productos que utilicen IA.

Ante la creencia poco favorable, ellos proponen que las empresas y científicos actúen en conjunto con las autoridades de cada país con el objetivo de regular su marcha con la participación de actores competentes en el ámbito tecnológico.

“Paralelamente, los desarrolladores de IA deben trabajar con los legisladores para acelerar drásticamente el desarrollo de sistemas sólidos de gobierno de IA”, dijeron. 

Las acciones deben de incluir como mínimo los siguientes puntos para ser realmente útiles:

1. Se debe de contar con  autoridades reguladoras nuevas y capaces dedicadas a la IA
2. Tendrán que supervisar y dar seguimiento a los sistemas de IA de alta capacidad que se desarrollen para rastrear los nuevos modelos y sus capacidades
3. Solidificar un ecosistema de auditoría y certificación
4. Generar un plan para responsabilizarse por los daños causados ​​por la IA
5. Contar con un programa de financiación pública sólida para la investigación técnica de seguridad de la IA
6. Crear instituciones para hacer frente a las perturbaciones económicas, éticas y políticas que provocará la IA

El extraño caso de la Inteligencia Artificial: Beneficios y riesgos inminentes

Estos son algunos personajes que firmaron el posicionamiento

1. Elon Musk, CEO de SpaceX, Tesla y Twitter
2. Steve Wozniak, cofundador de Apple
3. Jaan Tallinn, cofundador de Skype
4. Evan Sharp, cofundador de Pinterest
5. Valerie Pisano, presidenta y directora ejecutiva de MILA
6. Max Tegmark, forma parte del Centro de Inteligencia Artificial e Interacciones Fundamentales del MIT, profesor de física y presidente del Future of Life Institute
7. Ramón F. Brena, profesor emérito del Instituto Tecnológico de Monterrey y miembro de la Academia Mexicana de Ciencias
8. Sean O’Heigeartaigh, Director Ejecutivo del Centro de Cambridge para el Estudio del Riesgo Existencial
9. Maxim Khesin, ingeniero en Meta que forma parte del desarrollo de aprendizaje automático
10. Zachary Kenton, científico investigador sénior en DeepMind
11. Pablo Jarillo-Herrero, profesor de Física del MIT, ganador del Premio Wolf de Física
12. George Verghese, profesor de Ingeniería Eléctrica y Biomédica en MIT
13. Kevin Baragona , CEO de DeepAI
14. Ilenia Bookas, diseñadora de medios, libros, estudios y premios del MIT
15. Victoria Krakovna, científica investigadora de DeepMind  cofundadora del Future of Life Institute

Síguenos en Google News