Q* es el proyecto de IA General que causó el despido de Sam Altman de OpenAI. Su poder es tan grande que pondría en peligro a la humanidad.
Durante la última semana el destino de OpenAI, la empresa encargada del desarrollo de ChatGPT, y Sam Altman, quien fue despedido el 17 de noviembre como líder de la empresa y que fue recontratado, han sufrido distintos cambios. Hasta hace unos días, los motivos por los que se desató esta crisis eran un misterio, sin embargo, hoy en día una de las causas ya tiene nombre: Q*.
El día de ayer, Reuters, dio a conocer el proyecto Q* (que se pronuncia como Q-Star) que, de acuerdo con correos internos de la empresa generadora de Inteligencia Artificial (IA), representa una seria amenaza para la humanidad.
“OpenAI reconoció en un mensaje interno a su personal un proyecto llamado Q* y una carta a la junta antes de los eventos del fin de semana”, explica el medio.
Un portavoz de OpenAI dijo que el mensaje, enviado por la ejecutiva Mira Murati, alertó al personal sobre ciertas historias de los medios sin comentar sobre su exactitud. Las fuentes de información mencionaron este correo como uno de los tanto factores que se unieron a una lista y que llevó al despido de Altman.
Sam Altman no fue el único: Los 10 CEO que fueron despedidos de las empresas que fundaron
El desarrollo de Q* va de la mano con una de las preocupaciones más grandes de la antigua junta directiva de OpenAI. Esto quiere decir la comercialización de sus productos antes de la comprensión de sus consecuencias.
“Algunos en OpenAI creen que podría ser un gran avance en la búsqueda de la startup de lo que se conoce como inteligencia artificial general (AGI). OpenAI define AGI como sistemas autónomos que superan a los humanos en la mayoría de las tareas”.
De acuerdo con el testimonio de una fuente que decidió no revelar su identidad, el nuevo modelo pudo resolver ciertos problemas matemáticos de nivel primaria. Aunque superar esas pruebas hizo que los investigadores se sintieran muy optimistas sobre el éxito futuro de Q*.
OpenAI explica que la AGI le brindaría a la humanidad una capacidad ilimitada de resolver problemas y desencadenar su potencial cognitivo. Aunque también advierte que su mal uso, desencadenaría graves consecuencias.
Por otro lado, la AGI también conllevaría graves riesgos de mal uso, accidentes drásticos y perturbaciones sociales. Debido a que las ventajas de la AGI son tan grandes, no creemos que sea posible o deseable que la sociedad detenga su desarrollo para siempre; en cambio, la sociedad y los desarrolladores de AGI tienen que descubrir cómo hacerlo bien.
Sam Altman, ¿quién es el genio detrás de OpenAI y ChatGPT?
En el mismo post, la compañía comenta que, a pesar de que no pueden predecir con precisión los desafíos y oportunidades que tendrá el desarrollo de la AGI, puede articular algunos de sus principios:
“A medida que nuestros sistemas se acercan a AGI, nos volvemos cada vez más cautelosos con la creación e implementación de nuestros modelos”.