Geoffrey Hinton, el padrino de la IA advierte que la nueva tecnología traerá peligros para la humanidad

Este lunes Geoffrey Hinton, ahora ex vicepresidente de Ingeniería en Google, anunció que dejaría su trabajo. La principal razón por la que tomó esa decisión fue para poder hablar de los peligros de la Inteligencia Artificial (IA) sin tener en cuenta cómo afecta eso a la compañía.

Se considera que el experto fue el primero que en 2012 inició una investigación sobre redes neuronales misma que sentó las bases para el desarrollo del campo de la IA.

“Peor que inútil”: Así critican los empleados de Google a Bard, competencia de ChatGPT

Geoffrey Hinton trabajó con Google durante más de una década en los esfuerzos por desarrollar nuevas herramientas tecnológicas. Sin embargo, durante una entrevista para The New York Times, el científico aceptó que lamenta haberle dedicado tanto tiempo de su vida a esa labor.

“Tenemos que trabajar con la IA en una profunda sinergia y lo que más me preocupa en este momento son los sistemas políticos. Por ejemplo, estoy seguro que Putin no la usaría para hacer el bien” comentó el ingeniero de 75 años durante otra entrevista.

Además, comentó que la carrera que están librando Google y Microsoft por generar IA cada vez más poderosa es el primer paso para desatar una guerra comercial y tecnológica que podría nunca acabar.

Las salida de Geoffrey Hinton ocurre en un momento coyuntural

Las autoridades de diversos países han expresado su temor hacia los nuevos avances tecnológicos de la IA ya que consideran que tiene un fuerte impacto en la sociedad. Específicamente para generar información falsa. 

Durante la semana pasada diversas autoridades de la Unión Europea entregaron uno de los primeros borradores con los cuales planean ponerle un alto a este tipo de nuevas herramientas para minimizar sus riesgos.

10 puntos para entender la ley que pretende regular la IA en Europa

Una de las principales normas que los legisladores europeos proponen es la clasificación de las plataformas que utilizan IA de acuerdo a su grado de peligrosidad. También plantean hacer que las empresas desarrolladoras hagan un seguimiento sobre el uso de la tecnología que han entregado al mercado para asegurar su buen uso. 

Por su parte distintos empresarios y científicos, entre los que figura Elon Musk, firmaron una carta para apoyar una iniciativa impulsada por el Future of Life Institute publicada a finales de marzo. En ella pidieron a las organizaciones de todo el mundo frenar sus esfuerzos por generar mayores avances tecnológicos en el campo de la IA. 

Los peligros de la IA son reales

Hasta hace unos meses la IA a través de plataformas como ChatGPT o Dall-e impresionaron a todo el mundo generando ensayos, cartas, o incluso nuevas ilustraciones. 

Donald Trump no ha sido arrestado, pero la IA ya fantaseó sobre cómo se vería

Sin embargo, en los últimos meses esa misma tecnología, junto con los humanos que la ejecutan, se han encargado de hacer imágenes en donde es posible tener imágenes de escenarios imaginarios. Uno de los ejemplos más conocidos es el arresto del ex presidente de Estados Unidos, Donald Trump. 

Ese caso no hubiese representando ningún peligro para la humanidad, pero lo fue ya que muchas personas creyeron esa noticia falsa. Ese fue otro foco de alerta para la comunidad científica y los gobiernos de distintos países.

Venturebeat, empresa especializada en el análisis de sistemas tecnológicos, en uno de sus estudios mencionó que hay al menos tres peligros que pueden surgir debido al uso de la IA. 

1. La manipulación

Actualmente muchos programas IA ya están siendo lanzados a las redes sociales con el fin de vender distintos productos. Además, los chatbots cada día utilizan lenguaje mucho más cercano al de los humanos.

El lado oscuro de la IA: Descubriendo los peligros detrás de las imágenes falsas

2. Humanos ficticios tomando el lugar de los reales

Muchas empresas han decidido apostar por presentadores de televisión hechos con tecnología IA. Esto puede significar mayores ganancias para las empresas mediáticas. Sin embargo, el riesgo que encierra esta tecnología es mayor al que la mayoría de personas creen.

3. Conversaciones invasivas

Con la personalización de los servicios en línea cada vez los chatbots cada vez pueden conocer más cosas de sus usuarios a través de la data. Eso podría generar incomodidad.

Síguenos en Google News