Apple prohibió a sus colaboradores usar ChatGPT por temor a la divulgación de información. ¿Qué otros peligros corren las empresas frente a la IA?
Apple le ha prohibido a sus empleados acceder a diversas herramientas que utilicen Inteligencia Artificial (IA), como ChatGPT, por temor a que se divulgue información confidencial de la empresa fundada por Steve Jobs, de acuerdo con una publicación de The Wall Street Journal.
Además de eliminar el uso de la plataforma creada por OpenAI, los líderes de la empresa también le pidieron a sus empleados no usar Copilot de GitHub, que automatiza la escritura de código de software.
El extraño caso de la Inteligencia Artificial: Beneficios y riesgos inminentes
“Cuando la gente utiliza estos modelos, los datos se envían de vuelta al desarrollador para permitir mejoras continuas. Eso presenta la posibilidad de que una organización comparta involuntariamente información propietaria”, se comentó a través de la publicación.
Sin embargo, los permisos que los usuarios conceden a la plataforma para reunir datos no es lo único que le preocupa a los directores de Apple. Ya que cualquier error cometido por ChatGPT puede poner en peligro a la empresa.
Por ejemplo, OpenAI reveló en marzo que había desconectado temporalmente ChatGPT porque un error permitía a algunos usuarios ver los títulos del historial de chat.
No sólo Apple advierte riesgos en el uso diario de distintos asistentes de chat que funcionen a través de la IA, Google y OpenAI le han advertido a distintos usuarios sobre sus peligros.
A finales de 2020 el CEO de OpenAI, Sam Altman, a través de un tuit reconoció que ChatGPT tiene limitaciones y que los usuarios deben tener cuidado con cuánto confían en las respuestas que reciben.
El encuentro con la Inteligencia Artificial Generativa, un paso en el futuro algorítmico
“ChatGPT es increíblemente limitado, pero lo suficientemente bueno en algunas cosas como para crear una impresión engañosa de grandeza. Es un error confiar en él para algo importante en este momento. Es un avance del progreso; tenemos mucho trabajo por hacer en cuanto a robustez y veracidad”, publicó.
ChatGPT is incredibly limited, but good enough at some things to create a misleading impression of greatness.
— Sam Altman (@sama) December 11, 2022
it's a mistake to be relying on it for anything important right now. it’s a preview of progress; we have lots of work to do on robustness and truthfulness.
Por su parte, Jeff Dean, jefe de la división de inteligencia de Google, ha mencionado que la IA “puede inventar cosas”. Eso debido a que si no está realmente segura de algo, pueden llenar los vacíos de información con datos de relleno que pueden no ser verídicos.
“Si no están realmente seguros de algo, simplemente te dirán, sabes que los elefantes son los animales que ponen los huevos más grandes o lo que sea”, dijo.
Prohibir la IA en la oficina puede tener ventajas y desventajas. A continuación, se presentan algunos pros y contras de esta decisión.
Cómo la Inteligencia Artificial está mejorando la gestión de datos
Al prohibir la IA, se reduciría el riesgo de violaciones de privacidad y fugas de datos, ya que no se utilizarían sistemas de IA que recopilan y procesan grandes cantidades de información personal.
Sin la IA, las empresas pueden evitar depender en gran medida de la tecnología y fomentar métodos de trabajo más tradicionales. Esto puede ayudar a preservar habilidades humanas específicas y reducir la brecha digital en el lugar de trabajo.
Al no utilizar la IA, se evita el riesgo de sesgos algorítmicos que podrían afectar las decisiones y oportunidades de los colaboradores. Esto puede ayudar a garantizar una mayor igualdad de oportunidades para todos los miembros del equipo.
Roboleyes: Principios de responsabilidad algorítmica en la Inteligencia Artificial
La IA puede automatizar muchas tareas repetitivas y tediosas, lo que permite a los empleados centrarse en tareas más estratégicas y creativas. Al prohibir la IA, se podría perder eficiencia y productividad en algunas áreas de trabajo.
Las empresas que no adopten tecnologías de IA pueden quedar rezagadas en términos de competitividad. La IA puede ofrecer ventajas significativas en términos de análisis de datos, toma de decisiones y optimización de procesos. Prohibirla puede poner a las empresas en desventaja frente a sus competidores.
Al prohibir la IA, las empresas pueden perder la oportunidad de capacitar a sus colaboradores en habilidades relacionadas con ese campo. Estas habilidades son cada vez más demandadas en el mercado laboral actual y en el futuro.