La IA no corrige nuestra irracionalidad: puede amplificar sesgos, justificar errores y empujar decisiones estúpidas con consecuencias graves.
Y todas las personas, incluso las más inteligentes, lo hacen. Y en muchas ocasiones, de antemano estábamos conscientes de que esa decisión que tomamos era irracional o estúpida, pero en ese momento, de cualquier manera, la terminamos tomando.
Eso, desde luego, no significa que los seres humanos seamos irracionales. De manera constante estamos luchando por evitar caer en lo que Cervantes describió como la razón de la sinrazón:
MIT SMR México se financia mediante anuncios y socios“La razón de la sinrazón que a mi razón se hace…”
Hace ya muchos años, el psicólogo Daniel Kahneman, Nobel de Economía, señaló que el cerebro humano opera con dos sistemas distintos que suelen colisionar: un pensamiento rápido e intuitivo, y otro lento y racional. El primero es automático, emocional y no requiere esfuerzo; el segundo es lógico, analítico y perezoso.
O, en otras palabras, el denominado Sistema 1 toma decisiones impulsivas, y el segundo requiere de nuestro esfuerzo cognitivo. El problema es que el Sistema 1 tiene el control la mayor parte del tiempo.
Y como bien señala Kahneman, esto no es necesariamente malo. Las decisiones del Sistema 1, el impulsivo, utilizan atajos mentales llamados heurísticos. Son útiles para sobrevivir en la selva cuando vemos la sombra de una serpiente o cuando nos persigue un león. El resto del tiempo, en el mundo moderno que habitamos, se convierten en falacias o errores de juicio.
Y de ahí es que los seres humanos tomamos decisiones estúpidas, o irracionales.
Las más comunes son cuando vamos a votar por quien nos gobernará, y solemos hacerlo por el más “bonito” o el que mejor habla (efecto halo). Cuando adquirimos vehículos, la decisión va por el que más nos gusta, más que por el que podemos mantener a largo plazo por mantenimientos, refacciones, seguro, consumo de combustible, etcétera (heurístico de afecto).
O cuando comemos ese pedazo de pastel de chocolate al tiempo que tratamos de controlar el azúcar y la obesidad. O cuando decidimos no estudiar para el examen o terminar el reporte del trabajo. O no ahorrar para nuestra jubilación: ya serán problemas del “yo del futuro”, o, dicho de manera coloquial, ya cruzaremos ese puente cuando lleguemos (sesgo del presente).
También cuando decidimos terminarnos una comida que no nos agrada, o utilizar una camisa que ni nos queda por el hecho de ya haberla pagado (falacia del costo hundido).
Cuándo no usar la IA en decisiones que requieren criterio humano
Y después de estas decisiones entra el Sistema 2 a tratar de “justificarlas”, en un fenómeno llamado racionalización post hoc, donde usamos nuestra inteligencia para buscar excusas que hagan parecer que fue una decisión racional.
Pero hoy en día, la irrupción de la Inteligencia Artificial ha venido a desnudar, más allá de Cervantes y de una manera interesante, la irracionalidad del ser humano. Esta hace que las personas tomen decisiones irracionales y contraproducentes que, desde muchas perspectivas, podrían caracterizarse como estúpidas. Una ironía moderna.
De hecho, este pasado 13 de abril, The New York Times mostró los riesgos que la IA puede ocasionar en la toma de decisiones humanas.
La nota de The New York Times relata el caso de Joe Riley, un hombre de 75 años con leucemia linfocítica crónica que fue posponiendo durante meses el tratamiento recomendado por su oncólogo. Su hijo, Ben Riley, descubrió que esa decisión no solo estaba marcada por la desconfianza hacia el sistema médico, sino también por el uso intensivo de herramientas de Inteligencia Artificial, especialmente para interpretar estudios, síntomas y opciones terapéuticas.
En este caso, un reporte generado por Perplexity ayudó a convencer al paciente de que su diagnóstico era equivocado y de que el tratamiento podía perjudicarlo, pese a que especialistas consultados después señalaron que el documento contenía afirmaciones ilógicas, porcentajes inventados y citas mal interpretadas. El desenlace fue trágico: Joe aceptó tratarse demasiado tarde y murió meses después.
La razón de la sinrazón. Pensar, como ya lo dijo Kahneman, cansa. Decidir bien agota. Pensar con rigor requiere energía, pero no por ello podemos claudicar ni ceder la capacidad cognitiva humana a tecnologías aún incipientes.
