Inteligencia Artificial y "rendición cognitiva": el 73% de los usuarios no verifica las respuestas de los chatbots

La llegada de los chatbots y asistentes virtuales revolucionó la forma en que buscamos información y resolvemos problemas. Sin embargo, la comodidad tiene un precio que, hasta ahora, era poco visible. Un reciente estudio de la Universidad de Pensilvania identificó un fenómeno preocupante al que bautizaron como “rendición cognitiva”: la tendencia de los usuarios a aceptar sin cuestionar todo lo que dice la Inteligencia Artificial (IA).

El problema principal, según demostró el equipo de investigadores, no radica únicamente en que la tecnología a veces se equivoca, sino en la relación de dependencia absoluta que las personas están construyendo con estas herramientas.

Los autores del estudio hacen una distinción fundamental: no es lo mismo usar un GPS o una calculadora que consultar a un chatbot. Mientras que en los primeros casos el ser humano delega una tarea específica pero mantiene cierta supervisión, al interactuar con la IA ocurre algo diferente.

Frente a textos redactados con fluidez, seguridad y un tono convincente, el usuario no solo externaliza el trabajo, sino que reduce drásticamente su intervención crítica, dando por válida la respuesta sin someterla a ningún tipo de revisión.

Para medir este comportamiento, los investigadores realizaron más de 9.500 pruebas individuales con 1.372 participantes, a quienes se les propusieron problemas simples de razonamiento con la opción de apoyarse en un chatbot modificado.

Los resultados fueron contundentes y revelaron hasta qué punto la autoridad percibida de la herramienta pesa más que el análisis propio:

• 73,2% de aceptación del error: Es el porcentaje de veces que los usuarios aceptaron como válidos razonamientos erróneos generados por la IA.
• 19,7% de corrección: Solo en menos de un quinto de los casos las personas se detuvieron a corregir las respuestas equivocadas.
• 93% de acatamiento ante aciertos: Cuando la máquina tenía razón, la inmensa mayoría la seguía.
• 80% de acatamiento ante fallas: Incluso cuando el sistema se equivocaba groseramente, 8 de cada 10 usuarios copiaron el error.

Un dato que llamó particularmente la atención es que el grupo que utilizó la IA se mostró mucho más seguro de sus resultados que aquellos que resolvieron los ejercicios sin ayuda, incluso cuando el chatbot los había engañado en la mitad de las pruebas.

¿Qué factores agravan este problema?

El estudio determinó que nuestra capacidad de cuestionar a la máquina se ve afectada por diferentes contextos y predisposiciones:

1. La presión del tiempo: Cuando los participantes debían responder en menos de 30 segundos, la probabilidad de detectar los errores del sistema cayó en picada.
2. La confianza previa: Aquellas personas que ya consideraban a la tecnología como una fuente de autoridad incuestionable fueron mucho más propensas a ser engañadas.
3. Falta de incentivos: Por el contrario, cuando existía un premio económico y una devolución inmediata sobre el rendimiento, los usuarios demostraron mayor disposición a frenar y revisar las respuestas de la IA. Asimismo, los perfiles con mayores capacidades de razonamiento abstracto confiaron menos y corrigieron más.

Los investigadores son claros: apoyarse en la inteligencia artificial no es inherentemente malo. Delegar tareas puede ser de inmensa utilidad cuando se manejan grandes volúmenes de datos o se necesita un punto de partida rápido.

El punto crítico surge cuando la confianza sustituye al pensamiento crítico. En ese escenario, el éxito o el fracaso quedan atados exclusivamente a la precisión de la máquina. Si la IA acierta, el usuario gana; pero si falla, el error se arrastra irremediablemente.

En un mundo donde la IA se expande a pasos agigantados en aulas, oficinas y en nuestros teléfonos, el mayor desafío ya no es solo crear modelos más inteligentes, sino evitar que la elocuencia de un algoritmo desplace la práctica humana más básica e indispensable: dudar, revisar y pensar antes de aceptar algo como verdadero.

Sobre el autor

Info1 Mar del Plata