Un estudio de la Universidad de Pensilvania analiza cómo el uso de modelos de lenguaje avanzados está cambiando la forma en que las personas razonan y toman decisiones.

Los investigadores introducen el concepto de “cognitive surrender” o abandono cognitivo, que describe la tendencia de algunos usuarios a delegar completamente su pensamiento crítico en sistemas de inteligencia artificial, aceptando sus respuestas sin verificar su validez.

Según el trabajo, esta conducta va más allá del simple uso de herramientas automáticas como calculadoras o GPS, ya que implica una renuncia activa a la evaluación interna de la información.Para medir este fenómeno, los investigadores realizaron experimentos basados en pruebas de reflexión cognitiva con más de 1.300 participantes y miles de ensayos.A los sujetos se les dio acceso a un modelo de IA que, de forma aleatoria, ofrecía respuestas correctas o incorrectas.

Los resultados mostraron que los participantes aceptaban las respuestas de la IA en un 93% de los casos cuando eran correctas, pero incluso cuando eran erróneas las aceptaban en torno al 80% de las veces.En conjunto, los usuarios aceptaron respuestas defectuosas en un 73,2% de los casos.

El estudio también observó que la presión temporal aumentaba la dependencia de la IA, mientras que las recompensas económicas y el feedback inmediato ayudaban a mejorar la verificación de respuestas.Además, los participantes mostraban mayor confianza en sus decisiones incluso cuando la IA fallaba.

Los investigadores concluyen que la fluidez y seguridad de las respuestas de la IA pueden reducir el escrutinio crítico, aunque advierten que este fenómeno no siempre es negativo si el sistema es fiable.

En definitiva, el trabajo subraya que la calidad del razonamiento humano puede verse directamente afectada por la calidad del sistema de IA al que se delega la toma de decisiones.