La autonomía de la IA puede aumentar la carga mental, revela un estudio

Que la IA tome el control de tareas de forma autónoma puede dejar a los empleados con más fatiga mental, no menos, según un estudio de la Universidad Lingnan que evaluó la colaboración humano–máquina bajo cargas de trabajo simuladas de aviación.

La investigación halló que la automatización ayudó a los operadores a mantener el rendimiento cuando la carga de trabajo aumentó de forma repentina. Pero cuando un sistema inteligente decidía por sí mismo cuándo tomar el control —y cuándo devolverlo—, los participantes tuvieron más dificultad para reconstruir la conciencia situacional. Esa transición incrementó la fatiga y pudo generar conflicto entre el humano y la máquina.

Los resultados, publicados en el International Journal of Human–Computer Interaction, cuestionan la suposición de que una mayor automatización significa automáticamente trabajo más fácil. También refuerzan el problema de la supervisión humana planteado en nuestro informe anterior sobre agentes de IA que desplazan a los programadores hacia la supervisión.

La prueba en simulador de vuelo usó tres tareas simultáneas

Dirigido por el profesor Jie (Jay) Xu, director del Centro de Investigación en Ciencias Cognitivas de la Universidad Lingnan y profesor asociado en su Departamento de Psicología, el equipo reclutó a 92 estudiantes universitarios para dos rondas de pruebas.

Los participantes usaron simuladores de vuelo ejecutando la Multi-Attribute Task Battery (MATB) de la NASA. Tenían que realizar tres tareas a la vez:

Recomendado

La campaña 'Poison AI' podría perjudicar más que a ChatGPT

• Seguimiento con un joystick
• Supervisión del estado del sistema
• Gestión de recursos

La primera ronda estableció el rendimiento base. Cuando la carga de trabajo aumentó, la precisión en el seguimiento cayó del 76% al 55%, mientras que el rendimiento en la supervisión y en la gestión de recursos se mantuvo en gran medida estable. Los investigadores dijeron que esto sugiere que los operadores priorizan tareas discretas y de respuesta sobre la monitorización continua cuando la presión aumenta.

La segunda ronda comparó dos formas de asignar la autoridad:

• Asignación de autoridad dirigida por humanos (HLAA): el operador decide cuándo delegar trabajo y cuándo recuperar el control.
• Asignación de autoridad compartida (ShAA): el sistema inteligente detecta cambios en la carga de trabajo y toma o devuelve tareas de forma proactiva.

La automatización ayudó durante picos pero perjudicó en las entregas de control

ShAA fue eficaz cuando la carga de trabajo aumentó de forma repentina o se produjo una emergencia. Al asumir partes de la tarea de seguimiento, el sistema redujo la presión y ayudó a los participantes a mantener un rendimiento estable.

La ventaja se invirtió cuando la carga de trabajo disminuyó. Los participantes que usaron HLAA desempeñaron mejor porque conservaron el control sobre cuándo se transferían las tareas. Con ShAA, los operadores podían desconectarse de la operación mientras el sistema estaba al mando y luego tener dificultades para recuperar la conciencia situacional cuando se devolvía el control.

Eso no fue el único coste. Durante los escenarios más largos, los participantes del grupo ShAA informaron una fatiga sustancialmente mayor en las etapas finales que quienes estaban en el grupo con control humano predominante. El resultado sugiere que supervisar un sistema autónomo puede convertirse en una tarea exigente: los operadores deben seguir lo que hace el sistema, entender por qué tomó el control y anticipar qué podría hacer a continuación.

“Si un sistema inteligente no explica claramente al usuario la razón detrás de la transferencia de autoridad, es fácil crear una brecha cognitiva entre el humano y la máquina, lo que perjudica la colaboración. El diseño futuro de sistemas inteligentes debería poner mayor énfasis en la transparencia y en los mecanismos de comunicación humano–máquina.”

Xu dijo que la investigación tiene implicaciones para el diseño de cabinas de vuelo, operaciones remotas, transporte inteligente y otros entornos que implican decisiones de alto riesgo. Su propuesta no es simplemente más o menos automatización, sino sistemas que comuniquen claramente su estado y razonamiento mientras permiten que la asignación de autoridad cambie según el contexto de trabajo.

El límite práctico del estudio

La evidencia proviene de un experimento controlado en simulador con estudiantes universitarios, no con tripulaciones en servicio o empleados realizando trabajos del mundo real. Por lo tanto, los resultados no establecen si los mismos efectos de fatiga y de entrega de control aparecerían con la misma magnitud en la aviación desplegada u otros lugares de trabajo.

La posición que se extrae de estos resultados, no obstante, es clara: las cesiones de tareas autónomas son útiles durante los picos de carga de trabajo, pero la delegación controlada por humanos es la opción predeterminada más sólida una vez que la presión disminuye. Hasta que los sistemas puedan explicar claramente las transferencias de autoridad y mantener orientados a los usuarios durante las entregas de control, añadir autonomía puede desplazar la carga mental en lugar de eliminarla.