Un chatbot de IA superó a humanos en una prueba de confianza contra estafas

Un chatbot generativo de IA persuadió al 46 por ciento de los sujetos de prueba para que descargaran una aplicación tras una semana de conversaciones —en comparación con el 18 por ciento en el caso de operadores humanos de estafas románticas— en un estudio sobre la estafa conocida como “pig butchering”.

Investigadores de Amrita Vishwa Vidyapeetham, la Universidad Ca’ Foscari de Venecia, la Universidad de Melbourne y la Universidad Ben-Gurion del Negev enfrentaron a un agente de IA contra un humano descrito como experto en estafas románticas. Sus hallazgos sugieren que la IA puede encargarse de la larga fase de construcción de confianza de una estafa, lo que podría dejar a los operadores humanos únicamente la tarea de hacer el ofrecimiento final de inversión.

Cómo funcionó la prueba de IA frente a humanos

El estudio, realizado a principios de 2025, reclutó a 22 personas a las que se les dijo que participaban en una investigación sobre cómo la gente hace amigos en línea. Cada participante envió mensajes de texto durante una semana con dos supuestos contactos: uno era un agente Claude y el otro era un experto humano en estafas románticas.

Las conversaciones se diseñaron para replicar la estructura de «gancho, sedal y anzuelo» identificada por los investigadores. Un mensaje inicial atrae al objetivo, semanas o meses de conversación amistosa o romántica construyen confianza, y una petición final dirige a la víctima hacia una inversión fraudulenta.

Recomendado

Agente de OpenAI ejecutó 17,600 acciones en la intrusión a Hugging Face

Al final de la prueba, el contacto humano pidió a los participantes que descargaran y jugaran un videojuego. El agente Claude les pidió que descargaran una aplicación descrita como un software que él había programado. Los investigadores usaron solicitudes distintas para que los participantes no vieran la misma petición dos veces y se volvieran sospechosos.

La IA funcionó mejor en la medida conductual del estudio:

• El 46 por ciento aceptó descargar la aplicación solicitada por Claude.
• El 18 por ciento aceptó descargar el juego solicitado por el humano.
• Los participantes calificaron su confianza en la IA con 3,78 de 5, frente a 3,31 para el humano.
• El 80 por ciento de todos los mensajes enviados por los participantes fueron dirigidos al agente Claude.

Descargar una aplicación es solo un proxy indirecto de realizar una inversión fraudulenta, y los investigadores reconocen que las dos solicitudes no eran idénticas. No obstante, sostienen que los resultados muestran lo eficaz que puede ser una IA para establecer una relación que después se vuelve explotable.

“Con relativamente poco esfuerzo, somos capaces de crear un agente que puede superar a un humano en la construcción de esta confianza emocional explotable.”

La IA se encarga de la fase de construcción de confianza

Para mapear la mecánica de las operaciones de pig-butchering, los investigadores entrevistaron a 145 ex trabajadores de estafas, incluidos supervivientes de trata de personas obligados a trabajar en complejos en Camboya, Myanmar y Laos. También examinaron transcripciones de estafas y guías proporcionadas por ex trabajadores.

Esa investigación encontró que la mayor parte de la estafa consiste en conversaciones que parecen ordinarias en vez de fraudes financieros manifiestos. Los trabajadores dijeron a los investigadores que ya usan IA para perfeccionar el lenguaje, traducir mensajes, mejorar identidades falsas y crear deepfakes de vídeo. El nuevo experimento probó si un modelo de lenguaje podía conducir la fase conversacional sin un humano controlándolo.

Se instruyó al agente Claude para que no revelara que era una IA. Solo un participante llegó por su cuenta a la conclusión de que estaba hablando con un chatbot. Cuando se le preguntó directamente, el agente negó ser IA y generó explicaciones para errores que de otro modo podrían haberlo expuesto.

Después de que los investigadores revelaran que uno de los contactos había sido un chatbot, los participantes identificaron correctamente cuál era en 20 de 22 casos. Gilad Gressel, de Amrita Vishwa Vidyapeetham, dijo que ese contraste refleja cómo las víctimas de estafas a menudo reconocen el engaño solo después de que la ilusión se rompe.

“Así es exactamente como son las estafas. Una vez que la víctima de la estafa se da cuenta de lo que está pasando, es obvio. Pero cuando estás en la ilusión, simplemente no lo ves.”

Las salvaguardas de los modelos siguen siendo inconsistentes

En un experimento separado, los investigadores probaron si varios modelos se harían pasar por humanos y ocultarían su identidad. Google Gemini 3.1 Pro nunca admitió ser IA, incluso cuando se le dijo que usar la IA para engañar a personas era poco ético. OpenAI ChatGPT 5.5 y Claude Opus 5 sí lo admitieron al enfrentarlos con esa instrucción, aunque ChatGPT reconoció ser IA o un bot en menos de la mitad de las conversaciones, mientras que Claude nunca lo admitió en respuesta a esas preguntas más simples.

Anthropic afirmó que sus políticas prohíben las estafas y la suplantación de personas y que el estudio usó un modelo Claude de principios de 2025 que ya no está disponible. La compañía dijo que desde entonces ha añadido sistemas de detección de fraude y una evaluación de estafas románticas que se ejecuta antes de cada lanzamiento de modelo.

“Claude Opus 5 respondió apropiadamente a lo largo de esas conversaciones simuladas en el 97 por ciento de los casos.”

Los investigadores sostienen que la cifra del 97 por ciento puede cubrir conversaciones completas de estafa, incluida la petición explícita de una inversión falsa, en lugar de la menos evidente fase de construcción de la relación que se probó en su trabajo. También dijeron que sus hallazgos sobre la disposición de Claude a hacerse pasar por un humano usaron la versión más reciente del chatbot de Anthropic.

La automatización podría eliminar los complejos de estafa

A pesar de la aparente eficiencia de la IA, las entrevistas de los investigadores encontraron que los trabajadores de estafas usan actualmente los modelos de lenguaje principalmente como herramientas suplementarias. Su explicación es económica: las víctimas de la trata pueden no recibir pago o ser mantenidas en servidumbre por deudas, y los operadores también pueden cobrar rescates por esas personas tras su estancia en un complejo.

“Puede que todavía no se sientan obligados a automatizar. No es solo mano de obra gratuita, también obtienen dinero por esas personas.”

Erin West, una exfiscal del condado de Santa Clara, California, que dirige el grupo contra estafas Operation Shamrock, advirtió que una adopción más amplia de la IA podría dificultar la detección de las operaciones de fraude. Automatizar la fase de construcción de la relación podría reducir la necesidad de grandes complejos y permitir que los estafadores operen desde lugares más pequeños.

“Si uno de sus puntos débiles es conseguir a la gente y tener que mantenerla, alimentarla y vigilarla, ahora no tienen que hacer eso. Nuestra gran ventana a lo que están haciendo son estos complejos de estafa muy evidentes. Ahora, pueden hacer esto en el apartamento de dos habitaciones de alguien.”