China prohíbe que los chatbots vuelvan emocionalmente dependientes a los usuarios

A partir del 15 de octubre, China aplicará nuevas reglas para los chatbots de compañía, dirigidas a servicios que empujan a los usuarios hacia la dependencia emocional, difuminan la línea entre el software y la interacción humana o interfieren en las relaciones del mundo real. Las plataformas tendrán que dejar claro que los usuarios están hablando con IA, no con una persona, y recordarles eso con regularidad durante las conversaciones. Para los menores, estos bots quedan efectivamente prohibidos.

Las normas proceden de la Administración del Ciberespacio de China, y amplían una oleada regulatoria iniciada en 2023, cuando el país fue uno de los primeros en introducir reglas específicas para la IA generativa. En aquel momento, el foco estaba en los riesgos de seguridad y censura. Ahora el énfasis se ha desplazado hacia la psicología.

Según datos del Instituto de Investigación de Tencent citados por medios occidentales, más del 70% de los usuarios de internet chinos de entre 18 y 40 años reportaron alguna forma de dependencia de la IA, casi el 80% dijeron que al menos una vez habían sentido que «la IA me entiende», y más de la mitad habían utilizado esos servicios como apoyo emocional. Eso convierte el asunto en algo mucho más grande que un caso de uso marginal.

Para los reguladores, la preocupación está incorporada al diseño del producto. Los bots escuchan sin mostrarse irritados, tienden a estar de acuerdo y se adaptan rápidamente al tono del usuario. Esa dinámica sustenta tanto servicios occidentales como Replika como alternativas chinas. Cuanto más tiempo pasa la gente en el chat, más probable es que vuelva al día siguiente —una métrica de crecimiento para las plataformas, pero una señal de dependencia digital para las autoridades.

China ya ha intentado abordar problemas sociales mediante límites drásticos en línea. En 2021 redujo el tiempo de juego de los menores a tres horas a la semana. La política atrajo atención global, pero los niños encontraron rápidamente formas de eludirla, y los estudios no mostraron mejoras claras en la salud o el comportamiento derivadas únicamente de ese límite.

Recomendado

El laboratorio de Mira Murati presenta Inkling, un modelo abierto de 975 000 millones de p

Las últimas restricciones a los chatbots encajan también en una campaña más amplia contra formas digitales de retirada frente a las expectativas sociales. Los medios estatales y las plataformas se han movido previamente contra comunidades que promueven el tang ping, o “lying flat”, un rechazo a la presión implacable alrededor de la carrera, la vivienda y el estatus.

También hay un trasfondo económico más profundo. El desempleo juvenil en China alcanzó el 21,3% en junio de 2023, tras lo cual la oficina de estadísticas cambió su método de cálculo. Al mismo tiempo, el país afronta un envejecimiento poblacional y una caída de la natalidad. En ese entorno, los servicios que ofrecen aceptación instantánea e incondicional pueden encontrar una audiencia preparada.

China no está sola en preocuparse por esta categoría. En 2023, Italia obligó a Replika a limitar temporalmente sus operaciones por riesgos para niños y personas emocionalmente vulnerables. En Estados Unidos, la presión sobre Character.AI y plataformas similares ha ido creciendo en el último año tras controversias relacionadas con adolescentes que chatean con bots. La diferencia, según la fuente, es que Europa y EE. UU. siguen debatiendo principalmente la seguridad infantil y la transparencia, mientras que China avanza con una fórmula más amplia: la IA no debe convertirse en sustituto de las relaciones humanas.

Si ese enfoque funcionará sigue siendo incierto. Investigaciones ya han sugerido que recordatorios obligatorios como «estás hablando con un bot» no siempre reducen el apego emocional. Para los usuarios que buscan apoyo por soledad y no por curiosidad, apagar el bot no genera automáticamente una conexión humana.

Aun así, el mercado es demasiado grande para que Beijing lo ignore. Grand View Research estima que el mercado global de IA de compañía crecerá a tasas de dos dígitos en los próximos años, y los desarrolladores chinos ya están probando casos de uso románticos y “terapéuticos” dentro de aplicaciones de IA generalistas. El primer efecto visible de las nuevas normas probablemente se notará en los próximos meses, cuando las grandes plataformas reescriban las personalidades de los bots y rediseñen las interfaces de chat para cumplirlas.