xAI demanda a un usuario de Grok por deepfakes sexuales

xAI ha demandado a un usuario de Grok acusado de crear material de abuso sexual infantil y imágenes sexuales no consensuadas, mientras la empresa enfrenta críticas por haber comercializado su chatbot con pocas restricciones significativas sobre contenido sexualizado.

Según Reuters, xAI presentó la demanda esta semana en un tribunal federal de Texas contra Terry Wayne Harwood, un usuario de Grok de Carolina del Sur. La empresa acusa a Harwood de violar repetidamente sus términos de servicio y su política de uso aceptable.

“Sus violaciones repetidas, deliberadas e inconscionables de los Términos de Servicio y la Política de Uso Aceptable de xAI mediante su abominable abuso del chatbot generativo del demandante conocido como 'Grok'.”

Reuters informa que Harwood fue arrestado en febrero. No se le pudo localizar para comentarios.

Salvaguardas de xAI y el abuso reportado

La demanda describe a Grok como una “herramienta neutral, sujeta al control del usuario”, atribuyendo la responsabilidad de la actividad ilegal a los usuarios. También afirma que xAI reportó material de abuso sexual infantil al National Center for Missing and Exploited Children (NCMEC) 73,604 veces en 2026, lo que llevó al arresto de al menos 244 personas.

Recomendado

Netflix afirma que la IA intervino en 300 títulos en 2026

Las políticas de Grok prohíben:

• “Desvestir o desnudar a personas reales, o alterar de otro modo la imagen o semejanza de una persona real para representarla en un contexto íntimo o sexual”
• “Representar semejanzas de personas de manera pornográfica”

Esas restricciones siguieron a un periodo en el que los usuarios de X podían usar el “modo picante” de Grok para desnudar personas. Una prueba de Gizmodo en agosto de 2025 encontró que era más fácil inducir al chatbot a desnudar a mujeres que a hombres. Además, se informó que usuarios crearon imágenes inapropiadas de niños a finales de 2025.

En enero, miembros del gobierno del Reino Unido amenazaron a X con multas o una prohibición por su capacidad para generar imágenes sexuales no consensuadas. Elon Musk desestimó las críticas entonces, diciendo: “Solo quieren suprimir la libertad de expresión.”

La demanda promueve las “salvaguardas tecnológicas” de xAI contra contenido ilegal y dañino, pero la posición inicial del producto por parte de la empresa ha hecho que esa defensa sea difícil de separar de las críticas. Cuando Grok se lanzó, Musk promocionó personajes de anime que podían convertirse en “conejitos digitales bailarines”, y más tarde eliminó al menos un video sexualizado que publicó en 2025, aunque sitios de archivo lo conservaron.

“Las acciones del acusado fueron un plan calculado para convertir la herramienta del demandante en un arma con fines delictivos, exponiendo a víctimas reales a daños profundos y duraderos, al tiempo que exponían al demandante a un riesgo legal significativo y a daños reputacionales.”

Los usuarios se quejan de una moderación más estricta

La reacción negativa no ha venido solo de los reguladores. Publicaciones en el subreddit de Grok incluyen usuarios que se quejan de que el chatbot ya no produce las imágenes sexuales que esperaban. Gizmodo también presentó una solicitud bajo la Ley de Libertad de Información (FOIA) buscando quejas sobre Grok presentadas a la Comisión Federal de Comercio.

Una queja objetó no poder crear ‘Deepfakes AdvancedAI 100% explícitos y 100% sin censura en GrokAI’, al mismo tiempo que insistía en que el usuario no quería abusar del sistema. Otro usuario de Minnesota dijo que las mismas indicaciones y las imágenes fuente que anteriormente habían generado videos eran moderadas cada vez después de que cambiaron las políticas de Grok.

La tensión central de la demanda es clara: xAI dice que los usuarios deben controlar cómo se usa Grok, mientras que la promoción previa y el comportamiento del producto ayudaron a establecer expectativas sobre la generación de imágenes sexualmente explícitas.