xAI demanda a un usuario de Grok por deepfakes sexuales

Elon Musk’s xAI ha demandado al usuario de Grok Terry Wayne Harwood, acusándolo de crear material de explotación sexual infantil e imágenes no consentidas. Reuters informa que la demanda fue presentada en un tribunal federal en Texas contra Harwood, que es de Carolina del Sur.

xAI afirma que Harwood violó repetidamente las reglas del servicio de Grok y utilizó el chatbot para lo que la compañía califica como «abuso repugnante» de la IA generativa. En la demanda, sin embargo, xAI describe a Grok como una «herramienta neutral sujeta al control del usuario», situando la responsabilidad de la salida en la persona que la usa.

La compañía también dice que informó 73,604 casos de contenido sospechoso al U.S. National Center for Missing & Exploited Children este año. Según xAI, esos informes condujeron a los arrestos de al menos 244 personas.

Recomendado

Apple retrasa el chip de servidor de IA Baltra

Cómo cambió la imagen «menos restringida» de Grok

La demanda sigue a una disputa más larga sobre la postura permisiva de Grok. Cuando se lanzó el chatbot, Musk promocionó su carácter provocador y funciones que otras empresas de IA probablemente hubieran evitado. En 2025, los usuarios en X y Reddit debatieron ampliamente el uso de un llamado «modo picante» para desnudar a personas, mientras Musk publicó videos e imágenes estilo anime que parecían sugerir casos de uso sexualizados.

xAI posteriormente endureció las reglas de Grok. El servicio ahora prohíbe explícitamente:

• Desnudar a personas reales;
• Editar imágenes de personas reales para situarlas en un contexto íntimo o sexual; y
• Representar la semejanza de alguien en forma pornográfica.

Esas reglas son centrales en el caso de xAI. La compañía busca demostrar que Grok tiene restricciones internas y que fue Harwood, y no sus desarrolladores, quien las violó.

Otras grandes empresas de IA, incluidas OpenAI y Google, añadieron barreras, filtros y bloqueos adicionales después de que las primeras oleadas de imágenes generadas crearan problemas relacionados con la suplantación de identidad, el contenido sexualizado y los menores. Para plataformas con grandes audiencias, un único incidente de alto perfil puede convertirse rápidamente en un problema de costes legales además de reputacional.

Por qué la demanda importa para la IA generativa

Grok se enfrenta a un panorama especialmente difícil porque su reputación de «libertad» y moderación débil ya ha atraído escrutinio. En enero, funcionarios británicos amenazaron públicamente a X con multas e incluso con una prohibición por la capacidad del servicio de crear imágenes no consentidas. En el verano, los usuarios se quejaron de que las nuevas restricciones les impedían obtener los resultados sexualizados que se les habían prometido.

En Reddit, la disputa se convirtió en su propio ciclo de frustración: algunos usuarios exigían deepfakes completamente sin restricciones, mientras otros señalaron que la moderación ahora bloqueaba indicaciones que antes funcionaban.

El caso contra Harwood le da a xAI una forma de establecer una postura legal clara: la compañía provee una herramienta de propósito general, mientras que el uso ilícito es responsabilidad del usuario. Ese argumento puede ayudar a xAI a evitar responsabilidad por cada deepfake generado a través del servicio, pero también pone de relieve los límites de sus salvaguardias.

Reuters informa que Harwood fue arrestado en febrero. xAI debe ahora defender un servicio que públicamente ha abrazado una identidad menos restringida mientras explica por qué Grok sigue apareciendo en casos que involucran fabricaciones sexuales, contenido relacionado con menores e intentos de eludir las salvaguardias.