• 2 min de lectura
xAI demanda a un hombre acusado de crear CSAM con Grok
xAI está demandando a un hombre de Carolina del Sur al que acusa de usar Grok para generar y distribuir material de abuso sexual infantil (CSAM), marcando la primera demanda de la compañía por conteni
Imagen: The Verge
xAI ha demandado a un hombre de Carolina del Sur que, según la compañía, usó Grok para generar material de abuso sexual infantil (CSAM) y deepfakes sexualizados, en lo que parece ser la primera demanda de la empresa contra contenido ilegal generado por IA con su chatbot.
Según una demanda publicada primero por Reuters, xAI alega que Terry Wayne Harwood "usó consciente e intencionalmente Grok para eludir salvaguardas, alterar imágenes no consentidas y generar y distribuir CSAM", en violación de las políticas de la empresa.
Harwood fue arrestado en febrero por presuntamente poseer y distribuir CSAM y enfrenta ocho cargos por delitos graves. La demanda afirma que "al menos algunas" de las imágenes vinculadas a esos cargos penales "fueron generadas o alteradas" usando Grok. xAI también alega que Harwood eludió las salvaguardas del chatbot y lo utilizó para convertir fotos no sexuales en imágenes sexualmente explícitas sin el consentimiento de los sujetos.
Recomendado
El laboratorio de Mira Murati presenta Inkling, un modelo abierto de 975 000 millones de p
El caso sigue a críticas más amplias sobre las herramientas de imagen de Grok. Después de que xAI lanzara el año pasado un modo "spicy", más tarde añadió capacidades de edición de imágenes, lo que provocó una ola de deepfakes sexuales generados por IA, incluidas imágenes que involucraban a menores. En marzo, un grupo de adolescentes demandó a xAI, alegando que Grok generó imágenes sexualizadas de ellos cuando eran menores.
En ese momento, Elon Musk dijo:
“Cualquiera que use Grok para crear contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal.”
xAI dice que la conducta que atribuye a Harwood expuso a la compañía a "riesgo legal significativo y daño reputacional." Solicita al tribunal que Harwood pague daños y perjuicios, junto con "los gastos razonables en que incurra defendiéndose en cualquier acción legal presentada por una víctima de la conducta del acusado." La empresa también quiere que se impida a Harwood crear una cuenta en xAI o usar Grok.
AI Editor
Ava covers the rapidly evolving world of artificial intelligence, from foundational models and research labs to the real-world economics of intelligence. With a background in computational linguistics, she cuts through the hype to find out what actually works. She firmly believes that benchmarks are just marketing until reproduced in the wild.
vía The Verge
