xAI impugna en los tribunales la prohibición de la nudificación en Minnesota

xAI está demandando al fiscal general de Minnesota para bloquear una nueva ley dirigida a las herramientas de "nudificación", alegando que la norma alcanza más allá de las imágenes sexualizadas claramente dañinas y podría abarcar también usos políticos, satíricos, educativos y médicos de software generador de imágenes. La ley tiene previsto entrar en vigor el próximo mes.

La demanda sigue a una controversia relacionada con Grok, de xAI. Tras un fin de semana festivo, usuarios generaron supuestamente un gran número de imágenes sexualizadas de personas reales sin su consentimiento, incluidos menores. Una estimación situó en hasta 23,000 el número de imágenes que representaban a niños. xAI dijo posteriormente que había modificado las capacidades de Grok para impedir esos usos.

Lo que prohíbe la HF 1606 de Minnesota

La disputa se centra en la HF 1606 de Minnesota, que prohíbe acceder, descargar o usar tecnología de "nudificación" cuando el software elimina automáticamente la ropa de las personas en las imágenes. La ley también permite a Minnesota multar a las empresas y crea un cauce para que las víctimas presenten demandas.

Recomendado

La EPA exonera a las centrales eléctricas de centros de datos de los límites por lluvia ác

Su redacción parece dirigirse no solo a la imagen resultante sino también a la plataforma que la genera. xAI sostiene que la definición de "nudificación" de Minnesota contiene demasiados criterios vagos. La compañía también impugna el tratamiento legal de las partes del cuerpo "íntimas" —incluido el aparente alcance de la disposición a imágenes de muslos íntimos— y afirma que el estatuto no tiene en cuenta la intención ni del usuario ni del desarrollador.

Una objeción aparte concierne a cómo se calculan las penas. Según xAI, las multas se vinculan al número de imágenes generadas en lugar del daño real causado. Eso podría hacer que la responsabilidad aumente rápidamente a medida que un servicio escala.

El argumento de xAI sobre usos legales

La reclamación central de la compañía es que la HF 1606 no castiga solo resultados pornográficos; también puede sancionar la operación del propio servicio. En su presentación, xAI identifica escenarios que cree podrían entrar dentro del alcance de la ley, incluidos:

• Imágenes satíricas
• Contenido político
• Materiales educativos
• Imágenes médicas

xAI ofrece un cálculo para ilustrar la exposición potencial: si diez imágenes cubiertas por HF 1606 produjeran 5 millones de dólares en multas, entonces 100,000 imágenes podrían, teóricamente, generar una factura de 50,000 millones de dólares. La compañía presenta esa cifra como evidencia de que la ley es excesivamente severa para un servicio de IA público con millones de usuarios y miles de millones de generaciones.

La demanda no sostiene que los estados carezcan del poder para prohibir la distribución de imágenes desnudas generadas artificialmente de personas reales sin su consentimiento. El desacuerdo es sobre dónde termina esa prohibición —y si el estado puede definir el límite mediante reglas amplias sobre partes del cuerpo "íntimas" y la clasificación automatizada de contenido.

Cambios en la política de Grok y la prueba judicial pendiente

El caso también sigue a compromisos públicos de xAI y las empresas de Elon Musk tras incidentes anteriores con Grok. xAI dijo que haría X más segura y que adoptaría una postura más dura contra la explotación sexual infantil, la nudidad no deseada y otro contenido sexual no deseado.

Eso convierte a la demanda menos en un desafío a las prohibiciones sobre imágenes claramente dañinas y más en un esfuerzo por acotar una ley que xAI dice que también captura generaciones de buena fe. La compañía busca detener un estatuto que considera demasiado amplio, no defender los escenarios abusivos que provocaron la respuesta de Minnesota.

La respuesta de Minnesota podría llegar pronto porque la ley debe entrar en vigor el próximo mes. Si el tribunal se alinea con el estado, la HF 1606 se convertirá en una de las primeras pruebas significativas de reglas regionales anti-nudificación en Estados Unidos. Si xAI obtiene una suspensión, las empresas de generación de imágenes tendrán que adaptarse a un modelo de cumplimiento más cauteloso —y potencialmente más costoso.