La ley de IA de California puede ocultar la advertencia que los usuarios necesitan

La nueva ley de transparencia sobre IA de California ya está en vigor, pero su definición de transparencia podría dejar a los usuarios sin la información más útil: una advertencia clara en el momento en que ven por primera vez contenido sintético.

Aprobada en 2024, la ley crea un sistema técnico para rastrear la procedencia de imágenes, vídeos y audios generados por IA. Exige que las empresas responsables de las herramientas de generación de IA ampliamente utilizadas adjunten dos formas de información:

• Metadatos del archivo que identifican quién creó el contenido, cuándo se hizo y qué herramienta lo generó.
• Datos de procedencia incrustados que contienen una versión reducida de la misma información, ocultos dentro del propio contenido —por ejemplo, en los píxeles de una imagen.

Las empresas de IA también deben proporcionar una herramienta pública y gratuita de detección capaz de identificar cualquiera de los dos tipos de datos de procedencia. Las herramientas de creación deben ofrecer a los usuarios una forma de añadir una etiqueta visible o audible de «generado por IA», pero la ley no exige que esa etiqueta se aplique a cada pieza de contenido.

Las plataformas deciden cuán visible es la advertencia

Los requisitos técnicos de la ley son más estrictos que los orientados al consumidor. A partir del próximo año, las redes de distribución de contenido, como las plataformas sociales, tendrán que alertar a los usuarios de que hay datos de procedencia disponibles. Pueden hacerlo enlazando a los datos, permitiendo que los usuarios los descarguen o creando una interfaz para mostrarlos.

Pero la ley no exige que esa interfaz aparezca junto a la imagen, el vídeo o el audio que describe. Una plataforma podría adjuntar una etiqueta «generado por IA» directamente al contenido, mostrar un enlace de texto como «credenciales de contenido disponibles» o usar un icono pequeño. La elección queda en manos de la plataforma y de sus abogados.

Recomendado

Fugas en WebKit pueden exponer a usuarios detrás de iCloud Private Relay

Eso crea una debilidad práctica: el sistema de procedencia puede funcionar correctamente mientras permanece invisible durante la primera impresión del usuario. Alguien desplazándose por un feed social puede no abrir un panel de metadatos ni buscar un enlace de credenciales separado antes de decidir si el contenido es auténtico.

La procedencia técnica no equivale a transparencia para los consumidores

La ley refleja, por tanto, dos significados diferentes de transparencia. Para las empresas de IA, transparencia significa crear y conservar un registro técnico verificable de cómo se creó el contenido. Para los consumidores, significa recibir una señal inmediata de que una imagen, grabación o vídeo puede no ser lo que parece.

El enfoque de California proporciona a periodistas, plataformas, equipos de investigación, académicos y tribunales una infraestructura útil para examinar el contenido a posteriori. Es menos concluyente en el punto en que la desinformación puede tener su mayor efecto: antes de que el espectador se detenga a investigar.

La cuestión sin resolver no es si existen datos de procedencia, sino si las plataformas los harán prominentes y adyacentes al contenido. La ley de California deja esa decisión de diseño crítica en manos de las empresas que distribuyen medios sintéticos, por lo que su protección al consumidor dependerá menos de la norma subyacente que de cuán agresivamente las plataformas elijan exponerlos.