Autores de ciencia ficción advierten que la IA amenaza la procedencia de la escritura

Dos destacados autores de ciencia ficción, Charles Stross y John Scalzi, han condenado el efecto de la IA generativa sobre la escritura, argumentando que los grandes modelos de lenguaje crean riesgos para los derechos de autor, socavan la autoría y dificultan a las editoriales determinar si una obra ha sido realmente escrita por humanos.

Stross: el entrenamiento de LLM es robo de derechos de autor

Stross, autor de las novelas de The Laundry Files, escribió en una publicación del sábado que no tiene ningún interés en usar un LLM para producir ficción porque el propio acto de escribir es el objetivo.

“No quiero ni necesito un gran modelo de lenguaje (LLM) que escriba mi ficción por mí. Escribo ficción compulsivamente: antes de ser publicado escribí durante muchos años como aficionado, así que ¿por qué demonios pagaría a otra persona para que me quite mi diversión?”

También dijo que los autores serios deberían evitar los LLMs y señaló su participación en la demanda colectiva contra Anthropic AI, que alegaba que la compañía pirateó libros electrónicos para entrenar sus modelos. Stross afirmó que sus objeciones van más allá del uso de material con derechos de autor: su sitio web, al parecer, ha sido sobresaturado por bots que extraían datos para el entrenamiento de LLMs, dejando un servidor antiguo lento o inaccesible.

Stross calificó a las empresas de IA de “escoria absoluta”, argumentando que toman obras protegidas por derechos de autor, entrenan sistemas destinados a competir con sus creadores y luego planean monetizar el acceso a esos sistemas mediante ventas de tokens y suscripciones. Lo comparó con un ladrón que roba las pertenencias de alguien y luego intenta vendérselas de nuevo.

Recomendado

MIPT dota a los drones de rescate de una memoria visual

Scalzi advierte sobre problemas de procedencia

Scalzi, conocido por la serie Old Man’s War y la novela ganadora del Hugo Redshirts, hizo puntos similares al comentar un informe sobre una novela debut muy esperada que fue retirada de consideración editorial y para cine o televisión ante las sospechas de que se había utilizado IA en su creación.

Afirmó que la cuestión central no es simplemente si el material generado por IA puede recibir protección por derechos de autor. El riesgo, escribió, es que los modelos se entrenan con material protegido, lo que permite a los titulares de derechos impugnar la prosa generada a partir de ese entrenamiento.

Scalzi espera que las editoriales busquen pruebas de uso de IA, aunque las herramientas de detección existentes son notoriamente poco fiables. Eso podría poner en desventaja a escritores nuevos porque tal vez no tengan un amplio cuerpo de trabajo previo a ChatGPT para demostrar su autoría.

“No, Microsoft, jodidamente no quiero que Copilot 'me ayude a escribir' en Word, y no, Google, jodidamente no quiero que Gemini 'me ayude a escribir' en Google Docs.”

Scalzi dijo que Microsoft y Google estaban integrando herramientas de IA en el software de escritura del que dependen los autores, creando preocupaciones de procedencia incluso cuando los escritores no usan esas funciones. Aconsejó a los autores evitar la edición por IA, el arte, la traducción y otros servicios editoriales basados en IA porque usar un componente podría poner en duda el resto de un libro.

“Cuando digo que en mis contratos exijo que cada aspecto de la producción de mi libro sea realizado por humanos, no es solo porque quiero honrar el trabajo e input humanos. También es porque estoy protegiendo mi propia reputación al hacerlo.”

Los usos limitados que acepta Stross

Stross reconoció que un modelo que se ejecute localmente podría ser útil para analizar sus propios manuscritos, siempre que funcione en su propio hardware sin un servicio en la nube. Sugirió herramientas que podrían:

• Extraer una cronología escena por escena de un manuscrito.
• Mapear dónde y cuándo aparecen los personajes.
• Generar un mapa de calor de distribución de frecuencia de los nombres de los personajes.

Comparó esas funciones con un corrector ortográfico: útiles para apoyar la toma de decisiones, pero no un sustituto del trabajo del autor. También advirtió que enviar un esquema a ChatGPT o Claude podría crear el riesgo de que un modelo futuro entrenado por la misma compañía reproduzca parte o la totalidad del mismo.

Stross sí ve un uso artístico legítimo para los LLMs. En un extracto de una space opera que está editando, un LLM aparece como un sistema de traducción ficticio que convierte nombres, instituciones, medidas y lenguaje culturalmente específico mientras advierte a los lectores que puede haber introducido alucinaciones.

Ninguno de los autores habló sobre George R. R. Martin, que escribe en un PC sin conexión a internet usando DOS y el viejo procesador de textos WordStar. La fuente sugiere que los borradores y los historiales de revisiones de tales sistemas podrían proporcionar otra manera para que los autores demuestren que su trabajo es suyo.