• 3 min de lectura
RealOrRender de Fraunhofer detecta deepfakes recreándolos
RealOrRender de Fraunhofer detecta imágenes generadas por IA con hasta un 91 % de precisión al recrearlas y resaltar las regiones sospechosas.
Imagen: iXBT
Fraunhofer IOSB ha presentado RealOrRender, un detector de deepfakes que intenta recrear una imagen antes de decidir si fue generada por IA. El sistema, según informan, alcanza hasta un 91 % de precisión y muestra qué partes de una imagen influyeron en su veredicto.
Cómo RealOrRender detecta imágenes sintéticas
RealOrRender combina dos métodos de análisis. Un clasificador de aprendizaje profundo examina la imagen directamente, mientras que un segundo modelo mide el error de reconstrucción: la diferencia entre el original y una nueva versión generada por un sistema de IA.
La lógica subyacente es inusual. Si el sistema puede reproducir particularmente bien una imagen, eso puede indicar que la imagen fue creada por otro modelo generativo. Fraunhofer informa una precisión base de aproximadamente el 85 %, que en algunos casos supera el 91 %.
El proyecto también utiliza IA explicable para facilitar la inspección de sus decisiones. Marca las regiones sospechosas con mapas de calor y segmentos de imagen, destacando texturas, artefactos y otras características asociadas con imágenes generadas, en lugar de devolver solo un resultado binario.
Demostrador de investigación, no un producto comercial
RealOrRender fue desarrollado en Alemania por Fraunhofer IOSB y financiado por la Oficina Federal Alemana para la Seguridad de la Información (BSI). Fraunhofer lo describe como un proyecto de investigación y demostrador que se ejecuta desde septiembre de 2024 hasta mayo de 2026. Actualmente no se ha anunciado una versión comercial, ni precios para EE. UU. ni precios de producto para la UE.
Recomendado
El concepto zHBM de Samsung promete velocidad 8x respecto a HBM5
Fraunhofer tampoco ha especificado si la tecnología se convertirá en un producto o servicio SaaS, si ofrecerá una API o un SDK, si admitirá implementación local (on-premises) o si publicará su código fuente o sus modelos. Eso hace que la precisión reportada sea más destacable como resultado de investigación que como una alternativa directamente desplegable a los servicios de detección existentes.
A modo de comparación, RealScan de Reality Defender ofrece un plan Business por $399 con facturación anual, que incluye 1,000 escaneos por mes. Truepic Vision ofrece un plan Growth por $1,450 al mes, o $17,400 al año facturados mensualmente, mientras que Sensity AI ofrece implementaciones en la nube y on-premises mediante precios gestionados por el equipo de ventas. La salida explicable de RealOrRender podría ser valiosa para investigaciones, pero hasta que Fraunhofer aclare la distribución y las licencias, no hay forma de comprarla o integrarla comercialmente.
El proyecto llega en un momento de creciente abuso de deepfakes. Una investigación del gobierno del Reino Unido en 2023 identificó 276,149 deepfakes explícitos en un sitio especializado; el 96 % mostraba a mujeres. Sitios de “desnudamiento” por IA atrajeron 24 millones de visitas en septiembre de 2023, lo que llevó a las autoridades del Reino Unido a debatir protecciones más fuertes para los niños. En ese contexto, la combinación de detección y evidencia visual de RealOrRender aborda una debilidad práctica de los sistemas que ofrecen una puntuación sin explicarla.
AI Editor
Ava covers the rapidly evolving world of artificial intelligence, from foundational models and research labs to the real-world economics of intelligence. With a background in computational linguistics, she cuts through the hype to find out what actually works. She firmly believes that benchmarks are just marketing until reproduced in the wild.
vía iXBT
