Generative AI Transparency: Identification of Machine-Generated content / Hamon, Ronan ; Sanchez, Ignacio ; Fernandez Llorca, David ; Gomez, Emilia
.-- Bruselas : Comisión Europea 21/05/2024
.-- 6 p. ; 1 documento PDF
.-- (JRC 137136).
Este informe tiene como objetivo examinar cuatro soluciones técnicas para lograr que la inteligencia artificial (IA) generativa sea más transparente y capaz de detectar e identificar los contenidos generados por máquinas. De este modo se busca garantizar que la confianza en la tecnología y los medios digitales se mantenga intacta, promoviendo la confianza en el ecosistema digital europeo. Las soluciones propuestas son los metadatos, las marcas de agua, las huellas dactilares y las herramientas de detección.
La evaluación se realiza en función de cuatro propiedades deseables: eficacia (identificación fiable de los contenidos generados, mediante la recuperación de información), integridad de los datos (preservación de la integridad del contenido), robustez frente a la alteración del contenido (preservación de la eficacia cuando el contenido está sujeto a cambios o alteraciones que son previsibles y no afectan a la naturaleza sintética del contenido), y protección contra la manipulación (capacidad de resistir cualquier modificación destinada a manipular la información).
La IA generativa es un campo de vanguardia de la IA que puede crear contenidos realistas de apariencia humana. La preocupación por su uso indebido y sus implicaciones sociales ponen de relieve la importancia de identificar los contenidos generados por máquinas. El documento señala que, a fecha de 2024, las soluciones técnicas existentes basadas en metadatos, marcas de agua, huellas dactilares o detección sólo cumplen con las propiedades deseadas parcialmente para los contenidos de texto, imagen y audio.
inteligencia artificial generativa GenAI transparencia contenidos generación de contenidos generación por máquina datos identificación open source código abierto metadatos huella dactilar marca de agua
Sánchez, Ignacio Fernández Llorca, David Gómez, Emilia