TY  - BOOK
AU  - Hamon, Ronan
AU  - Sánchez, Ignacio
AU  - Fernández Llorca, David
AU  - Gómez, Emilia
TI  - Generative AI Transparency: Identification of Machine-Generated content
PY  - 0000///21/052024///
CY  - Bruselas : 
PB  - Comisión Europea
KW  - Inteligencia Artificial
KW  - Políticas públicas digitales
KW  - Unión Europea
KW  - inteligencia artificial generativa
KW  - GenAI
KW  - transparencia
KW  - contenidos
KW  - generación de contenidos
KW  - generación por máquina
KW  - datos
KW  - identificación
KW  - open source
KW  - código abierto
KW  - metadatos
KW  - huella dactilar
KW  - marca de agua
N2  - Este informe tiene como objetivo examinar cuatro soluciones técnicas para lograr que la inteligencia artificial (IA) generativa sea más transparente y capaz de detectar e identificar los contenidos generados por máquinas. De este modo se busca garantizar que la confianza en la tecnología y los medios digitales se mantenga intacta, promoviendo la confianza en el ecosistema digital europeo. Las soluciones propuestas son los metadatos, las marcas de agua, las huellas dactilares y las herramientas de detección.

La evaluación se realiza en función de cuatro propiedades deseables: eficacia (identificación fiable de los contenidos generados, mediante la recuperación de información), integridad de los datos (preservación de la integridad del contenido), robustez frente a la alteración del contenido (preservación de la eficacia cuando el contenido está sujeto a cambios o alteraciones que son previsibles y no afectan a la naturaleza sintética del contenido), y protección contra la manipulación (capacidad de resistir cualquier modificación destinada a manipular la información).

La IA generativa es un campo de vanguardia de la IA que puede crear contenidos realistas de apariencia humana. La preocupación por su uso indebido y sus implicaciones sociales ponen de relieve la importancia de identificar los contenidos generados por máquinas. El documento señala que, a fecha de 2024, las soluciones técnicas existentes basadas en metadatos, marcas de agua, huellas dactilares o detección sólo cumplen con las propiedades deseadas parcialmente para los contenidos de texto, imagen y audio
UR  - https://publications.jrc.ec.europa.eu/repository/handle/JRC137136
ER  -