No hay imagen de cubierta disponible

Generative AI Transparency: Identification of Machine-Generated content

Autor(es):
Hamon, Ronan | Sánchez, Ignacio | Fernández Llorca, David | Gómez, Emilia
Series
; JRC 137136
Editor:
Bruselas : Comisión Europea 21/05/2024
Descripción:
6 p. ; 1 documento PDF
Tipo de contenido: texto (visual)
Tipo de medio: electrónico
Tipo de soporte: recurso en línea
Tema(s):
Inteligencia Artificial | Políticas públicas digitales | Unión Europea | inteligencia artificial generativa | GenAI | transparencia | contenidos | generación de contenidos | generación por máquina | datos | identificación | open source | código abierto | metadatos | huella dactilar | marca de agua
Recursos en línea:
Acceso a la publicación
Resumen:
Este informe tiene como objetivo examinar cuatro soluciones técnicas para lograr que la inteligencia artificial (IA) generativa sea más transparente y capaz de detectar e identificar los contenidos generados por máquinas. De este modo se busca garantizar que la confianza en la tecnología y los medios digitales se mantenga intacta, promoviendo la confianza en el ecosistema digital europeo. Las soluciones propuestas son los metadatos, las marcas de agua, las huellas dactilares y las herramientas de detección. La evaluación se realiza en función de cuatro propiedades deseables: eficacia (identificación fiable de los contenidos generados, mediante la recuperación de información), integridad de los datos (preservación de la integridad del contenido), robustez frente a la alteración del contenido (preservación de la eficacia cuando el contenido está sujeto a cambios o alteraciones que son previsibles y no afectan a la naturaleza sintética del contenido), y protección contra la manipulación (capacidad de resistir cualquier modificación destinada a manipular la información). La IA generativa es un campo de vanguardia de la IA que puede crear contenidos realistas de apariencia humana. La preocupación por su uso indebido y sus implicaciones sociales ponen de relieve la importancia de identificar los contenidos generados por máquinas. El documento señala que, a fecha de 2024, las soluciones técnicas existentes basadas en metadatos, marcas de agua, huellas dactilares o detección sólo cumplen con las propiedades deseadas parcialmente para los contenidos de texto, imagen y audio.
Lista(s) en las que aparece este ítem:
Economía del dato e IA | Novedades junio 2024
    Valoración media: 0.0 (0 votos)