Proveniência de Conteúdo¶
O que é¶
Proveniência de conteúdo é a informação registrada sobre a origem de um conteúdo digital e o histórico de alterações feitas nele, usada para ajudar a determinar se — e como — esse conteúdo foi gerado ou modificado por IA. Segundo o documento NIST AI 100-4, uma das principais abordagens técnicas para reduzir riscos de conteúdo sintético é "registrar e revelar a proveniência do conteúdo, incluindo sua origem e o histórico de alterações feitas nele" — por meio de mecanismos como metadados, marcas d'água digitais (visíveis ou ocultas) e certificados de autenticidade associados ao arquivo.
Por que isso importa?¶
Para pesquisa que lida com fontes visuais, sonoras ou audiovisuais coletadas de fontes digitais — especialmente da internet —, verificar a proveniência de um conteúdo é uma etapa cada vez mais necessária de crítica de fontes, equivalente digital à tradicional verificação de autenticidade de documentos históricos. Ferramentas e padrões de proveniência de conteúdo ajudam a distinguir material autêntico de deepfakes ou outros tipos de conteúdo sintético, embora nenhum mecanismo técnico seja infalível.
Exemplo¶
Uma fotografia digital que carrega metadados de proveniência — registrando quando, onde e com qual câmera foi tirada, e confirmando que não passou por edição significativa — oferece a uma pesquisadora um grau de confiança maior sobre sua autenticidade do que uma imagem encontrada sem nenhum histórico verificável, especialmente diante do risco crescente de deepfakes circulando sem contexto.
Não confunda com¶
Proveniência de conteúdo, no sentido técnico de metadados e rastreamento digital, não deve ser confundida com o conceito arquivístico tradicional de proveniência, embora relacionado: proveniência arquivística refere-se à origem institucional ou pessoal de um conjunto de documentos e à cadeia de custódia ao longo do tempo, um princípio fundamental da arquivologia; proveniência de conteúdo, no contexto de IA, é um conceito mais recente e técnico, focado em rastrear se e como um arquivo digital foi gerado ou alterado por IA. Também não é sinônimo de detecção de deepfake: proveniência é uma forma de registrar e revelar a origem de um conteúdo; detecção de deepfake tenta identificar sinais de manipulação diretamente no próprio conteúdo, mesmo sem metadados de proveniência disponíveis.
Termos relacionados¶
Referências¶
- NIST. AI 100-4: Reducing Risks Posed by Synthetic Content. airc.nist.gov/docs/NIST.AI.100-4.SyntheticContent.ipd.pdf