A atribuição e a proveniência de conteúdo na mídia tornaram-se uma questão crescente, especialmente nas redes sociais, nos últimos anos. Seus feeds são inundados com conteúdo gerado por IA, incluindo vozes idênticas às de figuras públicas, vídeos de eventos fabricados que parecem vir de fontes confiáveis e até mesmo... Personagens inteiras criadas exclusivamente a partir de pixelsEmbora parte desse conteúdo seja divertido e aparentemente inofensivo, outra parte pode ter consequências impactantes no mundo real.
Está sendo desenvolvido um padrão crucial que poderá impactar profundamente o futuro do conteúdo digital. Esse padrão é C2PAE está ganhando força em todo o setor para proteger a atribuição de mídia e as informações de origem.
Os desafios que estamos enfrentando
Estamos perdendo a capacidade de confiar no conteúdo que vemos e ouvimos online mais rápido do que qualquer um poderia ter previsto.
É verdade que as pessoas têm gerado e circulado conteúdo. fotografias falsas desde o século XIXFerramentas avançadas de edição e manipulação existem há mais de três décadas. Da mesma forma, a desinformação tem sido disseminada em plataformas de mídia social muito antes do surgimento da IA generativa. No entanto, este momento marca o avanço simultâneo em três áreas-chave:
- Gerar mídia sintética é muito mais barato. Ferramentas caras que antes tinham acesso extremamente limitado agora são altamente acessíveis e podem ser executadas em laptops ou celulares.
- A qualidade desses recursos evoluiu a tal ponto que é difícil para a pessoa comum distinguir entre mídia autêntica e sintética.
- Em terceiro lugar, os canais de distribuição desses recursos são agora onipresentes e instantâneos, permitindo que mídias falsas ou manipuladas alcancem milhões de pessoas antes que alguém possa questionar sua origem.
Por exemplo, havia um bem conhecido incidente em Hong Kong no início de 2024Um funcionário do setor financeiro de uma multinacional participou de uma videoconferência com o diretor financeiro (CFO) e vários colegas... ou pelo menos era o que parecia. Eles instruíram o funcionário a transferir milhões de dólares para diversas contas. No entanto, descobriu-se posteriormente que todos os participantes da chamada, incluindo o CFO, eram seres gerados sinteticamente. A convergência entre engenharia social e inteligência artificial (IA) representa um dos riscos de segurança mais críticos que já enfrentamos no ambiente corporativo, e prevê-se que cresça rapidamente, tanto em velocidade quanto em complexidade.
À medida que o público se torna mais consciente da existência de deepfakes e conteúdo fabricado, e de como eles se tornam cada vez mais convincentes, agentes maliciosos ganham uma nova ferramenta. Agora, eles podem alegar que evidências reais são falsas. O ceticismo e os mecanismos de defesa que as pessoas desenvolvem em resposta à mídia sintética podem ser explorados.
Devemos investir em tecnologia de detecção?
Se a IA consegue criar conteúdo falsificado, certamente também consegue detectá-lo. Investir em tecnologia de detecção pode parecer a resposta óbvia, mas também é a errada. Eis o porquê:
Em primeiro lugar, os modelos generativos estão a evoluir mais rapidamente do que os modelos de deteção conseguem acompanhar. Com cada nova técnica que um detetor aprende para identificar conteúdos sintéticos, essa informação é incorporada na próxima rodada de dados de treino dos geradores. É uma corrida armamentista, e o ataque tem vantagens estruturais sobre a defesa, com a diferença a aumentar continuamente.
Segundo, Mesmo os sistemas de detecção de classe mundial falham em grande escala.Se um detector tem 99% de precisão, mas o volume da mídia sintética é da ordem de milhões, o 1% que escapa ainda representa um número enorme. Isso ainda constitui um risco considerável com consequências substanciais para o público em geral.
Terceiro, e mais importante: a detecção só funciona depois que o conteúdo já foi distribuído. Quando algo é sinalizado como falso, a notícia já foi vista, compartilhada e absorvida pelo público.
Para além de uma solução singular, como a deteção, será necessário um esforço coordenado de deteção, assinatura, etiquetagem, validação e (principalmente) educação para combater com sucesso os riscos associados aos conteúdos falsificados.
A questão mais importante em jogo
A detecção é uma postura defensiva e não pode impedir que as pessoas deixem de ver ou ouvir certas coisas, por mais eficiente que seja. Na verdade, quanto mais a detecção melhora, mais crível se torna a alegação do mentiroso de que ela falhou. A própria consciência do problema passa a servir de base para a mentira. Considere o seguinte:
Os tribunais judiciais dependem de provas. O jornalismo depende de fontes. A documentação é fundamental no setor de seguros. As eleições dependem de um registro compartilhado do que cada candidato realmente disse. Em todas essas instituições, existe um conjunto básico de provas cuja existência é consensual, mesmo que haja discordância quanto ao seu significado.
Mas se essa base for removida, teremos desinformação agravada por uma sociedade onde qualquer fato inconveniente pode ser negado. Qualquer verdade incômoda pode ser descartada com a falsa alegação de "Isso é IA". A consequência vai muito além do conteúdo sensacionalista nas redes sociais, impulsionando a lenta erosão dos fundamentos essenciais para o funcionamento das instituições globais.
Mais valor além da verdade
Provar o que é real é uma verdadeira postura ofensiva. Assim que um recurso é criado, você anexa um registro de quem o criou, de onde veio, quais ferramentas foram usadas e como foi alterado desde então. Esse registro acompanha o arquivo. Qualquer pessoa pode verificá-lo e constatar se foi adulterado.
A procedência sempre foi a base da autenticidade. Os tribunais a utilizam para estabelecer a cadeia de custódia de provas. Galerias de arte e negociantes a utilizam para distinguir uma pintura autêntica de Picasso de uma falsificação. O valor de uma bola de beisebol com a assinatura de Mickey Mantle não está na bola em si, mas no rastro documental que comprova que ele de fato a assinou.
Embora a proveniência não seja uma novidade, fazer com que ela funcione em larga escala para a mídia digital é. Essa é a questão técnica que será abordada nos próximos anos. Embora a proveniência não declare a veracidade do conteúdo (um registro assinado por uma organização de notícias legítima ainda pode descrever eventos incorretamente), ela oferece algo mais útil do que a verdade: informações confiáveis sobre a origem. O espectador tem a liberdade de absorver o conteúdo e decidir sua credibilidade por si mesmo. Na confiança digital, precisamos ser capazes de atestar a criação ou modificação da mídia.
A chegada do C2PA
C2PA Significa Coalizão para Proveniência e Autenticidade de Conteúdo.
Desde o seu lançamento, a conformidade com o C2PA cresceu significativamente, expandindo-se para além dos seus membros fundadores. Grandes organizações de mídia, plataformas de IA generativa, fabricantes de hardware e autoridades certificadoras, incluindo SSL, a primeira CA publicamente confiável no ecossistema C2PA.Todos agora são participantes. O SSL emite os certificados que os signatários usam para vincular a procedência verificável à mídia que criam ou modificam.
Se você opera ou desenvolve sistemas onde a confiança é fundamental, entre em contato. Nossa equipe está aqui para ajudá-lo a tomar decisões importantes sobre como implementar soluções de autenticidade de conteúdo, como certificados SSL, C2PA e / ou Certificados CAWG, se encaixa no seu trabalho.
Este artigo é uma versão resumida e interpolada do artigo do Vice-Presidente Executivo de Tecnologia da SSL. Dustin WardPostagem original do blog. Você pode ler a versão completa. aqui.Este é o primeiro artigo de uma série centrada no C2PA.
