Dos muitos desafios que a IA apresenta, um deles é saber o que é real e o que é artificial, se não falso. Com a adoção de um novo padrão para rotular vídeos capturados com uma câmera real, sem alterações no vídeo ou no som, o YouTube avança para destacar vídeos que são reais ou falsos.
Por que os rótulos de IA são importantes
É razoável que, com a IA generativa sendo capaz de criar vídeos e imagens fotorrealistas, as pessoas sejam alertadas sobre o que é “real” e o que é “falso”. Isso é um imperativo moral, mas também representa um risco significativo para marcas e proprietários de mídia, caso as plataformas não ajam rapidamente.
Para marcas e agências, essa se tornou uma questão cada vez mais séria, pois até mesmo aplicativos relativamente conservadores, como as técnicas de edição aprimoradas por IA generativa no Photoshop, acionavam algumas iterações iniciais de rótulos de IA – e alguns clientes ficavam assustados.
Embora os sistemas de rotulagem e detecção estejam se tornando mais sofisticados, há uma ironia inegável aqui: as empresas que desenvolvem simultaneamente essa nova e poderosa tecnologia também são as que precisam garantir que suas plataformas consigam distinguir conteúdo real de falso, para que a Internet não comprometa seus principais produtos sob o peso do conteúdo gerado, um problema que ameaça a disposição dos anunciantes de gastar dinheiro com elas.
O que está acontecendo
O ponto principal é que alguns vídeos terão uma seção “Como este vídeo foi feito” que indicará se foi “capturado com uma câmera” ou não. A IA ainda não foi rotulada, em resumo.
Como funciona
Para que a captura seja divulgada como originada da câmera, o YouTube explica que o vídeo precisa ser gravado com uma câmera que tenha suporte ao protocolo C2PA e não deve ser editado de forma que a cadeia de procedência seja quebrada ou que a natureza central do vídeo (som e visual) não seja alterada radicalmente.
Em contexto
Não é perfeito, e é apenas um passo em direção a um rótulo de conteúdo de IA. Não é a primeira grande plataforma (que também está conectada ao desenvolvimento de IA) a trabalhar para rotular conteúdo. A Meta adaptou recentemente seus critérios e posicionamento para rótulos de IA, permitindo alguma manipulação generativa.
O que sabemos sobre IA generativa
É um espaço grande e em rápida mudança, mas neste verão a WARC reuniu sua inteligência disponível sobre o assunto de IA generativa no contexto da publicidade, que os membros da WARC podem encontrar aqui.
Foto: Freepik
Fonte: WARC
