Mesmo com acesso a sistemas de inteligência artificial de ponta e altamente seguros, as comunidades de inteligência dos Estados Unidos continuam enfrentando desafios já conhecidos, como a confiabilidade das respostas e a imprevisibilidade dos sistemas generativos. Essa reflexão vem de um artigo instigante publicado pela The Economist. O texto adota uma perspectiva bastante ocidental e trata a IA como parte de uma corrida armamentista por supremacia tecnológica.
Importância do tema para a publicidade
Dois pontos se destacam:
O risco das chamadas alucinações, respostas incorretas geradas por IA, aumenta ainda mais em sistemas que criam seus próprios comandos, o que gera imprevisibilidade.
A importância do toque humano. Em situações sensíveis, como o contato com figuras-chave de governos hostis (o artigo cita o exemplo de um cientista nuclear iraniano), uma mensagem automatizada dificilmente transmitiria a confiança necessária. O meio é parte da mensagem, e isso também vale em contextos de menor risco, como na publicidade.
Algumas ideias importantes
O financiamento por trás do avanço da IA nos EUA vem não apenas do capital de risco (venture capital), mas também de órgãos como o Departamento de Defesa, o Pentágono e até o Departamento de Energia, responsável pelas armas nucleares (o que reforça a importância de que esses sistemas não “alucinem”).
Há diferenças entre as IAs comerciais e aquelas utilizadas pelas agências de inteligência, como maior segurança e capacidade de processar dados confidenciais. No entanto, desafios como a adoção lenta e a limitação de uso prático vão além dos chatbots e também afetam essas instituições. Como questiona Tarun Chhabra, diretor de política de segurança nacional da Anthropic: “Como reestruturar toda a missão com base nessa tecnologia?”
O maior obstáculo, no entanto, continua sendo o risco de alucinações. Muitos especialistas das principais agências de inteligência, como a NSA (EUA) e o GCHQ (Reino Unido), ainda duvidam se os modelos de linguagem atuais serão, de fato, o grande avanço da IA, ou se serão necessários novos modelos com capacidade de raciocínio causal e compreensão de mundo antes de uma adoção mais robusta.
O tema traz muitos pontos de reflexão.
Foto: Freepik
Fonte: WARC
Entre em contato com o AcontecendoAqui se tiver interesse em divulgar seus trabalhos para a Comunidade AcontecendoAqui. Envie um e-mail para [email protected]
