A Gartner, empresa referência em análises de tecnologia e mercado, alerta para riscos pouco visíveis ligados ao uso de Inteligência Artificial Generativa (GenAI). Segundo a consultoria, muitos desses desafios são subestimados nas estratégias corporativas, mas precisam ser enfrentados com urgência pelos CIOs para assegurar resultados reais e evitar o fracasso de iniciativas em IA.
Enquanto grande parte das empresas foca em questões mais imediatas, como retorno de negócio, segurança e qualidade dos dados, há perigos de segunda e terceira ordem que passam despercebidos e podem comprometer o futuro da tecnologia dentro das organizações. Entre eles, estão o uso não monitorado de IA por funcionários (shadow AI), acúmulo de dívida técnica, perda de competências humanas, exigências regulatórias de soberania de dados, falhas de interoperabilidade e dependência excessiva de fornecedores.
“As tecnologias e técnicas de GenAI estão evoluindo a um ritmo sem precedentes, acompanhado apenas pelo hype que as cerca, o que torna desafiador para os CIOs navegar nesse cenário dinâmico”, diz Arun Chandrasekaran, Vice-Presidente Analista Emérito do Gartner.
Segundo a Gartner, até 2030, esses pontos cegos devem criar uma divisão clara no mercado: de um lado, as organizações que conseguem ampliar o uso da Inteligência Artificial com segurança e estratégia; de outro, aquelas que permanecem estagnadas, perdem competitividade ou enfrentam impactos internos.
Explosão da Shadow AI
Uma pesquisa do Gartner com 302 líderes em segurança cibernética, realizada entre março e maio de 2025, revelou que 69% das organizações suspeitam ou têm evidências de que seus funcionários estão usando GenAI pública proibida.
A rápida adoção de ferramentas de IA não autorizadas pode levar a impactos visíveis e invisíveis, como perda de propriedade intelectual, exposição de dados e aumento dos riscos de segurança. O Gartner prevê que, até 2030, mais de 40% das organizações sofrerão incidentes de segurança ou conformidade relacionados com shadow AI não autorizada.
“Para endereçar esses riscos, os CIOs devem definir políticas claras para o uso de ferramentas de IA em toda a empresa, realizar auditorias regulares para atividades de shadow AI e incorporar a avaliação de riscos da GenAI em seus processos de avaliação de Software como Serviço (SaaS)”, diz Chandrasekaran.
Dívida técnica da IA
O Gartner prevê que, até 2030, 50% das organizações enfrentarão atrasos nas atualizações de IA e/ou aumento dos custos de manutenção devido à dívida técnica não gerenciada da GenAI.
“As empresas estão entusiasmadas com a velocidade de entrega da GenAI. No entanto, o custo punitivamente alto de manter, corrigir ou substituir artefatos gerados por IA, como código, conteúdo e design, pode corroer o retorno sobre o investimento prometido pela GenAI”, diz Chandrasekaran. “Ao estabelecer padrões claros para revisar e documentar ativos gerados por IA e rastrear métricas de dívida técnica em painéis de TI, as empresas podem tomar medidas proativas para evitar interrupções dispendiosas.”
Aumento da demanda por soberania de dados e IA
O Gartner prevê que, até 2028, 65% dos governos em todo o mundo introduzirão alguns requisitos de soberania tecnológica para melhorar a independência e proteger contra interferências regulatórias extraterritoriais.
As restrições regulatórias ao compartilhamento transfronteiriço de dados ou modelos podem retardar as implementações de IA em toda a empresa, aumentar o custo total de propriedade (TCO) e gerar resultados abaixo do ideal.
Para enfrentar esses desafios, os CIOs devem incorporar a soberania dos dados em suas estratégias de IA desde o início, envolvendo as equipes jurídicas e de conformidade desde o princípio e priorizando os fornecedores que atendam aos seus requisitos de soberania de dados e IA.
Erosão de habilidades
A dependência excessiva da IA pode corroer a expertise, o julgamento e o conhecimento tácito críticos humanos que não são facilmente codificados ou substituíveis. Essa erosão ocorre gradualmente e muitas vezes passa despercebida, de modo que os CIOs podem não reconhecer o risco até que a organização tenha dificuldade para funcionar sem a IA ou quando a IA falhar em casos extremos que exigem intuição humana.
“Para evitar a perda gradual da memória e da capacidade da empresa, as organizações devem identificar onde o julgamento e a habilidade humanas são essenciais, projetando soluções de IA para complementar, e não substituir, essas habilidades”, diz Chandrasekaran.
Dependência e interoperabilidade do ecossistema
As organizações ansiosas por aproveitar o potencial da GenAI em escala geralmente escolhem um único fornecedor por uma questão de rapidez e simplicidade. Essa profunda dependência pode afetar a agilidade técnica da empresa e seu poder de negociação futuro em relação a preços, termos ou níveis de serviço.
Muitos CIOs subestimam o quanto seus dados, modelos ou fluxos de trabalho ficam vinculados a APIs, data lakes e ferramentas de plataforma de fornecedores específicos.
“Priorizar padrões abertos, APIs abertas e arquiteturas modulares no design de stack de IA ajuda as empresas a evitarem a dependência de fornecedores”, diz Chandrasekaran. “Além disso, os CIOs devem tornar a interoperabilidade um padrão em pilotos e avaliações de GenAI.”
Os clientes da Gartner podem ler mais em “Generative AI’s Invisible Undercurrents: 10 Blind Spots CIOs Aren’t Watching but Should”.
Foto: Freepik
Entre em contato com o AcontecendoAqui se tiver interesse em divulgar seus trabalhos para a Comunidade AcontecendoAqui. Envie um e-mail para [email protected]
