Os modelos de inteligência artificial (IA) estão cada vez mais presentes em escolas, ambientes de trabalho e processos criativos.
Nos últimos anos, a popularização dos chamados “Large Language Models” (LLMs), sistemas capazes de interpretar, gerar e reproduzir a linguagem humana, acelerou a adoção de tecnologias como o Claude e o ChatGPT em diferentes workstations no Brasil e no mundo.
Diante das mais de 47 mil ferramentas de IA existentes, listadas pelo “There’s An AI For That” (TAAFT), a expansão da inteligência artificial chegou a diversas áreas como comunicação, publicidade, educação e até recrutamento empresarial. Para se ter uma noção, o mercado global de IAs deve atingir US$ 617 bilhões até o final do segundo semestre de 2026, com expectativa de expansão acelerada, segundo a consultoria alemã Statista.
No entanto, o crescimento de 14% a.a. (ao ano) da indústria pode estar ameaçada pelos gargalos observados por seus desenvolvedores. O debate sobre a diversidade e o racismo no desenvolvimento das IAs ganhou um novo contorno: segundo a ata “Lado Sombrio do Escalonamento de Conjuntos de Dados”, publicado no GitHub, a probabilidade de uma imagem de um homem ‘negro ou latino’ ser classificada como ‘criminoso’ aumentou em até 69% entre 14 modelos multimodais baseados na arquitetura Vision Transformers (ViT-L) – sistemas de IA capazes de processar imagens e texto ao mesmo tempo.
Diante da falha na curadoria por trás dos developers, a CEO da Pittaco Consultoria, consultora de imagem identitária e participante da 9ª temporada do Shark Tank Brasil, Cáren Cruz, explica que a discussão não começa com a inteligência artificial generativa, mas sim de um processo iniciado há quase uma década em ‘tecnologias de análise facial’. “Ainda em 2017, a pesquisadora Joy Buolamwini, do ‘MIT Media Lab’, vinha denunciando falhas nos sistemas de visão computacional a partir da sua própria experiência como mulher negra. Em 2018, ao lado da pesquisadora Timnit Gebru, ela publicou o estudo Gender Shades, que demonstrou como as tecnologias comerciais de análise facial apresentavam índices de erro muito maiores ao analisar mulheres de pele mais escura do que homens de pele mais clara”, revela.
Esse padrão se repetiu mesmo apesar dos avanços da IA, sobretudo quando se fala em representação de pessoas negras em ‘ferramentas’ de geração de imagens. Embora muitas delas consigam ‘produzir’ imagens com qualidade visual, iluminação adequada, nitidez, acabamento e apresentação visual elaborada, Cáren explica que a qualidade estética não vem acompanhada da preservação dos traços fenotípicos, da aparência original e da identificação visual da pessoa retratada.
“São frequentes os relatos de ruído na precisão da imagem gerada. Mesmo quando os comandos são específicos e partem de fotos reais, a inteligência artificial pode alterar o tom da pele, modificar a textura do cabelo, suavizar traços faciais, mudar o formato do nariz, da boca, do rosto, das expressões e de elementos fundamentais para o reconhecimento da pessoa. O resultado pode parecer alinhado a um padrão visual socialmente aceito, mas falha em um ponto crucial: preservar a aparência, os traços fenotípicos e a identificação visual”, comenta.
Para Cáren, o maior desafio segue em retratar pessoas negras sem embranquecer, suavizar, distorcer ou reduzi-las a estereótipos visuais. “Quando a ferramenta altera características fundamentais de uma pessoa negra, ela não está apenas cometendo uma falha de precisão; está reproduzindo uma lógica histórica em que determinados traços são tratados como algo a ser corrigido, neutralizado ou aproximado de um padrão dominante. A tecnologia não nasce neutra. Ela aprende a partir de bancos de dados, imagens, descrições e repertórios que também carregam desigualdades históricas. Se esses dados foram construídos com baixa diversidade racial, ou se representam pessoas negras de forma limitada, estereotipada ou pouco plural, a ferramenta tende a reproduzir estas limitações no resultado final. Ou seja, os vieses presentes na sociedade também podem ser incorporados aos sistemas que hoje mediam a nossa presença digital”, explica.
Diversidade racial
Somando mais de 18 anos no mercado de ‘consultoria identitária’ para negócios, a CEO da Pittaco afirma que a ‘diversidade’ tem um papel central na construção das tecnologias de inteligência artificial. Com a presença cada vez mais consolidada em diferentes setores da economia e da sociedade, Cáren alerta que essas ferramentas precisam considerar a pluralidade das aparências negras e sua nuance fenotípica, cromática, cultural, territorial e estética.
“Na minha própria experiência como ‘consultora de imagem identitária’, participei de um grupo focal em que diferentes profissionais deveriam analisar amostragens de pele a partir de regiões do país. Dentro da proposta apresentada pela instituição, a pele negra aparecia distribuída em apenas 6 tons. No entanto, quem trabalha com imagem, aparência e identidade sabe que essa redução não abraça a complexidade das peles negras, especialmente em um país como o Brasil”, destaca Cáren.
Especialista em Colorimetria, Cáren afirma que ao falar da pele negra, não estamos falando de uma única cor, profundidade ou classificação, mas de um espectro muito amplo, que envolve diferentes origens, peles negras brasileiras, peles atravessadas por miscigenações, variações de pigmentação, subtons, luminosidades, contrastes e profundidades cromáticas. “A inovação verdadeira precisa reconhecer, preservar e respeitar a pluralidade das aparências negras sem apagar, suavizar ou padronizar aquilo que nos identifica”, conclui.
Foto: Magnific
Entre em contato com o AcontecendoAqui se tiver interesse em divulgar seus trabalhos para a Comunidade AcontecendoAqui. Envie um e-mail para [email protected]
