Nos últimos anos, o tema do viés em sistemas de inteligência artificial deixou de ser assunto restrito a especialistas. Aparece com frequência em reportagens, debates públicos, documentos regulatórios e conversas nas redes sociais. Já não é novidade dizer que algoritmos podem discriminar, reforçar desigualdades ou produzir decisões injustas. Em certo sentido, a sociedade percebeu que a promessa da tecnologia neutra era simplista demais.
Ao mesmo tempo, sistemas automatizados passaram a ocupar posições cada vez mais centrais em decisões que afetam diretamente a vida das pessoas. Algoritmos avaliam currículos, sugerem contratações, aprovam ou negam crédito, definem prioridades, recomendam conteúdos, classificam riscos e auxiliam decisões médicas e administrativas. Em muitos desses contextos, o desempenho técnico das ferramentas é alto: são rápidas, consistentes e eficientes.
É justamente aí que surge uma confusão persistente. Quando um sistema funciona bem do ponto de vista técnico — com bons indicadores de acerto, eficiência ou produtividade — tende-se a concluir que também decide melhor. O salto do “funciona bem” para o “decide bem” é quase automático, mas equivocado. Algoritmos são excelentes em otimizar a aplicação de critérios predefinidos, mas não escolhem os critérios, nem quem arca com os custos das decisões.
O debate recente sobre viés em inteligência artificial trouxe à tona problemas reais, mas ainda luta para alcançar o núcleo da questão. A crítica pontual precisa se transformar em uma reflexão mais profunda sobre tecnologia, poder e responsabilidade.
Viés em IA
Quando se fala em viés em inteligência artificial, é comum que o termo seja confundido com opinião, intenção ou posicionamento ideológico. No contexto técnico, porém, o significado é bem diferente. Viés, aqui, descreve como o algoritmo erra — e, sobretudo, como esse erro se distribui.
Sistemas de inteligência artificial aprendem observando grandes conjuntos de dados. Durante o treinamento, o algoritmo recebe exemplos do passado e tenta identificar padrões estatísticos que permitam prever resultados futuros. Além disso, esses sistemas aprendem correlações estatísticas, não relações de causa e efeito, o que significa que padrões úteis para previsão podem levar a decisões inadequadas quando o contexto muda. Esse processo envolve uma etapa central de otimização: o sistema ajusta milhares ou milhões de parâmetros internos — como se estivesse girando inúmeros botões — para reduzir seus erros médios. Cada ajuste melhora um pouco o desempenho global, até que o sistema atinja um equilíbrio considerado satisfatório.
O ponto crucial é que essa otimização busca minimizar o erro agregado. Em termos simples, o algoritmo aprende a “ir bem na média”. Mas ir bem na média não significa ir bem em todos os casos. Se certos grupos, contextos ou situações aparecem com menos frequência nos dados de treinamento, o sistema tende a aprender padrões menos precisos para lidar com esses casos. Muitas vezes, o viés não decorre apenas de erros contra determinados grupos, mas do simples fato de que certas realidades não aparecem nos dados, não são medidas ou não são digitalizadas — e, portanto, tornam-se invisíveis para o sistema. O resultado é uma distorção sistemática.
É aqui que entra o conceito de viés. Um erro ocasional é esperado em qualquer sistema — humano ou automático. Já o viés ocorre quando os erros se concentram repetidamente em casos de um mesmo tipo. Um sistema pode ter excelente desempenho geral e, ainda assim, errar mais quando encontra determinados grupos, regiões, faixas etárias ou condições. Erros que não são exceções, mas parte do comportamento regular do modelo.
Imagine ajustar um instrumento musical apenas ouvindo o som médio de uma orquestra inteira. O resultado pode soar harmonioso no conjunto, mas alguns instrumentos estarão desafinados. O processo de ajuste funcionou, mas privilegiou o som dominante. Em sistemas de IA, algo parecido acontece: o ajuste estatístico favorece os padrões mais comuns, enquanto os casos menos representados ficam à margem.
Portanto, viés em inteligência artificial não é defeito moral ou desvio ideológico. É uma consequência direta da forma como esses sistemas aprendem, otimizam e generalizam.
Quando o viés ganha escala
Isoladamente, um erro algorítmico pode parecer irrelevante. Nenhum sistema — humano ou artificial — é perfeito. O problema surge quando decisões automatizadas passam a ser usadas em larga escala, de forma contínua e com pouca contestação. Nesse cenário, pequenas distorções deixam de ser exceções e se tornam regra.
Diferentemente de decisões humanas, que variam de pessoa para pessoa e de contexto para contexto, sistemas automatizados tendem a repetir o mesmo padrão indefinidamente. Se um modelo erra mais em certos tipos de casos, ele fará isso milhares ou milhões de vezes, sempre da mesma forma. O viés, então, consolida-se.
Outro fator decisivo é a opacidade. Muitas decisões mediadas por algoritmos não são facilmente explicáveis para quem é afetado por elas. Quando um pedido de crédito é negado, um currículo é descartado ou uma recomendação não aparece, raramente fica claro qual critério foi determinante. Isso dificulta a identificação do viés e torna a contestação quase impossível, mesmo quando o impacto é significativo.
Há ainda um efeito cumulativo. As decisões dos algoritmos influenciam o comportamento de pessoas e instituições, gerando novos dados que alimentam os próprios sistemas. Assim, padrões enviesados podem se reforçar ao longo do tempo. O algoritmo não apenas reflete o mundo como ele é, mas ajuda a criar o mundo que será observado no futuro.
Quando isso ocorre em áreas sensíveis — como acesso a oportunidades, serviços públicos, informação ou direitos —, o viés deixa de ser um detalhe técnico e passa a atuar como um mecanismo silencioso de organização social. Ele não aparece como uma regra explícita, mas produz efeitos concretos, persistentes e difíceis de rastrear.
Sem solução simples
É natural imaginar que o caminho seria “remover o viés” dos sistemas de inteligência artificial — como se fosse possível limpar um ruído indesejado e voltar a um estado neutro. O problema é que essa neutralidade, em muitos casos, não existe nem como referência. O viés com frequência resulta de escolhas embutidas no modo como o sistema aprende, é avaliado e usado.
Para começar, nem todo viés é necessariamente ruim. Há situações em que um sistema é deliberadamente “enviesado” por razões legítimas. Na medicina, por exemplo, pode ser preferível errar para o lado da cautela: aceitar mais falsos alarmes para evitar deixar passar um caso grave. Em políticas públicas, pode-se querer priorizar grupos historicamente prejudicados — uma decisão normativa explícita. O ponto central não é eliminar qualquer assimetria, mas tornar claro qual assimetria está sendo produzida, por quê e com quais consequências.
Além disso, a ideia de justiça não tem uma definição única. O que parece “justo” em um critério pode parecer inadequado em outro. Um sistema pode tentar garantir que diferentes grupos recebam resultados positivos na mesma proporção; ou pode tentar garantir que pessoas semelhantes tenham a mesma chance de serem corretamente identificadas; ou ainda pode tentar equilibrar taxas de erro. Esses objetivos, porém, entram em conflito. Em termos práticos — e isso é um fato bem estabelecido — não é possível satisfazer simultaneamente todos esses critérios de justiça.
Há também um obstáculo menos intuitivo: muitas vezes, para medir e corrigir viés, seria necessário conhecer com precisão características sensíveis (como raça, gênero, condição socioeconômica etc), mas essas informações podem ser difíceis de coletar, eticamente delicadas ou legalmente restritas. E mesmo variáveis aparentemente neutras podem embutir características discriminatórias que permitem o retorno do viés por outras portas.
Por fim, correções técnicas raramente encerram o problema. Ajustar um modelo pode reduzir uma disparidade e aumentar outra; melhorar a performance de um grupo pode alterar a calibração do sistema; tornar uma decisão mais “igualitária” pode reduzir a eficiência em contextos específicos. Em sistemas que aprendem com dados ao longo do tempo, há ainda retroalimentações: decisões atuais mudam o mundo e, com ele, os dados futuros — de modo que o viés pode reaparecer ou se deslocar.
Sistemas de IA operam no cruzamento entre estatística, otimização e escolhas sociais. Quando se promete uma solução simples para um problema que, por natureza, envolve critérios diversos e é sensível a diferenças de contexto, o resultado costuma ser outro tipo de cegueira: a crença de que basta melhorar o algoritmo para resolver conflitos que, na verdade, pertencem ao domínio da sociedade.
O que está em jogo?
O maior risco é confundir desempenho técnico com qualidade decisória e, a partir daí, delegar escolhas socialmente relevantes a sistemas cujos critérios permanecem implícitos, opacos ou pouco discutidos.
O viés em IA não surge apenas do código, nem apenas dos dados. Emerge da interação entre modelos estatísticos, objetivos de otimização, contextos de uso e estruturas sociais. Quando esses sistemas operam em larga escala, seus efeitos deixam de ser marginais e passam a organizar o acesso a oportunidades, serviços e direitos. Nesse cenário, a ilusão de objetividade pode ser tão danosa quanto o erro explícito.
Não existe — e dificilmente existirá — uma solução definitiva para o problema do viés. Não há um critério único de justiça, nem um ajuste técnico capaz de satisfazer simultaneamente todas as noções razoáveis de equidade, eficiência e precisão. Em muitos casos, corrigir uma distorção significa introduzir outra.
Talvez o caminho mais realista não seja buscar um sistema “perfeitamente neutro”, mas construir um ecossistema de sistemas, com vieses distintos, explícitos e auditáveis, que se equilibrem ao longo do tempo. Algo análogo ao que ocorre em sociedades humanas: não existem códigos de conduta totalmente isentos de viés, mas a diversidade de perspectivas, regras e mecanismos de controle cria dinâmicas de equilíbrio.
A inteligência artificial não é um árbitro externo à sociedade. É parte dela. E, como toda construção humana, carrega limites, escolhas e tensões que não podem ser apagadas, mas que devem ser reconhecidas.
Americo Cunha Jr é pesquisador do Laboratório Nacional de Computação Científica (LNCC) e professor associado do Departamento de Matemática Aplicada da Universidade do Estado do Rio de Janeiro (UERJ). Em seu tempo livre, lê e escreve sobre divulgação científica, filosofia da ciência e a relação entre conhecimento, incerteza e sociedade.