A Inteligência Artificial pode ser racista? Entenda o que é viés algorítmico
Preconceitos do mundo real podem ser reproduzidos pelas máquinas - e por isso é tão importante uma regulamentação
Por
SEGUIR
SEGUINDO
29 abr 2025, 19h00
Conforme aumenta a utilização da Inteligência Artificial na sociedade, surgem dilemas éticos que desafiam especialistas e legisladores, como a garantia de privacidade dos dados dos usuários, os possíveis vieses dos algoritmos e a responsabilidade por decisões automatizadas. De acordo com o relatório de recomendações éticas no uso de IA da Unesco, todo e qualquer sistema de Inteligência Artificial deve ser auditável e rastreável, com mecanismos de supervisão, avaliação de impacto e auditoria para evitar conflitos com direitos humanos.
O viés algorítmico, em especial, tem gerado preocupações devido à forma como sistemas de machine learning (aprendizado da máquina, em tradução livre) podem reproduzir desigualdades históricas. Esse aprendizado de máquina nada mais é do que a capacidade da IA de aprender padrões a partir de dados, fazendo previsões e tomando decisões de forma independente. O problema é que, se esses dados utilizados refletirem preconceitos ou padrões injustos do mundo real, o algoritmo acaba normalizando, perpetuando ou até amplificando essas tendências.
+ ‘AI Divide’: as propostas da ONU para superar a desigualdade gerada pela Inteligência Artificial
Um sistema de reconhecimento facial treinado majoritariamente com imagens de pessoas brancas pode ter dificuldade em identificar corretamente rostos de pessoas negras ou asiáticas – ou seja, uma reprodução racista. Um aplicativo de seleção de currículos de uma empresa que, historicamente, contratou muito mais homens do que mulheres para cargos de liderança pode perceber esse padrão e, sem entender que isso é um problema social, aprender que ser homem é um bom sinal para ser contratado nos altos escalões da empresa.
Algorithmic bias? An empirical study in the display of
STEM career ads. Managment Science, 65(7), pp. 2966-81 (ONU/Guia do Estudante/Reprodução)
Especialistas acusam as empresas de IA de falta de transparência no processo de treinamento. “Sem uma regulamentação, a população fica desprotegida, enquanto com ela podemos evitar abusos e responsabilizar os desenvolvedores da tecnologia em caso de uso inadequado”, explica Lucas Emanuel Silva de Oliveira, coordenador da graduação em Inteligência Artificial da PUC-PR.
“Regulamentar significa garantir que as IAs sejam usadas de maneira ética, transparente e justa, promovendo a segurança e a privacidade dos dados, mas também a mitigação de vieses discriminatórios”, endossa John Paul Hempel Lima, coordenador acadêmico do curso de IA do Centro Universitário Fiap.
podem ser tendenciosos, frequentemente apresentando
desempenhos inferiores para grupos marginalizados. Nesta IA
de diagnóstico de retinopatia diabética, o algoritmo apresentou
disparidade na precisão de resultados entre pessoas brancas
e não-brancas (adaptado de “Recomendações éticas sobre
Inteligência Artificial” da Unesco, 2021). (ONU/Guia do Estudante/Reprodução)
No cenário global atual, a União Europeia é a que mais tem avançado na criação de regras rígidas, como o AI Act, enquanto os Estados Unidos de Donald Trump focam apenas no investimento maciço em tecnologia, com parcerias com as principais empresas do ramo e um investimento de 500 bilhões de dólares no setor. Nos primeiros dias de seu mandato, Trump chegou a revogar o primeiro decreto do ex-presidente Joe Biden que tentava regular a tecnologia no país.
No Brasil, o avanço é lento, com propostas em debate, como a PL 2338/2023 (sobre o desenvolvimento, o fomento e o uso ético e responsável da IA) e a PL 21/2020 (sobre os fundamentos, princípios e diretrizes para o desenvolvimento e aplicação da IA no Brasil), mas ainda sem uma estrutura consolidada.
+ 5 questões sobre redes sociais e Inteligência Artificial que já caíram nos vestibulares
Além disso, há desafios na implementação de regulamentações já existentes, com destaque para a Lei Geral de Proteção de Dados Pessoais (LGPD), de 2018, que apesar de proteger os dados pessoais, enfrenta dificuldades na pequena estrutura de fiscalização. “O Brasil está atrasado se compararmos com EUA e União Europeia”, destaca Oliveira.
O desafio da regulamentação da IA é encontrar um equilíbrio entre incentivar a inovação e garantir responsabilidade no uso da tecnologia. O professor da PUC-PR alerta que uma burocracia excessiva pode dificultar o avanço do setor, mas a ausência de regras pode gerar problemas como discriminação em serviços bancários, planos de saúde e oportunidades de emprego.
Além disso, seria fundamental que a legislação contemplasse políticas de requalificação profissional, protegendo trabalhadores impactados pelas transformações no mercado de trabalho. A transparência nos algoritmos e a responsabilidade das empresas devem ser pontos prioritários para garantir um desenvolvimento ético da IA. Sem uma regulamentação eficiente, o Brasil corre o risco de se tornar apenas consumidor de tecnologias estrangeiras, perdendo espaço na construção do futuro digital no mundo.
Saiba mais sobre os impactos da IA no mundo
É fato que a IA, hoje, é o maior impulsionador de inovação tecnológica no mundo – do setor da saúde à educação, passando pela indústria, finanças e pelas demandas do cotidiano. Com a capacidade de aprender e realizar tarefas de forma autônoma, a tecnologia está remodelando a maneira como vivemos e trabalhamos. Não mais uma promessa distante, é agora uma realidade presente, com impactos reais nos mais diversos aspectos da sociedade.
Quer entender mais sobre estes impactos e como eles podem ser cobrados no vestibular? A nova edição da revista de Atualidades do GUIA DO ESTUDANTE é inteiramente dedicada ao tema.
Ao longo de mais de 100 páginas, você encontrará:
- Um raio-X dos impactos da IA em diversos setores da sociedade;
- Resenhas sobre filmes, séries e livros que debatem a tecnologia;
- Uma análise sobre a regulamentação de plataformas como Google e Meta;
- Gráficos que ilustram o uso da internet no Brasil e no mundo
- Um simulado com questões de vestibulares e muito mais.
A edição está disponível no aplicativo Goread, uma banca virtual de revistas que reúne diversos títulos importantes, como Superinteressante, Veja e Revista Piauí. O app é gratuito para clientes Vivo e também pode ser assinado separadamente.
Entre no canal do GUIA no WhatsApp e receba conteúdos de estudo, redação e atualidades no seu celular!
Prepare-se para o Enem sem sair de casa. Assine o Curso GUIA DO ESTUDANTE ENEM e tenha acesso a todas as provas do Enem para fazer online e mais de 180 videoaulas com professores do Poliedro, recordista de aprovação nas universidades mais concorridas do país.
Qual é o coletivo de ônibus?
Qual é o feminino de elefante?
“Ressuscitou” ou “ressucitou”: qual é o certo?
Qual o plural de guarda-sol?
Os livros que “mudam vidas” recomendados por professores de Harvard
