Quem treina a IA brasileira? Mulheres, dados e testes de viés
Por trás de cada inteligência artificial existem pessoas que escolhem os dados, desenvolvem modelos, estabelecem critérios e avaliam resultados.
ESPECIAL
Rayan
11/9/202613 min read
No Brasil, pesquisadoras, cientistas de dados e profissionais de tecnologia estão ampliando essa discussão e mostrando por que a diversidade também precisa fazer parte da construção da inteligência artificial.
A inteligência artificial costuma ser apresentada como uma tecnologia capaz de aprender, analisar informações e tomar decisões com cada vez mais autonomia. Mas existe uma pergunta que nem sempre recebe a mesma atenção que os avanços dos algoritmos: quem está por trás da construção dessas ferramentas?
Antes de uma inteligência artificial responder a uma pergunta, recomendar um produto, avaliar um currículo ou auxiliar um diagnóstico médico, existe uma cadeia de trabalho humano. Alguém selecionou os dados utilizados no treinamento, definiu os parâmetros do modelo, estabeleceu o que seria considerado um resultado adequado e testou seu comportamento diante de diferentes situações.
Essas decisões não são necessariamente neutras. Quando os dados carregam desigualdades históricas ou quando as equipes responsáveis pelo desenvolvimento não representam a diversidade da sociedade, os sistemas podem reproduzir padrões discriminatórios, mesmo quando foram projetados para oferecer respostas objetivas.
No Brasil, mulheres que trabalham com pesquisa, desenvolvimento, ciência de dados e governança tecnológica estão ajudando a trazer esse debate para o centro da transformação digital. Mais do que ampliar a presença feminina em um setor historicamente masculinizado, a discussão envolve uma questão estratégica: como construir uma inteligência artificial que compreenda melhor a diversidade da população brasileira?
A inteligência artificial não nasce neutra
Existe uma ideia bastante difundida de que os algoritmos são imparciais porque trabalham com números, estatísticas e grandes volumes de informação. Na prática, entretanto, os resultados de um sistema dependem diretamente das escolhas feitas durante seu desenvolvimento.
Um modelo de inteligência artificial aprende a identificar padrões a partir dos dados que recebe. Se esses dados apresentam desequilíbrios, lacunas ou representações distorcidas da realidade, existe a possibilidade de que o sistema reproduza essas limitações.
Imagine uma ferramenta de recrutamento treinada com históricos de contratações de uma empresa em que os cargos de liderança foram ocupados predominantemente por homens. Se o algoritmo utilizar esses registros como referência para identificar candidatos considerados ideais, poderá interpretar determinadas características associadas a trajetórias masculinas como indicadores de maior potencial profissional.
O problema não está necessariamente em uma instrução explícita para discriminar mulheres. Ele pode estar na própria estrutura dos dados utilizados para ensinar o sistema.
Situações semelhantes podem ocorrer em reconhecimento facial, sistemas de crédito, ferramentas de recomendação, tradução automática e aplicações de saúde.
A pesquisadora Renata Wassermann, professora do Instituto de Matemática e Estatística da Universidade de São Paulo (IME-USP), aborda justamente essa relação entre representatividade e desenvolvimento tecnológico no artigo Elas na inteligência artificial: questões de gênero, publicado na Revista USP em 2024.
O trabalho discute como a falta de diversidade nas equipes responsáveis pela criação de sistemas de IA pode influenciar seus resultados e apresenta exemplos de estereótipos de gênero reproduzidos por ferramentas de tradução automática.
A questão, portanto, vai além de quem programa. Também envolve quem identifica os problemas, questiona os resultados e determina quais perspectivas precisam ser consideradas antes que uma tecnologia seja disponibilizada ao público.
Mulheres ainda são minoria na construção da tecnologia
A participação feminina na tecnologia brasileira apresenta avanços, mas ainda enfrenta obstáculos importantes.
Segundo a quarta edição do estudo W-Tech 2025, produzido pelo Observatório Softex, as mulheres representam apenas 19,2% dos especialistas em tecnologia da informação no Brasil. São aproximadamente 89,7 mil profissionais em um universo de quase 470 mil trabalhadores especializados.
O número ajuda a dimensionar um desafio que se torna ainda mais relevante quando observamos áreas específicas, como inteligência artificial, aprendizado de máquina, engenharia de dados e desenvolvimento de sistemas.
Uma pesquisa acadêmica publicada em 2024 na revista Biblionline, da Universidade Federal da Paraíba, analisou 556 teses e dissertações brasileiras relacionadas à inteligência artificial. O levantamento identificou que as mulheres eram responsáveis por aproximadamente 30% dos trabalhos analisados.
Embora os dados utilizem metodologias e universos diferentes, ambos apontam para uma questão importante: a participação feminina na produção de conhecimento e no mercado de tecnologia ainda está distante da paridade.
Isso não significa ausência de competência ou interesse. Significa que o acesso às oportunidades, a permanência na carreira, o reconhecimento profissional e a participação em posições de liderança continuam sendo desafios relevantes.
Quando a discussão chega à inteligência artificial, essas desigualdades ganham uma dimensão adicional. Afinal, as profissionais que participam da construção dessas ferramentas também ajudam a definir como tecnologias cada vez mais presentes na sociedade serão desenvolvidas e utilizadas.
As mulheres brasileiras que estão ajudando a construir essa tecnologia
O protagonismo feminino na inteligência artificial brasileira não está concentrado em uma única área. Ele aparece na pesquisa acadêmica, na ciência de dados, na engenharia, na saúde, no empreendedorismo e na discussão sobre ética e governança.
Algumas trajetórias ajudam a compreender a amplitude dessa participação.
Teresa Ludermir: uma trajetória pioneira na inteligência artificial
Professora da Universidade Federal de Pernambuco (UFPE), Teresa Ludermir é uma das pesquisadoras pioneiras da inteligência artificial no Brasil.
Sua trajetória acadêmica está ligada ao desenvolvimento de redes neurais artificiais, aprendizado de máquina e sistemas inteligentes aplicados a diferentes problemas de engenharia e ciência.
Sua contribuição também tem importância para a descentralização da produção científica brasileira. Ao desenvolver pesquisas e formar profissionais no Nordeste, Teresa representa uma geração de pesquisadoras que ajudou a consolidar a inteligência artificial como campo de investigação no país antes mesmo da popularização dos modelos generativos.
Sua trajetória demonstra que a presença feminina na IA brasileira não é um fenômeno recente. Mulheres já participavam da construção desse conhecimento muito antes de a tecnologia ganhar a visibilidade que possui atualmente.
Renata Wassermann: questionando os limites dos algoritmos
Professora associada do Departamento de Ciência da Computação do IME-USP, Renata Wassermann atua na pesquisa em inteligência artificial e em discussões relacionadas aos impactos sociais da tecnologia.
Seu trabalho sobre questões de gênero na inteligência artificial chama atenção para uma dimensão frequentemente negligenciada: os sistemas podem reproduzir estereótipos presentes nos dados e nas estruturas sociais que orientam seu desenvolvimento.
Ao discutir exemplos de tradução automática e a falta de diversidade nas equipes de pesquisa, a professora contribui para ampliar a compreensão sobre responsabilidade tecnológica.
Sua abordagem reforça que desenvolver uma IA eficiente não significa apenas melhorar sua capacidade de processamento. Também é necessário investigar quais padrões ela aprende e quais grupos podem ser prejudicados por suas respostas.
Lilian Berton: inteligência artificial e equidade na saúde
A pesquisadora Lilian Berton, do Instituto de Ciência e Tecnologia da Universidade Federal de São Paulo (ICT-Unifesp), coordena estudos voltados à redução de vieses em sistemas de inteligência artificial aplicados à saúde.
Uma das questões centrais de suas pesquisas é a desigualdade na representação de diferentes grupos populacionais nos conjuntos de dados utilizados para treinar modelos.
Quando determinadas populações aparecem em menor quantidade nas bases de treinamento, os resultados podem ser menos precisos para esses grupos. Isso representa um risco especialmente importante em aplicações médicas, nas quais uma previsão equivocada pode influenciar decisões relacionadas à saúde de uma pessoa.
Em janeiro de 2026, a Agência FAPESP divulgou uma pesquisa sobre um método que combina desempenho dos modelos com diferentes métricas de equidade, buscando reduzir distorções relacionadas a gênero, características étnico-raciais e idade.
O trabalho evidencia que combater vieses exige mais do que aumentar o volume de dados. É necessário avaliar quem está representado, como os resultados variam entre diferentes grupos e quais medidas podem tornar os sistemas mais equilibrados.
A cadeia invisível: quem participa do treinamento de uma IA?
Quando falamos em treinamento de inteligência artificial, é comum imaginar engenheiros desenvolvendo códigos ou computadores processando milhões de informações. Entretanto, o processo é muito mais amplo e envolve diferentes especialidades.
Uma inteligência artificial pode depender de profissionais responsáveis por:
Coleta e curadoria de dados: selecionam, organizam e verificam as informações utilizadas no treinamento dos modelos.
Anotação de dados: classificam imagens, textos, áudios e outros conteúdos para que os sistemas consigam reconhecer padrões.
Engenharia de dados: desenvolvem estruturas para armazenar, tratar e disponibilizar informações.
Aprendizado de máquina: criam e ajustam modelos capazes de identificar padrões e produzir previsões.
Avaliação e testes: verificam a precisão, a consistência e o comportamento dos sistemas diante de diferentes cenários.
Ética e governança: analisam riscos, identificam possíveis discriminações e estabelecem critérios para o uso responsável da tecnologia.
Essa divisão de responsabilidades ajuda a entender por que a diversidade precisa estar presente em diferentes etapas do desenvolvimento.
Uma equipe pode ter mulheres em cargos de gestão, mas continuar apresentando baixa representatividade feminina entre as pessoas que definem os critérios técnicos de treinamento. Da mesma maneira, pode contar com profissionais de diferentes origens, mas utilizar conjuntos de dados que não representam adequadamente a população brasileira.
A diversidade precisa fazer parte das decisões técnicas, e não apenas da composição institucional das empresas.
O que acontece quando os dados não representam a sociedade?
O Brasil apresenta uma diversidade social, cultural, regional e étnico-racial que torna particularmente importante a discussão sobre representatividade nos sistemas de inteligência artificial.
Um modelo treinado predominantemente com informações de determinadas regiões, grupos sociais ou padrões de comportamento pode apresentar dificuldades quando aplicado a públicos diferentes.
Isso pode acontecer de diversas maneiras.
Reconhecimento facial
Sistemas de reconhecimento facial podem apresentar diferenças de desempenho entre grupos raciais e de gênero quando os conjuntos de treinamento não são suficientemente representativos.
Recrutamento e seleção
Ferramentas utilizadas para analisar currículos ou classificar candidatos podem reproduzir desigualdades presentes nos históricos de contratação e promoção das organizações.
Saúde
Modelos utilizados para identificar riscos e apoiar diagnósticos podem apresentar resultados menos precisos para populações sub-representadas nos dados médicos.
Tradução e linguagem
Modelos de linguagem podem reproduzir associações estereotipadas entre determinadas profissões, características pessoais e gêneros.
Crédito e serviços financeiros
Sistemas de avaliação de risco podem reproduzir desigualdades históricas quando utilizam variáveis que funcionam como indicadores indiretos de condições socioeconômicas ou territoriais.
Esses exemplos demonstram que o problema não está restrito a uma tecnologia específica. Ele pode aparecer em praticamente qualquer aplicação que utilize dados para classificar, recomendar, prever ou tomar decisões.
Um estudo publicado em 2025 na revista Temáticas, vinculada à Unicamp, também explorou vieses em sistemas de reconhecimento facial a partir de uma perspectiva de estudos de gênero e futuros feministas. A pesquisa reforça a importância de questionar não apenas a precisão técnica, mas também as consequências sociais das tecnologias.
O olhar interseccional: por que falar apenas de gênero não é suficiente?
A discussão sobre mulheres na inteligência artificial precisa considerar que não existe uma experiência feminina única.
Mulheres negras, indígenas, periféricas, com deficiência e de diferentes regiões do Brasil podem enfrentar obstáculos distintos para ingressar, permanecer e crescer profissionalmente no setor tecnológico.
Essa perspectiva é conhecida como interseccionalidade. O conceito ajuda a compreender como diferentes características sociais podem se combinar e produzir experiências específicas de desigualdade.
Na inteligência artificial, essa análise tem duas dimensões.
A primeira está relacionada às oportunidades profissionais. Uma mulher negra que deseja ingressar em uma carreira de engenharia de dados, por exemplo, pode enfrentar barreiras relacionadas tanto à desigualdade de gênero quanto ao racismo estrutural e à dificuldade de acesso a redes de formação e oportunidades.
A segunda dimensão está relacionada aos próprios sistemas desenvolvidos.
Uma ferramenta de reconhecimento facial pode apresentar resultados diferentes conforme a combinação de características como gênero, tonalidade de pele e idade. Avaliar somente o desempenho médio do sistema pode esconder problemas que afetam grupos específicos.
Por isso, não basta perguntar se uma inteligência artificial funciona bem. É necessário investigar para quem ela funciona bem, em quais condições e quais pessoas podem ser prejudicadas por suas limitações.
Essa preocupação também aparece nas discussões internacionais sobre governança ética da IA. O relatório da iniciativa Women for Ethical AI, da UNESCO, destaca a relação entre participação feminina, representatividade dos dados, direitos humanos e avaliação de impactos tecnológicos.
Testar vieses precisa fazer parte do desenvolvimento, não ser uma correção de última hora
Se os sistemas podem reproduzir desigualdades, uma das respostas está na criação de processos de avaliação mais rigorosos.
Os testes de viés permitem investigar se uma ferramenta apresenta diferenças relevantes de comportamento entre grupos populacionais.
Na prática, isso significa avaliar o mesmo sistema sob diferentes condições, comparar seus resultados e identificar possíveis distorções.
Uma empresa que desenvolve uma ferramenta de recrutamento, por exemplo, pode verificar se candidatos com qualificações equivalentes recebem avaliações diferentes quando são apresentados com nomes associados a gêneros distintos.
Em uma aplicação de reconhecimento facial, os testes podem comparar taxas de acerto e erro entre diferentes grupos de pessoas.
Já em um sistema de atendimento automatizado, é possível investigar se o modelo compreende adequadamente variações linguísticas, sotaques e diferentes formas de expressão.
Algumas práticas importantes nesse processo incluem:
1. Avaliar a composição dos dados
Identificar quais grupos estão representados nos conjuntos de treinamento e quais aparecem de maneira insuficiente.
2. Comparar resultados entre diferentes públicos
Verificar se o desempenho do sistema apresenta diferenças relevantes conforme gênero, idade, características étnico-raciais ou localização geográfica.
3. Investigar erros e padrões discriminatórios
Analisar não apenas a quantidade de erros, mas também quem é mais frequentemente afetado por eles.
4. Realizar testes contínuos
Um sistema pode apresentar resultados adequados durante o desenvolvimento e começar a produzir distorções quando passa a interagir com novos públicos e contextos.
5. Manter supervisão humana
Decisões importantes não devem depender exclusivamente de resultados automatizados, especialmente em áreas como saúde, crédito, educação e contratação.
O objetivo não é criar sistemas que nunca apresentem erros, algo tecnicamente irrealista, mas desenvolver mecanismos capazes de identificar, medir, reduzir e corrigir problemas.
A avaliação de equidade precisa acompanhar todo o ciclo de vida da tecnologia.
Iniciativas brasileiras que buscam ampliar a presença feminina na IA
A ampliação da participação feminina também depende de iniciativas que conectem profissionais, estimulem a formação e deem visibilidade às trajetórias de mulheres que atuam no setor.
Um exemplo é o projeto Elas na IA, iniciativa que reúne perfis de dez profissionais brasileiras da ciência, tecnologia e empreendedorismo. A proposta é mostrar a diversidade de trajetórias femininas na construção da inteligência artificial e estimular meninas e mulheres a considerarem essas áreas como possibilidades de carreira.
O projeto também desenvolve uma pesquisa para mapear a presença feminina no mercado brasileiro de tecnologia da informação, inteligência artificial e dados.
Outra iniciativa relevante é a W.AI Brasil, comunidade voltada à conexão e ao desenvolvimento de mulheres que desejam aprender, aplicar e liderar projetos de inteligência artificial.
O movimento busca aproximar profissionais, empresas e instituições, ampliando a participação feminina em discussões sobre inovação, negócios e transformação tecnológica.
Há também iniciativas de capacitação voltadas a mulheres empreendedoras. Em agosto de 2026, a Agência Gov divulgou o projeto Ela Pode IA, desenvolvido pelo Ministério do Empreendedorismo em parceria com o Instituto Rede Mulher Empreendedora. A iniciativa anunciou 5 mil vagas de capacitação, com reserva de 50% para mulheres negras.
O programa contempla aplicações práticas da inteligência artificial em gestão, planejamento, marketing, vendas, atendimento e produtividade.
Essas iniciativas mostram que a inclusão feminina precisa acontecer em diferentes níveis: formação, acesso ao mercado, desenvolvimento profissional, empreendedorismo e participação nas decisões sobre o futuro da tecnologia.
Diversidade também é uma questão estratégica para as empresas
Durante muito tempo, a diversidade nas equipes foi tratada principalmente como uma pauta institucional ou de responsabilidade social. Com a expansão da inteligência artificial, essa discussão também passou a ter implicações diretas sobre a qualidade dos produtos e serviços desenvolvidos pelas organizações.
Uma equipe com diferentes experiências e perspectivas pode identificar problemas que passariam despercebidos em ambientes mais homogêneos.
Isso não significa que a presença de mulheres, isoladamente, seja suficiente para eliminar vieses. Diversidade precisa estar acompanhada de conhecimento técnico, processos de avaliação, autonomia para questionar decisões e participação efetiva nas escolhas estratégicas.
Para as empresas que utilizam inteligência artificial em suas operações, algumas perguntas se tornam fundamentais:
Quem participou do desenvolvimento e da validação da ferramenta?
Quais dados foram utilizados para treinar o sistema?
Existem avaliações de desempenho para diferentes grupos de usuários?
Como a organização identifica e corrige respostas discriminatórias?
Há supervisão humana em decisões que podem afetar pessoas?
Os fornecedores de tecnologia apresentam informações sobre testes, limitações e governança?
Essas questões são especialmente importantes em aplicações de atendimento ao consumidor, análise de informações, recrutamento, gestão de pessoas e relacionamento digital.
Uma IA utilizada para interagir com milhares de clientes, por exemplo, precisa compreender diferentes formas de comunicação e responder adequadamente a públicos diversos. Caso contrário, a automação pode ampliar dificuldades de acesso em vez de melhorar a experiência.
É nesse contexto que empresas de relacionamento e experiência do cliente, como a WA Contact Center, também precisam considerar a qualidade dos dados, a supervisão dos sistemas e a capacidade das soluções inteligentes de compreender diferentes necessidades dos consumidores.
A eficiência operacional e a experiência humana não precisam competir. O desafio está em construir tecnologias que consigam equilibrar as duas dimensões.
O futuro da IA brasileira depende de quem participa das decisões
O desenvolvimento da inteligência artificial no Brasil representa uma oportunidade importante para o país ampliar sua capacidade de inovação, produzir conhecimento e criar soluções alinhadas às necessidades da própria população.
Mas esse avanço não depende exclusivamente de investimentos em infraestrutura, poder computacional ou desenvolvimento de novos modelos. Também exige pessoas qualificadas, ambientes de pesquisa diversos e organizações comprometidas com a construção de tecnologias responsáveis.
A presença feminina nesse processo precisa deixar de ser percebida apenas como uma conquista de representatividade e passar a ser reconhecida como parte da própria estratégia de desenvolvimento tecnológico.
Isso envolve abrir espaço para mulheres na engenharia, na ciência de dados, na pesquisa acadêmica, na liderança de equipes e na governança da inteligência artificial. Envolve também reconhecer que mulheres negras, indígenas e profissionais de diferentes realidades precisam participar das decisões que definem como essas tecnologias serão utilizadas.
Afinal, uma inteligência artificial desenvolvida para atender uma sociedade diversa precisa ser construída a partir de perspectivas igualmente diversas.
A pergunta sobre quem treina a IA brasileira, portanto, não é apenas uma discussão sobre representatividade profissional. É uma reflexão sobre quem tem o poder de definir os padrões, os critérios e os limites das tecnologias que começam a influenciar praticamente todas as dimensões da vida contemporânea.
E talvez uma das perguntas mais importantes para o futuro da inteligência artificial seja justamente esta: estamos construindo máquinas capazes de compreender a diversidade humana ou apenas ensinando sistemas cada vez mais sofisticados a reproduzir as desigualdades que já existem?