Por Patrice Caine*

"Você joga Go?" Por incrível que pareça, essa pergunta quase certamente revelará o gênero da pessoa que responde.

Isso ocorre porque a comunidade de Go (conhecido como Weiqi na China, Baduk na Coreia e Igo no Japão), assim como certas disciplinas científicas e programas acadêmicos, é amplamente dominada por homens.

Esse desequilíbrio de gênero é, em grande parte, o resultado de fatores sociais e culturais — como ocorre no mundo da ciência —, mas provavelmente nem sempre foi assim ao longo da longa história do jogo.

De fato, há fortes evidências sugerindo que a maneira como o jogo é transmitido de geração em geração — assim como a forma como a ciência é ensinada na escola — desempenha um papel fundamental na manutenção dessa desigualdade gritante.

O experimento: IA vs. Professores Humanos

Foi o que dois pesquisadores da Universidade de Hong Kong demonstraram em um artigo de pesquisa de 2022, comparando os resultados de dois métodos de ensino do jogo de Go.

Em um experimento de cinco meses, um grupo de jogadores foi instruído por professores humanos, enquanto o outro grupo aprendeu a melhorar sua técnica com um pequeno personagem amigável alimentado por inteligência artificial.

Os resultados foram claros: o grupo treinado por IA obteve melhores resultados que o outro e, o que é mais importante, não houve diferença entre meninos e meninas. No grupo ensinado por professores humanos, a lacuna de gênero pré-existente persistiu.

Por que isso aconteceria? Provavelmente porque certos estereótipos perpetuados por esses professores, muitas vezes de forma inconsciente, enviavam mensagens involuntárias que eram captados e amplificados pelos alunos.

Tais mensagens incluem permitir que uma pessoa respondesse a uma pergunta em vez de outra, parabenizar ou encorajar mais os meninos do que as meninas.

Neutralidade contra o preconceito de gênero

Quando as meninas foram treinadas por uma inteligência artificial imparcial — uma qualidade que precisa ser comprovada previamente — elas não foram influenciadas por esses sinais negativos implícitos.

É obviamente tentador transpor os resultados deste experimento para o mundo mais amplo da educação. Mas seriam eles a prova suficiente de que a IA tem um papel significativo a desempenhar em nossas escolas e universidades?

Creio que não. Por outro lado, estou firmemente convencido de que o potencial da IA para lidar com o preconceito de gênero na educação científica merece investigações adicionais.

O valor instrucional da IA é um assunto complexo que sociólogos e especialistas em educação sem dúvida debaterão por muitos anos.

Da rejeição total ao cenário improvável e claramente irrealista onde a tecnologia substitui completamente os humanos, as opiniões divergem tremendamente.

O uso responsável da tecnologia em sala de aula

Em termos práticos, resta saber como o uso responsável da IA em sala de aula pode efetivamente fornecer aos alunos uma supervisão personalizada para apoiar o papel de seus professores.

Em primeiro lugar, precisamos garantir que os modelos usados pela IA generativa, que ainda produzem resultados imprevisíveis e utilizam um raciocínio que não é facilmente explicável, não estejam, eles próprios, contaminados por preconceitos.

Vários casos recentes, em particular quando a tecnologia foi usada no recrutamento, mostraram que a IA pode, na verdade, ser contraproducente, reforçando ou amplificando as práticas discriminatórias já existentes.

Seja como for, precisamos urgentemente seguir o exemplo do Go e realizar novos experimentos. No cenário atual, de acordo com as estatísticas da UNESCO, as mulheres jovens representam apenas 35% da população estudantil de STEM (Ciência, Tecnologia, Engenharia e Matemática) em todo o mundo.

Em um momento em que enfrentamos enormes desafios científicos e de engenharia, o mundo continua se privando de uma proporção significativa de seus talentos disponíveis.

A responsabilidade da indústria tecnológica

Os agentes industriais e tecnológicos não podem permanecer meros espectadores nesses debates.

Ao projetar sistemas de IA que serão integrados em ambientes sensíveis — como educação, treinamento e recrutamento —, eles carregam uma responsabilidade particular: não reproduzir mecanicamente os desequilíbrios existentes, mas explorar sistematicamente formas de reduzi-los.

É certo que o entusiasmo em torno do surgimento da IA está levando a uma multidão de casos de uso potenciais, alguns dos quais se mostrarão fantasiosos, inadequados ou insustentáveis.

A questão não é se a inteligência artificial resolverá desigualdades profundamente enraizadas por conta própria.

Trata-se de saber se estamos dispostos a continuar sem fazer nada diante de preconceitos dos quais temos plena consciência, que podemos medir e que sabemos que estão privando a ciência de talentos essenciais.

*Patrice Caine é Presidente e CEO da Thales, empresa líder global em tecnologias avançadas.