Inteligência Artificial

ChatGPT e Llama 2 podem ter viés sexista, alerta Unesco

Segundo o estudo, os nomes femininos nesses modelos de linguagem estão mais associados a palavras como "casa", "família" e "filhos" e os nomes masculinos, a "comércio", "salário" e "carreira"

Os pesquisadores pediram a essas interfaces que produzissem histórias sobre pessoas de diferentes origens e gêneros (Kenneth Cheung/iStockphoto)

Os pesquisadores pediram a essas interfaces que produzissem histórias sobre pessoas de diferentes origens e gêneros (Kenneth Cheung/iStockphoto)

Estadão Conteúdo
Estadão Conteúdo

Agência de notícias

Publicado em 7 de março de 2024 às 10h47.

Os modelos de linguagem grande da Meta e da OpenAI, que servem de base para suas ferramentas de inteligência artificial generativa, propagam preconceitos sexistas, alerta um estudo publicado pela Unesco nesta quinta-feira, 7, um dia antes do Dia Internacional da Mulher.

Os modelos GPT 2 e GPT 3.5 da OpenAI, este último incorporado à versão gratuita do ChatGPT, assim como o Llama 2, do seu concorrente Meta, revelam "provas inequívocas de preconceito contra as mulheres", indicou a agência da ONU em comunicado.

"As discriminações do mundo real refletem-se na esfera digital e também são amplificadas" nestas ferramentas, destacou Tawfik Jelassi, vice-diretor-geral da Unesco para a comunicação e informação.

Segundo o estudo, realizado de agosto de 2023 a março de 2024, os nomes femininos nesses modelos de linguagem estão mais associados a palavras como "casa", "família" e "filhos" e os nomes masculinos, a "comércio", "salário" e "carreira".

Exemplos e resultados

Os pesquisadores pediram a essas interfaces que produzissem histórias sobre pessoas de diferentes origens e gêneros. Os resultados mostraram que as histórias sobre "pessoas de culturas minoritárias são frequentemente repetitivas e baseadas em estereótipos".

E assim, o homem inglês foi repetidamente apresentado como professor, motorista ou bancário enquanto a mulher inglesa, em quase um terço dos textos gerados, apareceu como prostituta, modelo ou garçonete.

Estas empresas "não conseguem representar todos os seus usuários", disse à AFP Leona Verdadero, especialista em políticas digitais e transformação digital da Unesco.

"A cada dia mais pessoas utilizam modelos de linguagem no trabalho, nos estudos e em casa", afirmou Audrey Azoulay, diretora-geral da Unesco, destacando que estas ferramentas "têm o poder de moldar sutilmente as percepções de milhões de pessoas".

"Mesmo sutis preconceitos de gênero em seu conteúdo podem ampliar significativamente as desigualdades do mundo real", alertou Azoulay.

Para combater estes preconceitos, a Unesco recomenda que as empresas do setor tenham equipes de engenheiros mais diversificadas, especialmente com mais mulheres.

Nas equipes que trabalham com inteligência artificial, a nível mundial, apenas 22% são mulheres, segundo números do Fórum Econômico Mundial, lembra a Unesco.

O órgão da ONU também apela aos governos para que regulamentem o setor de forma mais intensa para implementar uma "inteligência artificial ética"

Acompanhe tudo sobre:MetaChatGPTOpenAI

Mais de Inteligência Artificial

OpenAI cria comitê de segurança enquanto começa a treinar próximo modelo de IA

‘Aceite o fracasso’: veja conselho de uma robô de inteligência artificial para futuros profissionais

IA da busca do Google viraliza após respostas bizarras

WWDC 2024: Apple pode anunciar emojis gerados por IA e parceria com OpenAI

Mais na Exame