A maior ameaça da IA é a ingenuidade humana, diz executiva da PUCPR

A inteligência artificial (IA) não precisa ser freada, mas os humanos precisam aprender a governá-la. É a partir dessa premissa que a Pontifícia Universidade Católica do Paraná (PUCPR) criou o Código Humanitas, um guia para orientar o uso da tecnologia sem delegar a ela decisões, pensamento crítico e questões que, na visão da universidade, devem permanecer sob responsabilidade humana.

Em entrevista à EXAME, Cristina Pastore, executiva da PUCPR, afirmou que o principal risco da IA está menos na tecnologia em si e mais na forma como as pessoas se relacionam com ela. "A maior ameaça parte da ingenuidade humana", diz. "O grande risco humano é pensarmos que tudo o que sai dali é 100% verdadeiro."

Para Pastore, a facilidade de obter respostas prontas pode levar usuários a abrir mão do próprio julgamento. "Se não educarmos as pessoas para saber usar a IA, a gente vai ser conduzido pela IA", afirma. "Precisamos ser alertados e formados em pensamento crítico."

---

EXAME: Como vocês decidiram criar o código e como foi o processo de criação?

A PUCPR já vem olhando para a relação entre IA e desenvolvimento humano pela natureza da universidade, e o código nasce um pouco desse lugar de pensamento crítico — é uma resposta da universidade e um convite para que as pessoas não deleguem o pensamento crítico à tecnologia.

É um cuidado para que a gente possa agir com a IA de maneira que potencializemos quem somos. Como é confortável delegar, vemos pessoas que estão abrindo mão de sua evolução, e isso, no coletivo, é muito perigoso. A gente resolveu arregaçar as mangas e colocar nossos pesquisadores para criar alguma coisa que não seja contrária ao avanço tecnológico, mas para ajudar as pessoas nesse processo.

A gente envolveu diversas pessoas de referência com olhares diferentes. Temos um observatório de uso ético da inteligência artificial, envolvemos técnicos e professores, além de pessoas externas que olham para a IA com perspectivas diferentes, e tivemos a 404 que construiu tudo com a gente — até o arcebispo do Paraná participou.

Foi um conjunto de brainstorming, as preocupações todas colocadas à mesa para fazermos uma entrega, e aí pensamos em fazer o documento que é um guia para quem não consegue governar a IA por si só. Fizemos seis versões para entender como a IA se comporta no uso.

Algumas coisas a gente aliviou, porque precisamos que o agente faça, mas outras a gente pesou a mão. Começamos a pensar nisso em abril e colocamos no ar no final de agosto. Usamos nosso capital humano. Todo o dinheiro investido agora é na divulgação do código. A criação foi um trabalho de muita gente já vinculada à universidade. Temos agora R$ 2,5 milhões em publicidade — para divulgar, não construir.

EXAME: O Brasil discute há anos um marco regulatório de IA no Congresso, ainda sem previsão de aprovação. Você vê o Código Humanitas como uma resposta da sociedade civil a essa demora do poder público?

Sim, sem sombra de dúvida. A gente quis convidar as pessoas para entrarem na discussão, para não esperarem até que o governo decida ou que alguém coloque um limite.

Sempre temos que lembrar que os modelos de IA que usamos são produtos vendidos pelas empresas, que têm seus interesses, e a sociedade civil precisa cuidar de si mesma. Por isso, criamos também o projeto "Nunca Pare de Pensar".

'Hack culposo'? Como modelos de IA estão invadindo empresas no improviso

É um grande convite para que a gente regule a IA de forma que seja melhor, não sejamos passivos e passageiros nesse barco. A IA é construída a partir do conhecimento humano, e ela é fruto de todos nós, e nós devíamos olhar para ela na mesma medida que olhamos para o meio ambiente — todos nós somos responsáveis pelo meio ambiente, e todos nós devemos ser responsáveis pela construção da IA.

EXAME: Para você, qual é o maior problema da inteligência artificial hoje em dia? E qual é a maior ameaça?

A maior ameaça parte da ingenuidade humana. Hoje, apenas uma pequena parcela da população entende que estamos falando de um modelo matemático. A grande maioria da população nunca questionou o que surgiu de resposta na IA — a população enxerga tudo o que sai dali como verdadeiro e benéfico.

Existe esse risco, que vem da nossa ignorância sobre o que é a tecnologia, de sermos conduzidos a acreditar em tudo o que a IA gera. Sabemos que os modelos são enviesados a priori e são governados por pessoas que decidem o que a tecnologia vai apresentar ou não. O grande risco humano é pensarmos que tudo o que sai dali é 100% verdadeiro, e também despersonalizarmos a pessoa, levando em conta o potencial dela atrelado às ferramentas de IA.

Se não educarmos as pessoas para saber usar a IA, a gente vai ser conduzido pela IA. Se eu aceito que a IA sabe mais do que eu, vou tomar decisões com base naquilo. Precisamos ser alertados e formados em pensamento crítico. A gente está passivo. Estamos deixando que a empresa decida — e a passividade da sociedade é o grande problema.

Lembro que tínhamos muito receio quando a internet começou, e a inteligência artificial está nesse momento. Enquanto não sabermos como funciona, estamos à mercê disso. Precisamos ser mais protagonistas na nossa relação com a tecnologia.

EXAME: O Brasil tem uma das maiores taxas de adoção de IA no trabalho entre os países emergentes, segundo pesquisas recentes. Isso torna o país um terreno mais urgente para esse tipo de iniciativa, ou é algo que todos os países devem fazer?

O que determina onde isso é mais urgente é o nível de escolaridade do país. E aqui no Brasil ainda temos esse problema. E esse problema, via de regra, vem acompanhado de uma formação de pessoas que não entendem o que é a tecnologia e, infelizmente, assim criamos um terreno muito fértil para um país que tem uma idade média de escolaridade baixa.

Dentro das empresas, elas precisam assumir o protagonismo do letramento, e elas mesmas precisam entender que essa é a função delas, e que elas deveriam não só exigir o uso. Existe muito discurso de que, com a IA, você vai fazer mais barato, mas isso é muito arriscado.

A empresa precisa reconhecer que o resultado da IA é bom, em alguma medida, mas que você precisa de humanos governando a IA dentro do mundo corporativo.

O mediano nunca foi tão acessível e tão barato, e isso é um risco para as empresas: nos encantarmos por isso e não formarmos pessoas para usarem bem a inteligência artificial.

EXAME: E sobre relacionamentos afetivos com IAs — isso é um risco?

É um risco se esse relacionamento não for saudável. É preciso considerar várias perspectivas: algumas pessoas são solitárias, e conversar com IAs pode ser benéfico.

O problema é o que é dito, quando é dito e de que forma é dito. A forma como o modelo de IA se relaciona com o humano é uma forma que tem a intenção de gerar dependência.

Quando você fala com um ser humano, ele não está querendo que você dependa emocionalmente dele — a IA quer isso. O modelo é treinado por uma grande base de dados que possui vieses críticos.

O amor na era dos tokens: por que tanta gente se apaixona, namora e até casa com IAs

Os modelos americanos e chineses são diferentes, justamente por terem sido treinados de forma diferente. A intencionalidade por trás e os vieses que a IA carrega podem ter um efeito muito nocivo nos seres humanos. Nem todo relacionamento humano é saudável, mas o relacionamento com as IAs, na maioria das vezes, não será saudável, porque elas não foram construídas para serem.

No nosso código, proibimos a IA de falar sobre alguns assuntos quando envolvem menores, pessoas em vulnerabilidade, temas sensíveis e dilemas éticos; a IA responde: "Você deveria conversar com outro humano, não comigo." Algumas conversas pertencem aos humanos — e não à tecnologia.