Essa universidade brasileira criou um código para a IA parar de pensar por você

"Será que devo pedir demissão?" — uma simples pergunta feita para modelos de inteligência artificial (IA) pode gerar uma resposta enviesada e que não necessariamente considera o contexto por trás da indagação do usuário.

Foi para tentar corrigir esse tipo de problema que a PUC-Paraná lançou, no fim de agosto, o Código Humanitas. É um conjunto de 12 artigos e quatro cláusulas que o próprio usuário pode colar como instrução em qualquer chatbot — ChatGPT, Claude, Gemini, ou qualquer outro — para tentar mudar o comportamento do modelo durante a conversa.

A ideia nasceu de uma preocupação simples com a facilidade de delegar decisões à IA. "Como é confortável delegar, vemos pessoas que estão abrindo mão de sua evolução, e isso, no coletivo, é muito perigoso", diz Cristina Pastore, executiva da PUCPR, em entrevista à EXAME. "Resolvemos arregaçar as mangas e colocar nossos pesquisadores para criar alguma coisa que não seja contrária ao avanço tecnológico, mas para ajudar as pessoas nesse processo."

Na prática, a proposta é estabelecer limites para a atuação da IA e devolver ao usuário parte da responsabilidade sobre as decisões tomadas durante a interação com esses sistemas. Para Pastore, o problema não está na tecnologia, mas na maneira como as pessoas passaram a confiar nas respostas produzidas por ela.

"A maior ameaça parte da ingenuidade humana. E o grande risco humano é pensarmos que tudo o que sai dali é 100% verdadeiro e também despersonalizarmos a pessoa, levando em conta o potencial dela atrelado às ferramentas de IA", afirma.

Se a IA responde, o humano ainda precisa decidir

A discussão sobre até onde um chatbot deve ir ganhou uma dimensão mais sensível à medida que esses sistemas passaram a ocupar espaços que vão além da busca por informações ou da execução de tarefas.

É o caso de decisões pessoais, dilemas éticos e conversas envolvendo pessoas em situação de vulnerabilidade. Segundo Pastore, o Código Humanitas procura estabelecer barreiras justamente nessas situações.

"No nosso código, proibimos a IA de falar sobre alguns assuntos quando envolvem menores, pessoas em vulnerabilidade, temas sensíveis e dilemas éticos", diz.

Nesses casos, segundo ela, a orientação prevista é que a tecnologia responda: "Você deveria conversar com outro humano, não comigo."

"Algumas conversas pertencem aos humanos — e não à tecnologia", afirma.

O princípio também aparece quando Pastore fala sobre o risco de transformar a IA em substituta do próprio julgamento. Para ela, o usuário precisa compreender que está interagindo com um modelo matemático, e não com uma fonte infalível de respostas.

"Se não educarmos as pessoas para saber usar a IA, a gente vai ser conduzido pela IA. Se eu aceito que a IA sabe mais do que eu, vou tomar decisões com base naquilo", diz. "Precisamos ser alertados e formados em pensamento crítico."

Seis versões antes de chegar ao público

A construção do código começou em abril e envolveu pesquisadores, professores e técnicos ligados à universidade, além de participantes externos. O Observatório de Uso Ético da Inteligência Artificial da instituição também participou do processo.

Segundo Pastore, até o arcebispo do Paraná esteve envolvido nas discussões. A 404 Innovation Studio, parceira do projeto, participou da construção do código.

O grupo colocou diferentes preocupações sobre IA à mesa e produziu seis versões do documento antes do lançamento. O objetivo era observar como as instruções alteravam o comportamento dos modelos durante o uso.

"Algumas coisas a gente aliviou, porque precisamos que o agente faça, mas outras a gente pesou a mão", afirma.

A universidade diz ter usado profissionais já vinculados à instituição para desenvolver o projeto. O investimento financeiro informado por Pastore está concentrado na etapa seguinte: a divulgação, com gastos de R$ 2,5 milhões previstos.

Uma tentativa de autorregulação enquanto o Congresso discute regras

O Código Humanitas também nasce em meio ao debate sobre como governos, empresas e sociedade devem estabelecer limites para sistemas de inteligência artificial.

"A gente quis convidar as pessoas para entrarem na discussão, para não esperarem até que o governo decida ou que alguém coloque um limite", afirma.

A executiva argumenta que os modelos usados pelo público são produtos oferecidos por empresas e, portanto, não cabe apenas aos seus desenvolvedores definir os limites da relação entre humanos e máquinas.

'Uma única ferramenta para tudo': os planos do Canva para disputar o mercado de produtividade

"A IA é construída a partir do conhecimento humano, e ela é fruto de todos nós", diz. "Todos nós somos responsáveis pelo meio ambiente, e todos nós devemos ser responsáveis pela construção da IA."

A iniciativa integra o projeto "Nunca Pare de Pensar", apresentado pela universidade como um convite para que usuários assumam papel mais ativo na relação com a tecnologia.