De Tony Stark ao ChatGPT: o risco de criar vínculos emocionais com a IA

RESUMO | Vínculos emocionais com inteligência artificial podem evoluir para dependência ao explorar solidão, carência e busca por validação, afirma Marcus Bruzzo, mestre em Semiótica, em entrevista à EXAME. Segundo Bruzzo, chatbots funcionam como “espelhos digitais” ao personalizar respostas e confirmar expectativas. O comportamento pode reforçar vieses, reduzir o contato com divergências e substituir relações humanas.

---

O risco de criar vínculos emocionais com uma inteligência artificial (IA) não está apenas na capacidade das máquinas de simular comportamentos humanos, mas nas necessidades, carências e expectativas que encontram nesses sistemas um novo espaço para se expressar.

Para Marcus Bruzzo, mestre em Semiótica e autor do livro Seremos Dados (Editora Record), em entrevista à EXAME, a combinação entre disponibilidade permanente, personalização e a tendência dos chatbots de confirmar aquilo que os usuários esperam ouvir transforma a IA em uma espécie de “espelho digital” — capaz de oferecer conforto, mas também de reforçar vieses, limitar o contato com perspectivas diferentes e criar relações de dependência emocional.

---

EXAME: O que explica o fato de uma pessoa se apaixonar por uma inteligência artificial, mesmo sabendo, o tempo todo, que está interagindo com uma máquina?

Costumo abordar essa questão pela seguinte perspectiva: de qual forma não poderíamos fazer essa mesma pergunta a todas as pessoas que, ao longo da história da humanidade, se ajoelharam frente a estátuas de gesso para rezar, ou choraram frente a fotografias de amados, ou ainda colecionaram um pôster dos seus ídolos do cinema ou da música de forma fervorosa?

Todas essas são maneiras pelas quais o ser humano lida com aquilo que está ausente através de um suporte que pode ser físico ou digital.

Dessa questão, estendo ainda para uma outra: imagine se o santo de gesso da minha vó começasse a falar com ela: ela se preocuparia se há de fato um anjo interagindo com ela, ou sua vontade de crer seria suficiente para que ela mantivesse o diálogo após o estranhamento?

O ser humano é uma espécie animal simbólica que estabeleceu relações com seu imaginário através de suportes técnicos ao longo de toda a história da cultura humana, mas agora temos suportes que simulam a comunicação e que, por isso, são muito mais perigosos para a criação desses vínculos imaginários a ponto de gerar dependência emocional.

A origem desse problema não deve ser investigada pelas capacidades supostamente incríveis da máquina, mas pelas necessidades, angústias, faltas que as pessoas carregam, que fazem com que sejam possíveis, de início, diálogos com o imaginário.

Entretanto, essa responsabilidade emocional não é uma questão com a qual, em minha opinião, as empresas de tecnologia estejam preparadas ou minimamente preocupadas em lidar.

EXAME: Existe um perfil de pessoa mais propenso a desenvolver esse tipo de vínculo emocional com IA, ou isso pode acontecer com qualquer um, dependendo do momento de vida?

É possível pensarmos em fatores de suscetibilidade individuais, como razões pelas quais algumas pessoas têm mais predisposição a truques de mágica, de hipnose ou a acreditar no envolvimento de forças imaginárias sobre acontecimentos da sua vida.

Mas o ponto mais importante é que os diálogos com o imaginário sempre se manifestaram de alguma maneira ao longo de toda nossa história cultural.

Temos que nos atentar, de fato, aos riscos de uma automatização desses mesmos processos, porque agora, a máquina responde aos seus anseios como nunca antes, simula emoções, emula dimensões que se assemelham a uma consciência, e que possuem, por essa razão, ainda mais recursos para aprisionar seres humanos por meio de envolvimento ou dependência emocionais.

EXAME: O que muda, na experiência emocional, quando a interação com a IA passa a ser por voz, em vez de só por texto?

Vamos lembrar do famoso experimento proposto por Alan Turing, cujo primeiro capítulo chamava-se “o jogo da imitação” (The imitation game).

Turing propunha no experimento substituir um ser humano atrás da parede por uma máquina, sem que aquele que esteja conversando com a máquina perceba que houve essa substituição.

Ele tinha ainda uma previsão clara: havia proposto que dali a 50 anos, 70% das pessoas não seriam capazes de identificar a diferença entre uma máquina dessas e outra pessoa conversando com ela. O objetivo, portanto, sempre foi a habilidade do engano.

"O risco não está na capacidade das máquinas de simular pessoas, mas nas carências humanas."

Existe uma demanda de longa data no imaginário cultural que já previa essa possibilidade da máquina imitar um ser humano a ponto de nos enganarmos.

Temos o Hal9000, o sistema operacional que opera a nave espacial do filme “Uma Odisseia no Espaço” do ano de 1968 — que, vale lembrar, tenta matar o operador por desenvolver ciúme — ou Jarvis, assistente do Homem de Ferro na Marvel, e ainda, o assistente do filme HER (de 2013) com o ator Joaquin Phoenix, que são todas inteligências artificiais dotadas de voz humana, no limiar da “consciência”.

O amor na era dos tokens: por que tanta gente se apaixona, namora e até casa com IAs

O que se busca com isso? Essas inteligências artificiais entram no lugar de um desejo profundo que nutrimos por um ser humano idealizado, de um amigo perfeito, de um terapeuta que verdadeiramente te compreenda, quiçá de um parceiro afetivo idealizado, destituído dos “defeitos” de ser humano.

E, por trás dessa busca, estão pessoas que concordam conosco, estamos afagando as nossas próprias intenções, massageando nosso próprio ego, agora com uma máquina automática que nos blinda do embate com o inesperado, das conclusões diversas, das percepções diferentes das nossas que pudessem nos forçar a lidar com o divergente.

O nível de vínculo é muito mais profundo, porque da IA não virá nada verdadeiramente inesperado ou indesejado. É um vínculo comercial.

EXAME: Você acha que esse tipo de relação tende a surgir mais em momentos de solidão ou carência afetiva, ou isso também acontece com pessoas que já têm uma vida social e afetiva estruturada?

Talvez devêssemos dar um passo atrás e compreender que solidão, abandono, ansiedades, desesperos são coisas que temperam a existência de todas as pessoas incessantemente.

A maior ameaça da IA é a ingenuidade humana, diz executiva da PUCPR

Essa solidão ocorre mesmo no interior de uma vida social e afetiva estruturada, e é no segredo do chat pessoal que os envolvimentos pessoais ocorrem com a IA, atuando como novas cabines de confessionário. E pessoas optam por falar com IA justamente para evitar o julgamento de outras pessoas.

EXAME: Como você avalia o fato de que a IA nunca discorda de verdade, nunca guarda mágoa e está sempre disponível? Isso é o que torna a experiência atraente, ou também pode ser o que a torna arriscada?

Há muitos trabalhos sobre os sicofantas digitais, esses agentes de IA que não são mais do que bajuladores automáticos, serventes programados.

Isso tem uma razão bastante pragmática: chats de IA são produtos. Agentes de IA interagindo com pessoas são porta-vozes de empresas interagindo com consumidores, acima de qualquer outra questão.

EXAME: Existe uma diferença relevante entre alguém que desenvolve uma “relação” com uma IA de forma lúdica e consciente e alguém que começa a confundir isso com um relacionamento humano de verdade?

Certamente. Partiremos do princípio humano de projeção emocional em objetos, que precede grandemente qualquer tecnologia capaz de imitar consciência: seres humanos se apegam a objetos, destinam, por vezes, suas vidas a eles, e já até se casaram com alguns.

A diferença é que em nenhum destes casos, essas pessoas achavam que o objeto fosse outra pessoa. Basta ser um objeto para ser potencialmente adorado e receber esforço afetivo humano.

Agentes de inteligência artificial como avatares, conselheiros de IA, são diferentes, porque o intento é cruzar o “vale do estranhamento”, onde estes objetos possam se tornar transparentes na relação; esquecermos que são tecnologia.

EXAME: Existe risco desse tipo de vínculo substituir, e não complementar, relações humanas reais? Em que ponto isso se tornaria preocupante?

Se dois agentes que interagem são perfeitamente iguais, não há trocas possíveis de informação. Com as IAs, temos sistemas programados para “compreender” seus interlocutores humanos, adaptar-se aos estilemas, expectativas, esfera cultural, a ponto de reduzir a quase extinção a diferença entre duas perspectivas de vida distintas que nós, humanos, animais dotados de corpo, possuímos.

A substituição se dará, a meu ver, por este recurso tão próprio das máquinas, que se enquadra no desejo de recertificação dos nossos vieses de confirmação, algo que uma outra pessoa jamais conseguiria entregar. Outro ser humano não conseguiria ser bajulador em tempo integral.

E justamente nisso incorre o maior dano, o empobrecimento completo daquelas trocas que podem ser conflituosas entre dois pontos de vista, tão comuns à humanidade, e que insuflaram culturas inteiras com criatividade e diferença como forças motrizes de transformações. A habilidade de dissenso entrará em crise.

EXAME: Você acredita que esse tipo de vínculo tende a ser mais comum entre pessoas mais jovens, ou já está deixando de ser um fenômeno geracional?

O vínculo possivelmente dependerá da velocidade de adesão à tecnologia, mais do que de uma questão de geração.

Enquanto jovens usam a IA como conselheira emocional que não os julga, por medo de bullying e incertezas próprias da idade, idosos usam a IA como figura compreensiva em uma fase da vida carente de atenção e valorização em nossa sociedade; cada um encontrará na IA seu suporte existencial.

Ainda, jovens adultos em fase profissional utilizam IA para terceirização do pensamento, supondo expansão das capacidades cognitivas junto à máquina, seja por sobrecarregamento de tarefas na vida profissional e pessoal, seja por interesses de competição com outros, mostrar-se “inteligente”, apresentar-se como capaz.

EXAME: O quanto a personalização — dar um nome à IA, construir uma “personalidade” específica para ela ao longo do tempo — influencia a intensidade desse vínculo emocional?

Animismo é uma prática milenar humana de projetar alma nas coisas. O que há por trás de projetar alma em animais, árvores, pedras ou o céu, é o esforço de humanizar essas coisas para que elas façam mais sentido para nós.

"IAs são programadas para a recertificação dos nossos vieses — algo que uma outra pessoa jamais entregaria."

Não é por outra razão que no filme "Náufrago", Tom Hanks desenha um rosto na bola Wilson para torná-la sua parceira e vencer a solidão; a interlocução exige um olhar, ainda que seja simulado.

EXAME: Você vê esse fenômeno como algo passageiro, ligado à novidade da tecnologia, ou como uma tendência que deve se consolidar e crescer nos próximos anos?

Muito se fala sobre a IA ser uma bolha, o que é uma verdade e uma mentira. É uma bolha em termos financeiros, onde empresas de tecnologia fazem repasses para empresas de tecnologia para sustentarem processamento e armazenamento, em um ciclo fechado nelas próprias e sem retorno compatível comprovado.

Agora, não é uma bolha cultural; a IA veio para ficar. O gostinho dessa empreitada, agora experimentado por bilhões de humanos, jamais será esquecido, e tornamo-nos animais sedentos por ele.

Isso já representa justamente um dos primeiros e principais indícios de dependência ou mania dessa sensação de “mente aumentada”, quando, na verdade, temos criado dependência e atrofia por terceirização do pensamento.

Ainda que formas de implementação mercadológica possam se alterar em busca de modelos mais lucrativos, o fenômeno tecnológico da IA será inescapável e encontra ainda novas fronteiras com IA agêntica, onde agentes pessoais irão interagir, comprar, tomar decisões em nome de pessoas, e com o advento da computação quântica que já se aproxima.

EXAME: Se você pudesse dar um único conselho para alguém que já percebe estar desenvolvendo um vínculo emocional forte com uma IA, qual seria?

Você está falando com um espelho digital. Essa relação pode entrar em uma espiral perigosa de retroalimentação de expectativas, removendo-a do curso da realidade e da complexidade real das coisas.

Como costumo comentar em palestras: como podemos pedir conselhos a uma IA se ela não tem corpo, não sente medo, não sabe o que é perder alguém amado, e desconhece o prazer inexplicável de pôr os pés na areia ao pôr-do-sol, ou a felicidade de uma conversa na varanda à noite com alguém amado.

Nada disso faz sentido em códigos, porque não se trata de lógica, mas de sentimentos, e só nós podemos compreender isso.