O primeiro chatbot do mundo tem 60 anos — e assustou seu criador

Muito antes do ChatGPT, uma secretária do Instituto de Tecnologia de Massachusetts, o MIT, sentou-se diante de um terminal e começou a conversar com um programa de computador. Ela tinha acompanhado, por meses, o chefe escrever aquele código e sabia exatamente o que ele era. Ainda assim, depois de trocar algumas frases com a máquina, virou-se para ele e pediu: "Você se importaria de sair da sala, por favor?"

O chefe era Joseph Weizenbaum, e o programa se chamava ELIZA. Apresentado em um artigo científico em 1966, ele é considerado o primeiro chatbot da história. Sessenta anos depois, a cena da secretária virou lenda na ciência da computação e continua sendo a melhor forma de explicar um fenômeno que as empresas de inteligência artificial (IA) ainda não resolveram: a facilidade com que as pessoas se apegam a máquinas que parecem entendê-las.

O nome vinha de Eliza Doolittle, a florista de Pigmalião, peça de Bernard Shaw que inspirou o musical My Fair Lady e cuja protagonista aprende a falar como uma dama sem mudar quem é.

O programa funcionava de forma parecida — identificava palavras-chave nas frases do usuário e as devolvia em forma de pergunta. Com um roteiro chamado DOCTOR, imitava um psicoterapeuta que, em vez de dar respostas, estimulava o paciente a continuar falando. Se alguém escrevia que estava triste, a máquina perguntava por que se sentia triste.

O truque funcionou. "Alguns participantes foram muito difíceis de convencer de que a ELIZA não é humana", escreveu Weizenbaum no artigo de 1966. As pessoas se abriam, contavam detalhes íntimos e tratavam o programa como alguém capaz de ouvi-las. A tendência de atribuir sentimentos e inteligência a uma máquina ganhou o nome de "efeito ELIZA".

O inventor que virou crítico

A reação deixou Weizenbaum profundamente incomodado.

Nascido em Berlim em 1923, numa família judia que fugiu da Alemanha nazista quando ele era adolescente, o cientista tinha criado a ELIZA para explorar a comunicação entre pessoas e máquinas, e não para substituir terapeutas. Muitos colegas, porém, viram no programa exatamente isso.

O psiquiatra Kenneth Colby, da Universidade Stanford, adaptou a ideia num programa chamado PARRY, que simulava um paciente com esquizofrenia paranoide. Em 1975, o astrônomo Carl Sagan chegou a imaginar redes de cabines, parecidas com telefones públicos, onde as pessoas pagariam alguns dólares para conversar com um terapeuta de computador.

Weizenbaum foi na direção oposta. Em 1976, publicou o livro Computer Power and Human Reason, em que reconta o episódio da secretária e faz um alerta. "O que eu não tinha percebido é que exposições extremamente curtas a um programa de computador relativamente simples poderiam induzir um pensamento fortemente delirante em pessoas bastante normais", escreveu.

Até morrer, em 2008, ele se dedicou a questionar a ideia de que computadores deveriam tomar decisões que dependem de julgamento humano.

O alerta soa atual. O programa de 1966 cabia em poucas linhas de código; os modelos de hoje são treinados com boa parte do que já foi escrito na internet e conversam com mais de 1 bilhão de pessoas por semana só no ChatGPT.

A tecnologia mudou de forma irreconhecível. A reação humana, nem tanto. Ainda hoje há quem use chatbots como terapeutas, confidentes e até parceiros amorosos, e pesquisadores discutem os efeitos dessa dependência emocional, sobretudo entre os jovens, que passam cada vez mais tempo conectados.

A diferença é de escala. Weizenbaum se assustou com uma secretária que pediu privacidade para conversar com um programa que ela sabia ser só um programa. Sessenta anos depois, a mesma cena se repete, todos os dias, com centenas de milhões de pessoas.