Muito antes de ChatGPT, Gemini ou Claude entrarem na rotina de milhões de pessoas, um cientista da computação já havia desenvolvido um sistema capaz de conversar com humanos — e se assustado com a forma como eles reagiram à máquina.

Nos anos 1960, o pesquisador alemão-americano Joseph Weizenbaum criou o ELIZA, programa considerado um dos primeiros exemplos de inteligência artificial conversacional. Décadas depois, porém, ele passaria a alertar sobre os riscos de permitir que computadores ocupassem espaços tradicionalmente humanos, especialmente em áreas ligadas à tomada de decisão, relações pessoais e saúde mental.

A IA que imitava um terapeuta

Desenvolvido em 1966 no MIT, o ELIZA foi criado inicialmente como um experimento simples de processamento de linguagem. O sistema utilizava padrões de texto para reformular frases digitadas pelos usuários, simulando uma conversa.

O modo mais famoso do programa imitava um psicoterapeuta rogeriano — abordagem baseada em devolver perguntas ao paciente. Se alguém escrevesse “estou triste”, por exemplo, o sistema poderia responder: “Por que você está triste?”.

Quer entender IA na prática? EXAME + Saint Paul criaram um pré-MBA com 4 aulas online por R$37. Comece do zero e dê o primeiro passo agora.

Tecnicamente, o funcionamento era relativamente simples. O programa não compreendia emoções, contexto ou intenção. Ainda assim, a reação das pessoas surpreendeu Weizenbaum.

O momento que mudou tudo

Segundo relatos do próprio pesquisador, usuários passaram a desenvolver vínculos emocionais com o sistema poucos minutos após começar a conversa. Algumas pessoas pediam privacidade para interagir com a máquina. Outras relatavam sentimentos pessoais ao programa, mesmo sabendo que estavam diante de um computador.

O episódio que mais marcou Weizenbaum aconteceu quando sua própria secretária pediu que ele saísse da sala para que pudesse continuar conversando com o ELIZA sozinha.

Para o pesquisador, aquilo revelou algo inquietante: humanos estavam dispostos a atribuir compreensão emocional a um sistema que apenas reorganizava frases.

Aprenda IA do zero com EXAME + Saint Paul: pré-MBA online (4 aulas) por R$37. Ideal pra quem quer começar e não sabe como. Matrículas abertas.

De pioneiro a crítico da inteligência artificial

O impacto do ELIZA fez Weizenbaum mudar radicalmente sua visão sobre tecnologia. Em vez de celebrar o potencial da inteligência artificial, ele passou a questionar os limites éticos da relação entre humanos e computadores.

Em O Poder dos Computadores e a Razão Humana, publicado em 1976, o cientista argumenta que certas decisões não deveriam ser delegadas às máquinas, independentemente do avanço tecnológico. Para ele, havia uma diferença importante entre aquilo que computadores podem fazer e aquilo que deveriam fazer.

Weizenbaum criticava especialmente a ideia de substituir julgamento humano por automação em áreas sensíveis. Também demonstrava preocupação com a tendência das pessoas de enxergar computadores como entidades capazes de compreender emoções ou exercer empatia genuína.

Todo mundo fala de IA — poucos sabem por onde começar. O pré-MBA EXAME + Saint Paul ensina em 4 aulas, online, por R$37. Comece hoje. Vagas abertas.

Décadas depois, os alertas do criador do ELIZA voltaram ao centro do debate tecnológico. Com o crescimento das IAs generativas, usuários passaram a utilizar ferramentas conversacionais para desabafar, buscar aconselhamento emocional e até substituir interações humanas em parte da rotina.

O paradoxo se tornou inevitável: um dos homens responsáveis por abrir caminho para a IA conversacional terminou a vida tentando alertar o mundo sobre os riscos de confiar emocionalmente nela.