Inteligência artificial: um conveniente bode expiatório?

Por Sylvain Duranton e Henrique Sinatura*

Este artigo pretende inspirar o debate sobre a IA e seu papel na sociedade. No entanto, não queremos rejeitar as críticas à tecnologia, muitas vezes bem argumentadas e parte integrante da discussão.

A inteligência artificial tem uma reputação terrível. Tente falar sobre isso em rodas de conversas e você logo vai se encontrar em um “programa de três passos” em direção ao fim do mundo:

• As pessoas primeiro dirão que a IA vai tirar empregos e levar ao desemprego em massa;
• Então, eles vão trazer à tona que ela já está sendo usada para controlar as pessoas por meio de vigilância total;
• E isso leva ao medo final de que a IA poderia pavimentar o caminho para um controle das máquinas. No final, todos nós poderíamos nos tornar escravizados ou, ainda pior, extintos.

E, uma vez que você bebe dessa fonte e começa a acreditar que o “IA-gedom” (ou o Armagedom da IA) está perto, você começa a ver sinais sutis dele em todos os lugares. Fale com um amigo sobre uma viagem para a Turquia — e anúncios de hotéis em Istambul aparecerão na sua tela porque seu telefone e alto-falantes inteligentes ouvem cada palavra que você diz.

Pegue um táxi, e o motorista lhe dirá que está prestes a perder o emprego porque o carro logo vai dirigir sozinho. Veja as notícias e receba alertas do mundo sobre algoritmos de mídia social nos despedaçando. Os dias da humanidade, ao que parece, estão contados.

Histórias de HAL

Narrativas como essas assombraram a IA desde o seu início. Até Marvin Minsky, que é frequentemente chamado de “pai da inteligência artificial”, aventurou-se nesse terreno: ele trabalhou como conselheiro em 2001: Uma Odisseia no Espaço, de Stanley Kubrick.

O filme apresenta uma IA consciente com um olho de câmera pontilhado vermelho que ajuda a guiar uma nave espacial para Júpiter: HAL 9000. No início, a máquina parecia perfeitamente inofensiva, uma assistente de voz suave muito parecida com a Siri da Apple ou a Alexa da Amazon. Mas ela ouve tudo e pode até ler os lábios das pessoas — e então começa a funcionar mal e começa a matar a tripulação.

Na linguagem das relações públicas, Kubrick e Minsky entregaram o “enquadramento” perfeito: uma imagem aterrorizante que captura e condensa todo o medo que poderíamos ter sobre a IA.

A grande angústia da IA

Esse enquadramento manchou nossa visão da IA desde então. Décadas depois, em 2018, quando o Boston Consulting Group se uniu ao Grupo Adecco para pesquisar quase 5 mil trabalhadores sobre digitalização, o HAL 9000 estava em todos os resultados.

A maioria temia o impacto que acreditavam que a tecnologia teria em seu trabalho. Um terço estava preocupado que a IA lhes custaria seus empregos. E não foi o mais velho que mais se preocupou — eram os de 25 a 34 anos. Com a maior parte de sua vida de trabalho pela frente, eles olharam para o seu futuro e só esperavam o pior.

E eles não estavam sozinhos. Até os principais tecnólogos do nosso tempo de repente se transformam em apóstolos da desgraça quando se fala de IA. Elon Musk, que prometeu ao mundo Teslas autônomos, também alertou repetidamente as pessoas sobre os perigos de robôs movidos a IA, prevendo “resultados assustadores” como em O Exterminador do Futuro.

E Peter Thiel, o capitalista de risco que foi um dos primeiros investidores no Facebook e cofundou a empresa de big data Palantir, recentemente alertou sobre a IA de vigilância, que ele descreveu como uma “tecnologia totalitária comunista”.

Esse tipo de medo é contagioso. Ele até se infiltrou em rascunhos anteriores do novo regulamento de IA proposto pela União Europeia, que falava sobre sistemas de IA de “alto risco” que poderiam causar danos “físicos ou psicológicos” por meio de “técnicas subliminares”.

Na vida real, a IA é boa para o planeta

Algum desses medos se sustenta? A IA transformará o mundo em um buraco totalitário? A resposta é que a realidade é muito menos dramática — e muito menos má.

Mas o que acontece quando as pessoas encontram IA na vida real? Para o nosso último estudo do MIT BCG, entrevistamos 2 mil gerentes e executivos de organizações que começaram a trabalhar com IA. Os resultados são muito mais amigáveis do que a ficção científica faria você acreditar. Quase 90% viram melhorias em sua cultura de trabalho e moral da equipe. As organizações que usavam mais IA tinham 1,5 vez mais chances de aumentar a moral do que outras que a usavam menos. Em todo caso, a IA fez das empresas um lugar mais amigável e mais humano para trabalhar.

Assim, a IA pode fazer coisas boas para as pessoas — e está fazendo coisas boas para o planeta também. Estudos do BCG mostram que a aplicação da IA à sustentabilidade corporativa poderia reduzir as emissões globais em 10%. Ela tornou possível a medicina personalizada e o rápido desenvolvimento das vacinas; permitiu o rastreamento de contato e o rastreamento de contágio que ensinavam aos especialistas em saúde pública como o coronavírus se espalhava; aloca bens de suporte em economias devastadas; e atribui crédito de forma mais justa e menos tendenciosa.

Não é tecnologia, é governança

Isso não quer dizer que a IA seja completamente inofensiva ou que as preocupações com ela sejam apenas mais um caso de FUD (do inglês fear, uncertainty and doubt — ou "medo, incerteza e dúvida"), que toda nova tecnologia tem de passar. Não queremos rejeitar as críticas à IA, que devem ser parte da discussão. É assim que o progresso toma seu curso.

No entanto, a maioria das tecnologias tem “mão dupla”, o que significa que podem ser usadas para o bem e para o mal. Em mãos erradas, até um martelo pode se tornar uma arma. Isso faz você se perguntar menos sobre o martelo e mais sobre as mãos — e é por isso que estamos confortáveis em vender martelos em lojas de ferragens, mas também com a restrição de seu uso nas prisões.

Diante disso, não é de admirar porque há tanto medo e indignação sobre a IA. Por muito tempo, grandes empresas de tecnologia poderiam implantar tecnologias que mudam a sociedade em grande escala e sem muito controle. Parecia que havia um novo martelo gigante — e então saíram alertas atrás de alertas para nos dizer que provavelmente não estávamos em boas mãos.

Você poderia dizer algo semelhante sobre estados que usam tecnologia para vigiar e controlar seu povo ou suprimir minorias. Não toleramos esse tipo de comportamento. Mas você tem de se perguntar: a tecnologia é antidemocrática — ou é o estado que a usa? As pessoas podem fazer — e fizeram — coisas horríveis umas com as outras, mesmo com tecnologias relativamente simples. Mas nunca foi apenas a tecnologia que era “ruim” (a tecnologia tinha de ser boa para ser eficaz), mas sua governança que era desumana.

IA: um bode expiatório conveniente

Então por que tantas pessoas falam sobre IA como responsável por todos os nossos males? Porque é conveniente. Assumir a grande tecnologia é difícil — assim como lidar com estados desonestos, ou resolver questões importantes como o desemprego. Você pode se envolver em uma luta complexa que pode levar décadas antes de sua conclusão incerta. Mas culpar tudo por um robô maléfico meio imaginado? Isso é fácil e divertido.

Há uma palavra para isso em inglês e muitas outras línguas: bode expiatório. É derivado do hebraico 'ăzāzêl (עזאזל‎) e aparece pela primeira vez em Levítico. Lá, “todas as iniquidades do povo de Israel, e todas as suas transgressões, todos os seus pecados” são colocados na cabeça de uma cabra viva. Quando é lançado no deserto, convenientemente leva todas as impurezas com ele, deixando a comunidade sem pecado.

Como lutar: faça o bem e fale sobre isso!

Historicamente, a regulação de novas tecnologias muitas vezes seguiu incidentes terríveis. Foi preciso Hiroshima para criar leis e tratados sobre a proliferação de armas nucleares e Chernobyl e Fukushima para nos dar uma pausa sobre a energia atômica. Nada comparável aconteceu com a IA, e talvez nunca aconteça.

Então, como devemos reagir quando todos os pecados e transgressões dos outros são colocados na cabeça do robô? Devemos ficar parados e deixar isso acontecer por medo de se tornar aquela outra cabra, aquela que tradicionalmente é morta quando o bode expiatório é solto na natureza?

Não acho que seja esse o caminho a seguir. Novas tecnologias como a IA são muito benéficas para sacrificá-las no altar da superstição. Em vez disso, gostaria de pedir à IA e à comunidade de ciência de dados duas coisas que você poderia fazer para resgatar nossa reputação:

1. Faça o bem! Coloque esforços extras para usar a IA de forma responsável. Atores irresponsáveis criam imagens públicas ruins, que podem matar tecnologias antes de terem a chance de amadurecer.
2. Fale sobre isso! “Fazer o bem e falar sobre isso” deve ser nosso lema. A IA precisa que os embaixadores falem. Talvez você possa mostrar ao mundo o que a boa IA pode fazer — ou pelo menos você poderia torcer por outros que assumem esse papel.

Precisamos que todos os membros responsáveis da comunidade de ciência de dados façam sua parte. Nós tentamos fazer o nosso, esperamos que você faça o seu, o que já seria bastante por enquanto.

*Sylvain Duranton é líder global do BCG GAMMA e Henrique Sinatura é diretor-executivo e sócio do BCG e líder do BCG GAMMA no Brasil.

Siga a Bússola nas redes: Instagram | LinkedIn | Twitter | Facebook | YouTube

Veja também