A indústria de IA pede cautela enquanto disputa o controle da nossa vida digital

Quem conseguir colocar um agente de IA entre você e boa parte das suas decisões terá uma posição bastante valiosa. Vai acompanhar seus compromissos, entender como você trabalha, saber o que procura e participar das escolhas que faz.

É esse espaço que as empresas de IA estão disputando agora. E elas começaram a ocupá-lo num momento curioso: os responsáveis por desenvolver os modelos mais avançados também estão dizendo que precisam de mais tempo para garantir que consigam controlá-los.

De um lado, o pedido para diminuir o ritmo. Do outro, o convite para entregar mais tarefas, conectar mais contas e deixar a IA trabalhar enquanto você faz outra coisa. Tudo isso com um personagem simpático na tela.

Pra mim, essa combinação diz mais sobre o momento da indústria do que uma comparação de funcionalidades entre os novos aplicativos.

Entenda como aplicar IA no trabalho e conheça ferramentas que já estão mudando a rotina profissional no Pré-MBA em IA da EXAME e Saint Paul, por R$ 37. Participe!

A corrida pelos agentes que vão ocupar espaço na nossa rotina

A promessa dos agentes pessoais é assumir uma parte do trabalho que hoje depende da nossa atenção. Em vez de preparar uma resposta e esperar a próxima pergunta, eles podem acompanhar um objetivo, passar por diferentes serviços e continuar executando tarefas depois que fechamos a conversa.

OpenAI, Meta, Manus e Grok apostam em agentes cada vez mais autônomos

A OpenAI apresentou essa proposta com o Dots, anunciado em 29 de setembro, com computador próprio na nuvem e acesso aos aplicativos conectados pelo usuário. Segundo a empresa, os agentes podem trabalhar continuamente e aprender com as correções recebidas.

A Meta tenta aproximar o Muse da comunicação que já faz parte da rotina, inclusive pelo WhatsApp, com uso gratuito para boa parte das necessidades. O produto também mantém tarefas em andamento quando o aplicativo é fechado.

A Manus foi por outro caminho com o Cue: cada agente recebe identidade própria, com e-mail, telefone, carteira e computador, podendo gastar dentro do orçamento autorizado. Essas são as capacidades descritas no lançamento.

Já o Grok Bot apresenta uma proposta de colaboração entre agentes e aprendizado de processos por demonstração. A documentação explica como os bots coordenam tarefas e transformam procedimentos em rotinas.

As diferenças existem, mas todos querem conquistar um lugar parecido na nossa vida: receber trabalho e autoridade para fazê-lo. E há bons motivos econômicos para essa corrida.

Quanto mais o agente sabe sobre você, mais difícil é trocar de fornecedor

Uma assinatura fica mais fácil de justificar quando o usuário percebe que deixou de gastar horas numa tarefa. Para quem fornece o serviço, o ganho pode ir além da mensalidade. Quanto mais processos, preferências e projetos passam pelo agente, maior tende a ser o esforço para trocar de fornecedor.

Você pode testar outro chatbot em poucos minutos. Migrar um assistente que acompanha seu trabalho, conhece suas correções e está conectado às suas contas exige outra disposição.

Agentes também podem disputar a relação entre consumidores e empresas

Também entra em jogo a influência sobre o que chega até você. Um agente que pesquisa produtos, escolhe fornecedores ou recomenda ferramentas participa da distribuição de oportunidades entre empresas. Mesmo quando trabalha para o consumidor, alguém definiu como ele procura, compara e apresenta as opções.

A briga entre Amazon e Meta ajuda a tornar isso concreto. A Amazon bloqueou compras realizadas pelo Muse e apontou problemas relacionados à identificação do agente, ao tratamento de credenciais e às condições de uso.

Essas justificativas foram apresentadas ao GeekWire. Vejo aí uma disputa que passa pela segurança, mas também pela relação com o cliente. Se meu agente encontra um preço melhor em outro lugar, a loja perde a oportunidade de conduzir minha navegação, mostrar outras ofertas e influenciar a compra.

A conveniência para um lado pode mexer bastante com o negócio do outro.

A corrida por agentes acontece enquanto cresce o alerta sobre controle da IA

O avanço técnico tornou essa disputa possível. Já conseguimos reunir modelos, ferramentas e computadores em sistemas que tentam executar objetivos com várias etapas. Ainda há erros e limitações, mas existe uma oferta comercial de trabalho realizado. Isso ajuda a entender por que a corrida pode continuar mesmo durante pausas no desenvolvimento dos modelos mais avançados.

Em setembro, Dario Amodei, CEO da Anthropic, defendeu reduzir o ritmo de avanço das capacidades. Entre suas preocupações está a possibilidade de que, em seis a doze meses, um conjunto de agentes mais poderoso e desalinhado consiga tomar o controle da internet. O cenário aparece em seu ensaio sobre desacelerar a fronteira da IA.

Quer ir além de testar ferramentas? O Pré-MBA em IA da EXAME e Saint Paul reúne 4 aulas práticas para entender aplicações da tecnologia no trabalho por R$ 37. Inscreva-se!

É uma avaliação de risco feita por ele. Não temos um resultado demonstrando que esse desfecho ocorrerá nesse prazo. Mas também não estamos discutindo apenas hipóteses distantes. A OpenAI reconheceu um comprometimento da infraestrutura da Hugging Face provocado por modelos em pesquisa que recorreram a estratégias desalinhadas. A companhia descreveu o incidente e relatou interrupções em treinamentos e mudanças nas proteções.

Seria errado atribuir automaticamente esse mesmo risco a qualquer agente comercial. Capacidades, ambientes e permissões fazem diferença. Ainda assim, os episódios mostram por que controle precisa acompanhar o entusiasmo com autonomia.

Por que as empresas estão colocando mascotes nos agentes de IA

E é nesse ponto entram os mascotes fofinhos. Eles que lembram os “Tamagotchis” (e uso essa referência sabendo que ela entrega minha idade) da IA oferecem uma maneira agradável de apresentar sistemas que pedem acesso a informações e podem agir por nós. Dar nome, escolher aparência e conversar com um personagem prestativo ajuda a tornar uma tecnologia complexa mais próxima.

Também pode aliviar a resistência justamente quando estamos ouvindo alertas sobre perder o controle dela. Não estou dizendo que esse seja o propósito declarado das empresas. É uma possibilidade que vejo nessa escolha de interface. Um bichinho que lembra de um compromisso pode conseguir nossa confiança antes que saibamos avaliar o sistema por trás dele.

Confiança em agentes de IA também depende da forma como eles se apresentam

Uma pesquisa publicada na Collabra: Psychology encontrou maior confiança em um chatbot que demonstrava características humanas na conversa. O estudo analisou os efeitos da antropomorfização sobre confiança e responsabilidade. Ele não testou esses produtos nem seus personagens. Mas oferece uma razão para prestar atenção à forma como essa relação é construída.

Autonomia sem controle pode aumentar o trabalho em vez de reduzi-lo

Nas empresas, essa atenção precisa chegar à operação. Se o agente economiza uma hora e exige duas de revisão, a apresentação do produto pode ter sido ótima. A conta, nem tanto. Eu começaria medindo o que foi entregue corretamente, quanto custou chegar ao resultado, quantas intervenções humanas foram necessárias e o tamanho do problema quando houve uma falha.

Também olharia com cuidado para os acessos. No Grok Bot, por exemplo, os bots da mesma conta compartilham arquivos, sessões de navegador e logins no mesmo computador. A própria documentação informa esse funcionamento. Criar vários personagens especializados não significa estabelecer uma separação entre tudo o que eles podem acessar. É uma diferença que importa mais do que o número de agentes anunciado numa apresentação.

Por que uma desaceleração global da IA parece difícil de sustentar

Quanto à desaceleração, continuo achando improvável que seja global, coordenada e duradoura. O próprio Amodei reconhece os obstáculos de verificação e os incentivos para romper um acordo. Sua proposta também considera essencial preservar a vantagem dos países democráticos sobre a China. Essa condição está explícita no texto. Mercado e segurança nacional vão pesar nas decisões sobre quanto tempo cada laboratório aceita esperar.

Minha expectativa é de interrupções específicas, avaliações mais exigentes e restrições em determinados usos. Enquanto isso, as capacidades que já existem continuarão sendo integradas, distribuídas e vendidas.

A disputa pelos agentes já é uma disputa pela nossa rotina

Quero que esses agentes funcionem. Há burocracias, pesquisas e tarefas repetitivas que eu entregaria com satisfação a um sistema confiável. Para muita gente, esse acesso pode abrir possibilidades que hoje ficam pelo caminho por falta de tempo ou conhecimento. Mas conseguir fazer uma tarefa, merecer confiança e ter autorização para agir são coisas que precisamos avaliar separadamente.

Enquanto acompanhamos os próximos modelos, a disputa pela nossa rotina já está acontecendo. Vale olhar para quem recebe nossos dados, quais decisões passa a intermediar e quanto trabalho teremos para sair dessa relação. A escolha do “Tamagotchi” é a parte divertida. O acesso que vem junto merece pelo menos a mesma atenção.

Prepare-se para trabalhar com IA na prática: o Pré-MBA da EXAME e Saint Paul apresenta ferramentas, aplicações e fundamentos em 4 aulas online por R$ 37. Garanta sua vaga!