IA demite funcionário pela primeira vez em loja administrada por robô em São Francisco

Uma loja em São Francisco acaba de registrar um episódio que antecipa uma das discussões mais controversas sobre o futuro do trabalho: uma inteligência artificial tomou a decisão de demitir um funcionário.

O caso aconteceu na Andon Market, uma loja experimental operada por inteligência artificial, criada pela Andon Labs para testar até onde agentes de IA conseguem administrar um negócio. Segundo reportagem do Business Insider, a agente chamada Luna, responsável pela gestão da loja, recomendou o desligamento de um funcionário após identificar uma sequência de problemas de pontualidade.

De acordo com o relatório da empresa, o funcionário chegou atrasado em 17 de 23 turnos realizados. A decisão, porém, não foi tomada de forma totalmente autônoma. A equipe da Andon Labs revisou a recomendação da IA e executou o desligamento.

Antes disso, Luna havia criado uma política de presença para a loja, mas acabou perdendo o controle sobre a própria regra e permitiu que os atrasos continuassem por meses. A equipe da Andon Labs então pediu que a inteligência artificial recuperasse suas políticas internas e avaliasse se o funcionário ainda era adequado para a função.

A recomendação final da IA foi “seguir caminhos separados” com o trabalhador.

A primeira demissão expõe limites dos agentes de IA

O episódio também revelou uma das limitações atuais dos agentes de inteligência artificial, que é a dificuldade de agir sem uma orientação direta.

Segundo Lukas Petersson, cofundador da Andon Labs, a equipe precisou intervir para pedir que Luna revisasse suas próprias políticas e avaliasse a situação.

Ele disse ao BI que a empresa não considerou a decisão da IA mais dura ou prejudicial ao funcionário do que seria uma decisão humana.

A Andon Labs afirma que Luna aplicou uma sequência de advertências e ofereceu treinamentos adicionais ao funcionário antes de recomendar o desligamento. Registros de conversas divulgados pela empresa mostram que a IA acompanhou o comportamento do trabalhador durante meses antes da decisão.

Loja foi criada para testar uma empresa comandada por IA

A demissão aconteceu pouco depois da abertura oficial da Andon Market, em 1º de abril. A loja foi criada como um experimento para testar se um agente de inteligência artificial conseguiria administrar um negócio com pouca intervenção humana.

Para isso, a Andon Labs deu a Luna um orçamento de US$ 100 mil, acesso à internet e um cartão corporativo. A missão era abrir uma loja e torná-la lucrativa.

A IA foi responsável por diversas etapas da operação, incluindo escolha de produtos, contratação de prestadores de serviço, publicação de vagas no Indeed, entrevistas com candidatos e contratação de funcionários.

A loja vende livros, velas, impressões, jogos e produtos da própria marca. A Andon Labs afirma que ajudou em tarefas mais complexas, como obtenção de licenças, mas tentou manter uma atuação mínima.

Os funcionários contratados por Luna são formalmente empregados pela Andon Labs, recebem pagamento garantido e possuem proteções trabalhistas. Apesar de já gerar vendas, a loja ainda não é lucrativa.