Samsung proíbe uso de IA após vazamento de dados com ChatGPT

A Samsung proibiu funcionários de usarem ferramentas de inteligência artificial generativa, como o ChatGPT, depois de descobrir que uma equipe inseriu um código confidencial na plataforma, o que causou um revés na disseminação dessa tecnologia no ambiente de trabalho.

A empresa de Suwon, na Coreia do Sul, notificou funcionários de uma de suas maiores divisões sobre a nova política na segunda-feira, por meio de um memorando visto pela Bloomberg News.

A Samsung teme que os dados transmitidos para tais plataformas de inteligência artificial, incluindo Google Bard e Bing, sejam armazenados em servidores externos, o que dificultaria sua recuperação e exclusão, e possam ser divulgados a outros usuários, segundo o documento.

A Samsung, que realizou uma pesquisa interna no mês passado sobre o uso de ferramentas de IA, disse que 65% dos entrevistados acreditam que tais serviços representam um risco à segurança. No início de abril, engenheiros da Samsung vazaram acidentalmente um código-fonte interno ao inseri-lo no ChatGPT, de acordo com o memorando. Não está claro o conteúdo da informação.

Um representante da Samsung confirmou que um memorando foi enviado na semana passada proibindo o uso de serviços generativos de IA.

“O interesse em plataformas de IA generativas, como o ChatGPT, vem crescendo interna e externamente”, disse a Samsung à equipe. “Embora esse interesse se concentre na utilidade e eficiência dessas plataformas, também há preocupações crescentes sobre os riscos de segurança apresentados pela IA generativa.”

A Samsung é apenas mais uma grande empresa a mostrar preocupação com a tecnologia. Em fevereiro, apenas alguns meses depois de o serviço de chatbot da OpenAI despertar um forte interesse pela tecnologia, alguns bancos de Wall Street, entre eles JPMorgan Chase, Bank of America e Citigroup, proibiram ou restringiram seu uso. A Itália também vetou o uso do ChatGPT por temores de privacidade, embora tenha mudado sua posição nos últimos dias.

As novas regras da Samsung proíbem o uso de sistemas generativos de IA em computadores, tablets e telefones de propriedade da empresa, bem como em suas redes internas. As medidas não afetam os dispositivos da empresa vendidos a consumidores, como smartphones Android e laptops Windows.

A Samsung pediu a funcionários que usam o ChatGPT e outras ferramentas em aparelhos pessoais que não enviem nenhuma informação relacionada à empresa ou dados pessoais que possam revelar sua propriedade intelectual. A companhia alertou que a violação das novas políticas pode resultar em demissão.

“Pedimos que vocês sigam diligentemente nossa diretriz de segurança e a falha em fazê-lo pode resultar em violação ou comprometimento das informações da empresa, resultando em ação disciplinar e incluindo rescisão do contrato de trabalho”, disse a Samsung no memorando.

Samsung entra na corrida das IAs

Enquanto isso, a empresa cria suas próprias ferramentas internas de IA para tradução e resumo de documentos, bem como para desenvolvimento de software. Também trabalha em maneiras de bloquear a inserção de informações confidenciais da empresa para serviços externos. No mês passado, o ChatGPT adicionou um modo “anônimo” que permite a usuários impedir que seus bate-papos sejam usados para o treinamento do modelo de IA.

No memorando, a Samsung diz que está revisando as medidas com o objetivo de criar um ambiente seguro para o uso da IA generativa de modo a aumentar “a produtividade e a eficiência dos funcionários”. “No entanto, até que essas medidas sejam preparadas, estamos restringindo temporariamente o uso de IA generativa.”