Exame Logo

Ganhador do Nobel de Física alerta para riscos da Inteligência Artificial não controlada

Hopfield, pioneiro da IA, alerta para o perigo da falta de controle da tecnologia

Hopfield, Nobel de Física, alerta sobre os riscos da Inteligência Artificial descontrolada (Reprodução/ WCC)
AFP

Agência de notícias

Publicado em 8 de outubro de 2024 às 21h24.

John Hopfield, cientista americano e recente vencedor do Prêmio Nobel de Físicapor suas contribuições pioneiras em Inteligência Artificial (IA), fez um alerta nesta terça-feira, 8. Ele expressou preocupação com os avanços recentes da IA e alertou para a possibilidade de catástrofes caso esses sistemas não sejam controlados adequadamente.

O professor emérito da Universidade de Princeton defendeu uma melhor compreensão do funcionamento dessas tecnologias para evitar que se tornem incontroláveis. Em um vídeo gravado diretamente do Reino Unido para uma conferência na Universidade de Nova Jersey, o cientista de 91 anos mencionou o surgimento de outras duas poderosas tecnologias durante sua vida: a engenharia biológica e a física nuclear.

Veja também

Preocupações com a falta de controle

"Estamos acostumados a tecnologias que não são apenas boas ou más, mas que podem funcionar em ambas as direções", disse Hopfield. "Como físico, estou muito preocupado com algo que não está controlado, algo que não entendo o suficiente para saber quais limites poderiam ser impostos a essa tecnologia", acrescentou.

Segundo o cientista, os sistemas de IA modernos parecem "maravilhas absolutas", mas ainda há uma compreensão insuficiente de como realmente funcionam, o que é "muito, muito preocupante". Hopfield reforçou seu apoio à necessidade de um entendimento mais profundo dessa tecnologia, assim como defende seu colega Geoffrey Hinton, outro vencedor do Prêmio Nobel.

Preocupação crescente com a IA

A crescente corrida entre empresas para dominar o mercado de Inteligência Artificial levou alguns críticos a apontarem que essa tecnologia está evoluindo mais rápido do que os cientistas conseguem acompanhar. Hopfield e Hinton, conhecidos por seus trabalhos na área de redes neurais, foram premiados por pesquisas que remontam à década de 1980, as quais formam a base dos sistemas de aprendizado profundo usados atualmente.

O Nobel de Química será entregue na quarta-feira, e os prêmios de Literatura e da Paz serão anunciados na quinta e sexta-feira. A temporada de 2024 dos prêmios Nobel será encerrada no dia 14 de outubro com a entrega do Nobel de Economia.

Os supercomputadores mais poderosos da atualidade

Acompanhe tudo sobre:Inteligência artificialPrêmio Nobel

Mais lidas

exame no whatsapp

Receba as noticias da Exame no seu WhatsApp

Inscreva-se

Mais de Inteligência Artificial

Mais na Exame