Ganhador do Nobel de Física alerta para riscos da Inteligência Artificial não controlada
Hopfield, pioneiro da IA, alerta para o perigo da falta de controle da tecnologia
Agência de notícias
Publicado em 8 de outubro de 2024 às 21h24.
John Hopfield, cientista americano e recente vencedor do Prêmio Nobel de Físicapor suas contribuições pioneiras em Inteligência Artificial (IA), fez um alerta nesta terça-feira, 8. Ele expressou preocupação com os avanços recentes da IA e alertou para a possibilidade de catástrofes caso esses sistemas não sejam controlados adequadamente.
O professor emérito da Universidade de Princeton defendeu uma melhor compreensão do funcionamento dessas tecnologias para evitar que se tornem incontroláveis. Em um vídeo gravado diretamente do Reino Unido para uma conferência na Universidade de Nova Jersey, o cientista de 91 anos mencionou o surgimento de outras duas poderosas tecnologias durante sua vida: a engenharia biológica e a física nuclear.
Preocupações com a falta de controle
"Estamos acostumados a tecnologias que não são apenas boas ou más, mas que podem funcionar em ambas as direções", disse Hopfield. "Como físico, estou muito preocupado com algo que não está controlado, algo que não entendo o suficiente para saber quais limites poderiam ser impostos a essa tecnologia", acrescentou.
Segundo o cientista, os sistemas de IA modernos parecem "maravilhas absolutas", mas ainda há uma compreensão insuficiente de como realmente funcionam, o que é "muito, muito preocupante". Hopfield reforçou seu apoio à necessidade de um entendimento mais profundo dessa tecnologia, assim como defende seu colega Geoffrey Hinton, outro vencedor do Prêmio Nobel.
Preocupação crescente com a IA
A crescente corrida entre empresas para dominar o mercado de Inteligência Artificial levou alguns críticos a apontarem que essa tecnologia está evoluindo mais rápido do que os cientistas conseguem acompanhar. Hopfield e Hinton, conhecidos por seus trabalhos na área de redes neurais, foram premiados por pesquisas que remontam à década de 1980, as quais formam a base dos sistemas de aprendizado profundo usados atualmente.
O Nobel de Química será entregue na quarta-feira, e os prêmios de Literatura e da Paz serão anunciados na quinta e sexta-feira. A temporada de 2024 dos prêmios Nobel será encerrada no dia 14 de outubro com a entrega do Nobel de Economia.