Questões que englobam soberania e segurança global sobre o avanço da inteligência artificial (IA) foram tema central da Cúpula de Impacto da IA, que aconteceu em Nova Délhi, na Índia. 

Entre as iniciativas, um painel científico internacional trabalha com o objetivo de transformar  o ‘controle humano’ da tecnologia em uma realidade técnica. “A ciência informa, mas os humanos decidem”, afirmou o Secretário-Geral da ONU, o português António Guterres, durante a cúpula. Para ele, o painel preenche uma lacuna crítica de conhecimento independente, essencial para que a política internacional não seja guiada por desinformação.

O conceito ético de controle humano é previsto nas diretrizes de uso seguro da inteligência artificial, segundo o especialista Rony Vainzof, advogado e professor especializado em Direito Digital e sócio do VLK Advogados. Segundo ele, são três abordagens principais:

• Human-in-the-loop (HITL): o humano intervém em cada ciclo de decisão. Aqui, a decisão da IA não produz efeito sem validação humana. Exemplo: o sistema sugere laudo, mas o médico valida antes de liberar.
• Human-on-the-loop (HOTL): o humano supervisiona o sistema que opera autonomamente, tendo a capacidade de intervir ou interromper a operação caso detecte anomalias. Exemplo: a IA remove conteúdo em massa em rede social, mas equipes monitoram padrões e ajustam parâmetros se detectarem erros sistemáticos. 
• Human-in-command (HIC): o humano detém o controle sobre o 'comando geral' do sistema, decidindo onde, como e se a IA deve ser aplicada, além de monitorar seus impactos sociais e éticos abrangentes. É o nível mais amplo e estrutural de controle. Exemplo: em modelos de propósito geral", explica Rony Vainzof.

Estrutura

O órgão foi feito à semelhança do Painel Intergovernamental sobre Mudanças Climáticas (IPCC) e é composto por 40 especialistas de diversas regiões do mundo, que representam as cinco regiões da ONU, selecionados por sua excelência acadêmica e técnica. Entre os nomes de destaque está a brasileira Teresa Ludermir, professora da Universidade Federal de Pernambuco (UFPE) e referência em redes neurais e IA responsável.

O painel tem a função de emitir avaliações científicas anuais sobre os riscos e oportunidades da tecnologia. Para garantir a isenção, a ONU exige que todos os membros declarem total transparência sobre conflitos de interesse, sejam eles financeiros ou profissionais, visando uma governança que priorize o interesse público em vez de lucros corporativos.

“A proposta de criar um painel científico independente (nos moldes do IPCC para o clima) serve para criar um léxico e uma base técnica comuns para que Brasil, Índia, EUA ou China, por exemplo, possam usar para fundamentar suas próprias leis soberanas ou para que o que ‘controle humano’ de uma empresa em São Paulo possa significar o mesmo que em uma empresa em Nova Délhi ou no Vale do Silício. Ou seja, o objetivo é reduzir ambiguidade regulatória e de governança, evitando assimetrias entre jurisdições", afirma Rony Vainzof.

Governança global 

Durante a cúpula na Índia, representantes dos Estados Unidos rejeitaram a ideia de uma "governança global" centralizada, argumentando que o excesso de burocracia poderia sufocar a inovação. Michael Kratsios, conselheiro de tecnologia da Casa Branca, afirmou que o governo americano não apoia o controle centralizado de uma tecnologia que pode gerar “prosperidade sem precedentes".

Por outro lado, o presidente do Brasil, Luiz Inácio Lula da Silva, e o primeiro-ministro indiano, Narendra Modi, defenderam que a IA não pode ser um “ativo estratégico confidencial” nas mãos de poucos. O presidente Lula alertou para o risco de que “sem uma ação coletiva, a IA poderá agravar desigualdades e criar uma dominação digital, onde os dados das populações são apropriados sem contrapartida”.

A série de encontros internacionais sobre IA segue para Genebra - Suíça, no primeiro semestre de 2027. O evento mantém a tradição das cúpulas anuais iniciada no Reino Unido, em 2023 e que passaram por Coreia do Sul (2024), França (2025) e Índia, neste mês de 2026.