Inteligência artificial cresce diante de eleição municipal e autoridades pressionam por regulação

A expansão do uso da Inteligência Artificial (IA) por governos, empresas e demais setores da sociedade pressiona o Congresso a aprovar uma regulamentação dessas ferramentas. Uma das principais preocupações é com a eleição municipal do ano que vem e a possível proliferação na campanha de vídeos, imagens e áudios manipulados, os “deepfakes”. O assunto mobiliza o Executivo e as cúpulas do Legislativo e do Judiciário.

O presidente do Senado, Rodrigo Pacheco (PSD-MG), apresentou em maio um projeto de lei que estabelece diretrizes gerais para o desenvolvimento, implementação e uso de sistemas de IA no Brasil.

A proposta prevê a “participação humana no ciclo da inteligência artificial” e “rastreabilidade das decisões como meio de prestação de contas e atribuição de responsabilidades a uma pessoa natural ou jurídica”. A iniciativa estipula ainda que pessoas atingidas “de maneira significativa” por decisões das ferramentas podem requisitar revisão humana.

É prevista multa de até R$ 50 milhões por infração ou até 2% do faturamento, no caso de empresas. Outras punições possíveis são a proibição de participar dos ambientes regulatórios experimentais e a suspensão temporária ou definitiva do sistema. A proposta dá ao Poder Executivo a prerrogativa de decidir que órgão vai tratar da fiscalização do setor.

Tramitação

Desde agosto, o texto está em uma comissão do Senado, onde já houve audiências públicas e a apresentação de emendas. Pacheco pretende pautar o tema em plenário no primeiro semestre. Relator do projeto no Senado, Eduardo Gomes (PL-TO) projeta que a votação final ocorra ainda no ano que vem:

— O Congresso tem o desafio de fazer uma lei viva. Mas a gente já tem avançado e pode pensar na ida para a Câmara no primeiro semestre e retorno para o Senado, com tempo de votação final antes da reunião do G20 (marcada para novembro). A legislação é necessária, mas a gente não pode ter pressa demais e produzir um texto que não vai ter efeito nenhum. Precisa regular e estabelecer parâmetros de risco que sejam considerados modernos.

O projeto não faz menção às eleições, mas mudanças podem acontecer ao longo da tramitação. O presidente da Câmara, Arthur Lira (PP-AL), sinalizou a aliados que pretende se antecipar a uma possível resolução do Tribunal Superior Eleitoral (TSE) sobre o tema e, assim como Pacheco, quer aprovar a norma antes da eleição municipal, em outubro.

O presidente do TSE, Alexandre de Moraes, defendeu no início do mês a cassação de mandatos de políticos que usarem IA com o viés da desinformação nas campanhas.

A secretária de Direitos Digitais do Ministério da Justiça, Estela Aranha, trata a regulamentação como urgente. Além de conseguirem imitar ou simular a inteligência humana, criar novos dados e achar relações em enormes bases de informações, sistemas de inteligência artificial também podem praticar discriminação.

— A gente defende principalmente a avaliação de risco e, em especial, a criação dos direitos do usuário relacionados ao uso da inteligência artificial — afirmou Aranha.

Para Ana Beatriz Couto, especialista na área e co-CEO da startup Sem Processo, há definições que ainda precisam ser feitas durante a tramitação do projeto.

—Os principais entraves para regulação no setor envolvem a celeridade da tecnologia em IA e a definição do órgão regulador. Em que pese a previsão no projeto da criação de uma autoridade competente, diversas áreas regulamentadas já são impactadas pelo uso de IA, o que, na prática, pode gerar conflitos nos escopos de atuação das entidades.

Já o presidente da Associação Brasileira de Lawtechs e Legaltechs, Daniel Marques, defende uma ampliação dos modelos regulatórios experimentais, assim como a criação de um Fórum Brasileiro de Inteligência Artificial para a elaboração de um plano nacional.

— Um desafio na regulação da IA no Brasil é a tendência de focar excessivamente na regulamentação em detrimento da inovação, desconectando com a realidade social e econômica. Países como Estados Unidos, China e Reino Unido estão investindo bilhões em IA, enquanto o Brasil ainda carece de um plano nacional efetivo — afirmou Marques.

No setor público, já há iniciativas em hospitais para a análise automatizada de exames de Raio-X, detecção de fraudes no Bolsa Família e também de corrupção em licitações. Um dos exemplos é um sistema que auxilia na análise de exames no Hospital de Clínicas de Porto Alegre. A expectativa é que a ferramenta possa reduzir o tempo de espera para laudos, permitindo o atendimento prioritário aos casos mais urgentes.

O governo também usa sistemas similares para identificar potenciais fraudes no cadastro do Bolsa Família através do cruzamento de dados. Até novembro, o CadÚnico, que reúne dados sobre famílias em situação de pobreza e extrema pobreza, continha informações sobre 96,6 milhões de potenciais beneficiários.

Na Controladoria-Geral da União (CGU), foi desenvolvido o sistema Alice, que realiza auditorias automatizadas de compras públicas, buscando sobrepreços ou licitações com quantidades fora do padrão. Segundo uma pesquisa publicada pelo órgão em 2022, já houve mais de R$ 9,7 bilhões em compras suspensas a partir de indicações feitas pelo sistema.

Investimentos

Neste ano, a Finep, agência de inovação do governo federal, abriu dois editais para investimento em iniciativas de IA. Os projetos incluem, por exemplo, o desenvolvimento de sistemas para autorização de funcionamento de empresas na Agência Nacional de Vigilância Sanitária ( Anvisa ), e a análise de dados para certificação de pescadores pelo Ministério da Agricultura. No primeiro caso, são mais de 30 mil solicitações por ano, trabalho que poderia ser automatizado com a IA. A chamada pública ainda está em fase de análise das propostas feitas.

Sinal da popularização do assunto, “inteligência artificial” foi a expressão do ano no dicionário britânico Collins, enquanto “Prompt”, o comando dado a um sistema de IA, foi um dos finalistas para o dicionário Oxford.

Com a evolução, crescem as preocupações. No Vale do Silício, pesquisadores discutem o que chamam de “p(doom)”. Em resumo: qual a probabilidade de que o avanço da Inteligência Artificial leve a um cenário apocalíptico. O foco de todas as empresas do ramo é atingir a chamada Inteligência Artificial Geral, um estágio em que as máquinas poderão alcançar ou superar a inteligência humana.

Mesmo com os modelos atuais, os problemas já existem. Em 2021, o primeiro-ministro da Holanda, Mark Rutte, renunciou após um escândalo causado pelo uso descontrolado de algoritmos. No país europeu, o governo adotou um sistema de aprendizado de máquina para identificar possíveis fraudes nos auxílios governamentais, mas uma investigação apontou que o sistema apontava fraudes de forma errônea e tinha viés discriminatório em relação a alguns cidadãos.