Nova York debate multa de US$ 25 mil e 'botão de desligar' para sistemas de IA

RESUMO ＋

Representantes de OpenAI, Anthropic, Google e Meta participaram de uma audiência sobre os riscos da IA em Nova York. As propostas em discussão incluem avaliação independente, mecanismos de desligamento e responsabilização por danos. O Brasil também realizou audiências sobre a tecnologia, com debates sobre desinformação e eleições.

Os riscos da inteligência artificial (IA) levaram representantes de OpenAI, Anthropic, Google e Meta a uma audiência sob juramento na Câmara Municipal de Nova York, nesta segunda-feira, 5. O encontro reuniu empresas, especialistas e ex-funcionários do setor para discutir como proteger a população de falhas e usos indevidos desses sistemas.

A cobrança não partiu do Congresso americano, mas do Legislativo municipal. A presidente da Câmara, Julie Menin, convocou uma audiência do Comitê Pleno, formato que reúne o conjunto dos 51 vereadores, para examinar propostas de fiscalização e responsabilidade.

A presença de parte das empresas veio depois de pressão. Segundo comunicado da Câmara, OpenAI, Google e Anthropic aceitaram participar após a ameaça de intimação. A Meta já havia confirmado um representante de sua liderança.

Auditoria e botão de desligar

Um dos projetos propõe impedir a comercialização e a implantação, na cidade, de sistemas sem validação independente. A avaliação abrangeria qualidade dos dados, segurança, privacidade e vieses.

O mesmo texto exige um mecanismo que permita a um operador humano desligar a IA. A proposta prevê multa de US$ 25 mil por ocorrência de implantação sem validação ou com avaliação falsificada.

Outro projeto permitiria que pessoas prejudicadas processassem empresas por danos previsíveis decorrentes do uso malicioso da tecnologia, caso a companhia não tivesse adotado salvaguardas razoáveis.

Também estão em discussão incentivos a denunciantes e comunicação de incidentes em contratos públicos. Uma proposta estabelece notificação ao órgão municipal de cibersegurança em até 24 horas.

São projetos, não exigências já aprovadas. A audiência faz parte da discussão legislativa sobre quais controles a cidade poderá adotar.

O contexto dos testes de segurança

Ex-funcionários de laboratórios também participaram do encontro e fizeram alertas sobre a velocidade do desenvolvimento, segundo a Associated Press.

A discussão acontece depois de episódios em que agentes de IA alcançaram sistemas reais durante avaliações. Como mostrou a EXAME, os casos envolveram falhas na contenção de ambientes que deveriam limitar a atuação dos modelos.

E o Brasil?

O Brasil não está sem debate público sobre IA. Em 1º de junho, o Conselho de Comunicação Social do Congresso realizou uma audiência sobre desinformação e o uso da tecnologia nas eleições de 2026, conforme a Agência Câmara.

No encontro, pesquisadores apontaram dificuldades de fiscalização da publicidade digital e defenderam mais transparência. A audiência brasileira tratou de riscos informacionais e eleitorais; em Nova York, as propostas também alcançam validação técnica, desligamento e responsabilidade por danos.

A discussão sobre responsabilização inclui uma questão concreta: quais obrigações devem ser impostas às empresas antes e depois de um incidente.

---

Perguntas frequentes

Quem participou da audiência?

Representantes de OpenAI, Anthropic, Google e Meta, além de especialistas e ex-funcionários do setor. A participação das empresas não significa que seus CEOs tenham prestado depoimento.

Nova York já aprovou essas medidas?

As medidas descritas são propostas legislativas discutidas na audiência, não novas obrigações já em vigor.