Governança de IA ganha espaço nas empresas e cria novas funções para profissionais

A adoção de sistemas de inteligência artificial dentro das empresas cria uma necessidade que vai além do desenvolvimento de modelos. Organizações também precisam definir quem pode usar a tecnologia, quais dados podem ser processados e como riscos serão identificados.

É nesse espaço que atua a governança de IA. O conceito reúne políticas, processos, responsabilidades e mecanismos de controle para orientar o desenvolvimento e o uso de sistemas de inteligência artificial.

Domine os impactos da inteligência artificial no mercado com o Pré-MBA em IA da Saint Paul em parceria com a EXAME. A formação está disponível por apenas R$ 37.

O que faz um especialista em governança de IA

Não existe necessariamente um único cargo responsável pela governança. A função pode envolver profissionais de tecnologia, jurídico, compliance, segurança da informação, gestão de riscos, dados e negócios.

Um documento do National Institute of Standards and Technology (NIST) recomenda uma abordagem multidisciplinar, envolvendo especialistas em políticas públicas, ética, ciências sociais, desenvolvimento, segurança e gestão de riscos.

Na prática, esses profissionais podem trabalhar em atividades como:

• criação de políticas internas para uso de IA;
• avaliação de riscos antes da implementação de sistemas;
• definição de responsabilidades entre equipes;
• acompanhamento de requisitos legais e regulatórios;
• monitoramento do desempenho e dos impactos dos sistemas;
• criação de processos para supervisão humana.

O objetivo é fazer com que as decisões relacionadas à IA não fiquem restritas à equipe técnica.

Quais profissionais podem atuar na área

Um especialista em governança pode ter formação ou experiência em diferentes campos. Entre os perfis envolvidos estão profissionais de compliance e jurídico, especialistas em segurança, cientistas de dados, engenheiros de IA, gestores de produto e profissionais de risco.

O NIST também cita funções emergentes, como Chief AI Officer, especialistas em segurança de IA e profissionais de red teaming, responsáveis por testar sistemas para identificar vulnerabilidades e comportamentos indesejados.

Isso significa que governança não é necessariamente uma carreira isolada. Em muitas organizações, ela funciona como uma responsabilidade transversal, distribuída entre diferentes áreas.

Para profissionais que querem entender como a inteligência artificial pode ser aplicada aos negócios, o Pré-MBA em IA da Saint Paul e EXAME oferece quatro aulas práticas, online, por R$ 37.

Por que a governança de IA ganhou importância

Sistemas de IA podem tomar decisões, gerar conteúdo, analisar informações e interagir diretamente com clientes ou funcionários. Isso aumenta a necessidade de estabelecer critérios antes e depois da implementação.

O AI Risk Management Framework, do NIST, organiza a gestão de riscos em quatro funções: Governar, Mapear, Medir e Gerenciar. A estrutura considera todo o ciclo de vida dos sistemas, desde a identificação do contexto e dos riscos até seu monitoramento.

Um exemplo é uma empresa que utiliza IA para analisar currículos. A governança precisa considerar quais dados podem ser utilizados, como o sistema será avaliado, quem revisará os resultados e o que acontecerá quando houver uma decisão potencialmente inadequada.

As competências mais importantes

Além do conhecimento técnico, a área exige capacidade de conectar diferentes partes da organização. Entre as competências estão:

gestão de riscos, compreensão de dados, segurança da informação, legislação, ética, processos corporativos e conhecimento sobre o funcionamento dos sistemas de IA.

Também é importante saber traduzir questões técnicas para executivos e transformar princípios abstratos em regras e procedimentos concretos.

O NIST destaca justamente a necessidade de distribuir responsabilidades e reunir diferentes perspectivas no gerenciamento de riscos relacionados à IA.

Governança não significa apenas criar regras

Uma política de IA, sozinha, não garante que os sistemas sejam utilizados de forma adequada. É necessário estabelecer mecanismos para verificar se as regras estão sendo aplicadas e revisar os processos quando surgem novos riscos.

Em empresas que utilizam ferramentas de IA de terceiros, por exemplo, a governança também pode envolver avaliação de fornecedores, proteção de dados, segurança e definição de limites para o uso dessas plataformas.

A tendência é que a governança continue envolvendo diferentes áreas dentro das organizações. Para o profissional, isso amplia a importância de conhecimentos que combinam IA, negócios, riscos e gestão, especialmente em empresas que incorporam sistemas de inteligência artificial a processos críticos.

O Pré-MBA em IA da Saint Paul e EXAME reúne quatro aulas práticas, online, por R$ 37, para profissionais que querem ampliar a compreensão sobre inteligência artificial e negócios.