IA além do óbvio: que compromissos precisamos assumir?

Por Adriana Aroulho*

A rápida evolução da tecnologia tornou cada vez mais necessária a criação de regulamentos éticos robustos para orientar o seu desenvolvimento e aplicação. A Unesco tem liderado durante décadas esforços internacionais para garantir que a ciência e a tecnologia se desenvolvam dentro destas diretrizes, criando padrões universais que maximizam os benefícios das descobertas científicas, minimizando os seus riscos, garantindo a sua contribuição para um mundo mais inclusivo, sustentável e pacífico.

Um dos esforços mais recentes e notáveis é o Observatório Global de Ética e Governança da IA, que fornece um recurso valioso para que os decisores políticos, reguladores, académicos, setor privado e a sociedade civil encontrem soluções para os desafios mais imediatos decorrentes do avanço no desenvolvimento e aplicação da i nteligência artificial. Esta abordagem colaborativa é crucial, uma vez que a governança adequada da IA é um dos desafios mais importantes do nosso tempo, exigindo aprendizagem mútua baseada em lições e boas práticas emergentes de diferentes equipes, organizações civis e empresas em todo o mundo.

Abordagem abrangente, compromissos claros

Em linha com o que as organizações internacionais recomendam, as grandes empresas tecnológicas devem abordar as preocupações sobre preconceitos e discriminação ao conceberem as suas aplicações de IA, trabalhando para torná-las transparentes e explicáveis.Além disso, é necessário manter os mais elevados padrões em termos de privacidade de dados, proteção de informações esegurança cibernética.

Mais organizações em todo o mundo devem reforçar o seu compromisso com os 10 princípios apontados pela Unesco para promover a ética na Inteligência Artificial. Estes princípios abrangem a segurança, a equidade, a sustentabilidade, a privacidade, a supervisão humana, a transparência, a responsabilização, a sensibilização e a colaboração multilateral, garantindo que as soluções de IA respeitem os direitos humanos e contribuam para o desenvolvimento sustentável. Neste sentido, uma das ações mais relevantes está relacionada ao desenvolvimento e adoção de políticas claras, incluindo um código de ética que define os princípios e valores que serão orientados para o uso e o desenvolvimento da IA dentro da empresa.

Na SAP, enfatizamos a "IA centrada no ser humano" para beneficiar a sociedade, reduzindo preocupações e ameaças. Nossos processos se baseiam na compreensão das necessidades das partes interessadas, usando métodos de pesquisa, design thinking e histórias de usuários para garantir que nossos produtos atendam demandas reais, evitando preconceitos e danos não intencionais. Ao desenvolver soluções que empreguem Inteligência Artificial, precisamos ter atenção para que elas respeitem 3Rs: responsável, relevante e confiável (reliable).

Outra recomendação para as organizações é incentivar treinamentos regulares para seus funcionários sobre ética tecnológica, privacidade de dados e segurança cibernética. Na medida em que as interações dos usuários com a tecnologia exigem o intercâmbio de dados, um aspecto fundamental para garantir uma boa utilização da Inteligência Artificial é a transparência na forma como esses dados são analisados, utilizados e protegidos. Esta transparência pode incluir a publicação de relatórios periódicos sobre as práticas éticas e de privacidade da empresa, incluindo, na medida do possível, auditorias externas.

Finalmente, as organizações podem estabelecer comitês de ética ou conselhos consultivos para supervisionar e avaliar as práticas tecnológicas da empresa. Esses tipos de ações mostram a relevância que o cumprimento de diretrizes próprias em matéria de IA tem para a empresa, ao mesmo tempo que geram precedentes que podem facilitar a tomada de decisões no futuro.

Em última análise, garantir a utilização ética da IA exige um compromisso abrangente e contínuo.Ao implementar estas práticas, as empresas podem não só proteger os seus usuários e melhorar a suareputação, mas também contribuir positivamente para a sociedade e promover um ambiente deinovação responsávele sustentável.

*Adriana Aroulho é CEO da SAP Brasil