Inteligência artificial na saúde: avanços, desafios e a importância da autonomia humana

Por Daniele Lopes*

A Inteligência Artificial (IA) tem se consolidado como uma ferramenta transformadora no setor de saúde, oferecendo desde diagnósticos mais precisos até a otimização de processos hospitalares. No entanto, sua integração levanta questões cruciais sobre autonomia, ética e a preservação dos valores humanos.

A adoção da IA na medicina

A pesquisa TIC Saúde 2024, realizada pelo Centro Regional de Estudos para o Desenvolvimento da Sociedade da Informação (Cetic.br) e divulgada no Congresso Brasileiro de Informática em Saúde - CBIS, revelou que 17% dos médicos no Brasil utilizam tecnologias de inteligência artificial (IA) generativa em suas rotinas profissionais, com aplicações que vão desde o suporte a pesquisas até a elaboração de relatórios médicos. Globalmente, o mercado de IA na medicina foi avaliado em US$ 11,66 bilhões em 2024, com projeções de crescimento para US$ 36,79 bilhões até 2029, evidenciando a rápida adoção dessas tecnologias no setor.

O estudo também identificou avanços na adoção de medidas de segurança da informação, como criptografia de arquivos e e-mails, que cresceu de 46% para 54% em um ano. A implementação de plano de resposta a incidentes de segurança de dados pessoais foi adotada por 45% dos estabelecimentos privados e 14% dos públicos.

O impacto da IA na eficiência operacional

Os dados da TIC Saúde 2024 mostram que a digitalização na saúde está em crescimento, mas desafios como capacitação de profissionais e custos de implantação ainda são entraves para uma maior disseminação das tecnologias no setor. Com isso, podemos perceber que nas indústrias de soluções médicas, a IA tem sido fundamental para aprimorar a eficiência operacional, pois, através da análise de grandes volumes de dados, é possível prever falhas em equipamentos, otimizar linhas de produção e reduzir desperdícios. Por exemplo, algoritmos de IA podem monitorar em tempo real o desempenho de máquinas, antecipando necessidades de manutenção e evitando interrupções inesperadas.

Segurança dos dados e viés algorítmico

Apesar dos benefícios evidentes, a utilização da IA na saúde também apresenta desafios significativos, especialmente no que se refere à segurança dos dados dos pacientes. Vazamentos de informações médicas podem comprometer a privacidade e gerar impactos éticos e legais. Dessa forma, é imprescindível que sistemas de IA sejam desenvolvidos com protocolos rígidos de segurança, garantindo a confidencialidade e o correto armazenamento das informações sensíveis.

Outro ponto relevante é o viés algorítmico, que pode comprometer a precisão dos diagnósticos e tratamentos. Se os dados utilizados para treinar os algoritmos não forem representativos da diversidade populacional, existe o risco de que as soluções tecnológicas reforcem desigualdades preexistentes no acesso à saúde. Por isso, é essencial que os sistemas de IA sejam constantemente auditados e aprimorados para mitigar esses riscos.

Autonomia da vontade e decisões baseadas em valores

A implementação da IA na saúde traz à tona a discussão sobre a autonomia da vontade. "Até que ponto as decisões assistidas pela inteligência artificial respeitam os valores e os princípios individuais?" É essencial garantir que, mesmo com o suporte tecnológico, as escolhas finais permaneçam sob o controle humano, alinhadas às convicções técnicas e éticas dos profissionais de saúde. No fim, o ser humano deve sempre ser o decisor e o prescritor, eis que a experiência profissional não pode e não deve ser substituída pela IA.

Em situações de crise, por óbvio que a IA pode e deve ser ferramenta auxiliar para uma análise rápida de dados e na imediata proposição de soluções cabíveis. Contudo, é imperativo que essas recomendações sejam sempre avaliadas por profissionais de saúde humanos. "Essa supervisão, como dito acima, garante que as decisões considerem nuances que a IA ainda não é capaz de interpretar, assegurando um cuidado centrado no paciente e sensível às particularidades de cada caso."

Diretrizes e regulamentações sobre o uso da IA

Tanto é assim que as diretrizes, expedidas pela OCDE e pela União Europeia versando sobre IA, compartilham um princípio fundamental: as decisões finais devem sempre pertencer aos seres humanos.

A OCDE incentiva o desenvolvimento de tecnologias confiáveis e centradas no ser humano, com foco na transparência, segurança e respeito aos direitos humanos e valores democráticos. Essas diretrizes buscam promover a cooperação internacional e a harmonização entre diferentes jurisdições.

Por sua vez, a União Europeia estabelece um marco regulatório uniforme para o desenvolvimento e uso de novas tecnologias de IA, para que o seu uso seja benéfico para todos e para serem seguras, transparentes e respeitem os direitos fundamentais. A regulamentação da UE também adota uma abordagem baseada em riscos, classificando as tecnologias em diferentes níveis de risco e impondo requisitos específicos para cada categoria.

Ambas as regulamentações destacam a importância da supervisão humana e da responsabilidade com a utilização dessas tecnologias, buscando garantir o uso ético e benéfico da IA para toda a sociedade e reforçam o conceito de que a IA deve ser uma aliada para potencializar as capacidades humanas, sem jamais substituí-las ou comprometer a autonomia profissional.

Recomendações para o uso ético da IA

Com base nessas diretrizes, é recomendável que as empresas, não só as do setor de saúde, desde já estabeleçam diretrizes internas para o uso ético da IA enfatizando a transparência, a responsabilidade e o respeito à privacidade dos dados pessoais por elas tratados, sobretudo em se tratando de dados de saúde. Vale reforçar, também, que cabe à cada empresa avaliar o risco envolvido no compartilhamento de informações internas com as IAs (pagas ou gratuitas) disponíveis no mercado, de modo a desenhar suas Políticas com vistas a prevenir o compartilhamento indesejado de informações estratégicas e/ou confidenciais pelos seus colaboradores, fornecedores e parceiros de negócio. A ampla divulgação e o treinamento do público-alvo nessas Políticas serão decisivos para mitigar os riscos mapeados, além, por óbvio, de conscientizar a todos acerca dos prejuízos que podem acarretar o compartilhamento indiscriminado de dados pessoais e informações confidenciais com IAs.

Para o mercado de saúde, a integração da IA na saúde oferece oportunidades inéditas para aprimorar o cuidado ao paciente e otimizar processos. No entanto, é fundamental que essa incorporação seja realizada de maneira ética, preservando a autonomia dos profissionais e garantindo que as decisões reflitam os valores humanos. Somente assim poderemos usufruir dos benefícios da tecnologia sem, contudo, renunciar à essência do cuidado em saúde. O bem-estar e a segurança dos pacientes e dos profissionais de saúde que cuidam de todos nós devem estar sempre em primeiro lugar.

Por Daniele Lopes é vice-presidente Jurídica Regional para África, América Latina e Oriente Médio do Grupo BBraun.

Siga a Bússola nas redes: Instagram | Linkedin | Twitter | Facebook | Youtube