Normativas destinadas ao uso ético e seguro da inteligência artificial na saúde

Abstract

Digital transformation is rapidly impacting the healthcare sector, driven in particular by advances in artificial intelligence, a technology used in many areas, such as diagnosis, treatment, patient monitoring, and health systems management, which has been promoting gains in efficiency and precision for clinical decision-making. The incorporation of artificial intelligence into public healthcare contexts demands attention to ethical, legal, and governance aspects, as its use involves risks related to privacy, data security, and possible discriminatory biases. In light of this scenario, the World Health Organization and the Pan American Health Organization have developed, over the last decade, regulations aimed at ensuring the ethical and safe use of these technologies, based on principles such as transparency, equity, responsibility, data protection, privacy and security. In this article, the authors present a survey and analysis of key regulations issued by these organizations concerning the use of artificial intelligence in healthcare, with a focus on their  applicability to health systems in developing countries. Through a systematic documentary review, it was sought to identify the central elements of these guidelines, discuss their implications, and reflect on the challenges for their practical implementation. The analysis highlighted the importance of regulatory governance, the responsible use of sensitive data, and the prevention of bias in algorithms, as well as the need for a multi-stakeholder and collaborative approach involving governments, the private sector, academia, and civil society. Despite the existence of robust regulatory instruments, gaps remain in the practical adoption of these guidelines, especially in contexts with limited infrastructure. Strengthening national public policies, continuing to train healthcare professionals, and expanding the debate on the risks and benefits of artificial intelligence are seen as fundamental steps toward a safe, ethical, and equitable digital transformation in global health.A transformação digital impacta de forma acelerada o setor da saúde, impulsionada especialmente pelo avanço da inteligência artificial, tecnologia utilizada em diversas áreas, como diagnóstico, tratamento, monitoramento de pacientes e gestão de sistemas de saúde, que vem promovendo ganhos de eficiência e precisão para a decisão clínica. A incorporação da inteligência artificial em contextos de saúde pública demanda atenção a aspectos éticos, jurídicos e de governança, pois seu uso envolve riscos relacionados à privacidade, segurança de dados e possíveis vieses discriminatórios. Diante desse cenário, a Organização Mundial da Saúde e a Organização Pan-Americana da Saúde têm elaborado, na última década, normativas que visam a assegurar o uso ético e seguro dessas tecnologias, com base em princípios como transparência, equidade, responsabilidade, proteção de dados, privacidade e segurança. Este artigo realizou um levantamento e análise das principais normativas publicadas por esses organismos sobre o uso da inteligência artificial na saúde, com foco em sua aplicabilidade nos sistemas de saúde dos países em desenvolvimento. Por meio de uma revisão documental sistemática, buscou-se identificar os elementos centrais dessas diretrizes, discutir suas implicações e refletir sobre os desafios para sua implementação prática. A análise evidenciou a importância da governança regulatória, do uso responsável de dados sensíveis e da prevenção de vieses nos algoritmos, bem como a necessidade de uma abordagem multissetorial e colaborativa, envolvendo governos, setor privado, academia e sociedade civil. Apesar da existência de instrumentos normativos robustos, persistem lacunas na adoção prática dessas diretrizes, especialmente em contextos com infraestrutura limitada. O fortalecimento das políticas públicas nacionais, a capacitação contínua dos profissionais de saúde e a ampliação do debate sobre os riscos e benefícios da inteligência artificial são apontados como passos fundamentais para uma transformação digital segura, ética e equitativa no campo da saúde global.