AS AVALIAÇÕES DE IMPACTO COMO INSTRUMENTOS DE INTELIGIBILIDADE ALGORÍTMICA E GARANTIA DE DIREITOS FUNDAMENTAIS NA REGULAÇÃO DE INTELIGÊNCIA ARTIFICIAL

Abstract

No contexto da discussão acerca da ética aplicada ao uso de sistemas de inteligência artificial, destaca-se a necessidade de transparência no processo decisório que envolva ou afete a vida humana. Tais algoritmos de aprendizado apresentam um potencial discriminatório que afeta diretamente direitos fundamentais, de forma que há uma movimentação de diversos atores para definição de parâmetros inerentes a uma IA responsável. O presente estudo parte dessa premissa para buscar fornecer subsídios à aplicação prática da transparência em sistema de IA, a partir da contextualização do conceito de inteligibilidade nos instrumentos de avaliação de impacto dessas tecnologias e de processos que envolvam dados pessoais. Para tanto, o presente estudo valeu-se da metodologia de revisão de literatura, a partir de pesquisa bibliográfica de abordagem qualitativa, para: contextualizar a discussão acerca sobre vetores éticos da IA ao panorama sobre discriminação algorítmica; abordar a conceituação de opacidade, transparência, inteligibilidade e explicabilidade, fazendo correlação com o movimento de IA Explicável; e analisar a estrutura dos instrumentos de avaliação de impacto para correlacioná-los à proteção de direitos fundamentais. Obteve-se como resultado principal que o conceito de explicabilidade como a interface entre sistema inteligente e ser humano, para ser atrelado a um instrumento de avaliação de impacto, precisa partir da premissa de que há uma gama de abordagens interativas, o que se convenciona denominar de multicamadas, viabilizando uma governança social dos algoritmos e promovendo direitos fundamentais no contexto tecnológico.