A avaliação dos riscos de um sistema de inteligência artificial antes e durante o seu uso.
Relatório de impacto algorítmico é o documento que descreve um sistema de inteligência artificial, a sua finalidade, os dados usados, os riscos para pessoas e grupos, as medidas de mitigação e a forma de supervisão humana, elaborado antes de colocar o sistema em uso e revisado ao longo do seu ciclo de vida.
É o equivalente, para sistemas de IA, do RIPD para o tratamento de dados pessoais. Os dois documentos se complementam: o RIPD olha para os dados e o relatório algorítmico olha para a decisão, o viés e o impacto social.
O PL 2338/2023, em tramitação no Congresso Nacional, prevê a avaliação de impacto algorítmico como obrigação para sistemas de alto risco. O AI Act europeu exige dos implantadores de sistemas de alto risco uma avaliação de impacto sobre direitos fundamentais (art. 27) e, dos fornecedores, um sistema de gestão de riscos (art. 9). A LGPD se conecta ao tema pelo art. 20 (decisões automatizadas) e pelo art. 38 (relatório de impacto).
O módulo de Governança de IA mantém o inventário dos sistemas de IA e os Diagnósticos e Avaliações aplicam o modelo de avaliação de impacto algorítmico, com base no PL 2338/2023, no AI Act, na ISO/IEC 42001 e no NIST AI RMF.
Decisão automatizada · AI Act · PL 2338/2023 · RIPD · Voltar ao glossário
Atualizado em .
Solicite uma demonstração e veja como a Privacy Tools organiza o mapeamento, as bases legais, os pedidos de titulares e as evidências em um só lugar.
