Questão de Governança de TI — Auditoria de TI — TJ-PI 2025
Governança de TIAuditoria de TI
- Código
- qg614918
- Banca
- TJ-PI
- Órgão
- TJ-PI
- Ano
- 2025
- Nível
- Superior
- Cargo
- Residente Tecnológico
O TJPI está considerando a implementação de um sistema de IA para auxiliar na análise de risco de reincidência criminal em processos de execução penal, com o objetivo de subsidiar decisões sobrea concessão de benefícios. O modelo foi treinado com dados históricos do sistema penal piauiense. Durante a fase de auditoria, um especialista em ética em IA levanta uma preocupação: o modelo pode estar perpetuando vieses históricos presentes nos dados, atribuindo pontuações de risco sistematicamente mais altas para réus de determinados perfis socioeconômicos, mesmo controlando pelas variáveis legais pertinentes. Qual das seguintes ações representa a resposta mais responsável e tecnicamente adequada para mitigar esse risco de viés algorítmico?
- AImplementar o modelo em produção, mas com um aviso na interface informando ao magistrado que o resultado é apenas uma sugestão e que o sistema pode conter vieses.
- BDescartar completamente o uso de IA para essa finalidade, pois qualquer modelo de aprendizado de máquina treinado em dados sociais será inerentemente enviesado e seu uso é eticamente indefensável.
- CAplicar técnicas de mitigação de viés, como reponderação dos dados de treinamento para dar mais peso a grupos sub-representados, e ajustar o modelo para otimizar uma métrica de justiça (fairness), como a "igualdade de oportunidade" (equal opportunity), que busca garantir que as taxas de verdadeiros positivos sejam similares entre os diferentes grupos demográficos.
- DAnonimizar os dados demográficos (como raça e bairro de residência) do conjunto de treinamento, pois a remoção dessas "variáveis protegidas" garante que o modelo não possa aprender e replicar vieses associados a elas.
- EContratar uma equipe de psicólogos para revisar manualmente cada previsão do modelo antes de apresentá-la ao magistrado, transferindo a responsabilidade da decisão final para a análise humana.