Questão de Engenharia de Software — Inteligencia Artificial — FGV 2024
Engenharia de Software›Inteligencia Artificial
Código
fg079179
Banca
FGV
Órgão
Câmara dos Deputados
Ano
2024
Nível
Superior
Cargo
Analista Legislativo/Consultoria - Consultor Legislativo - Área XIV (Reaplicação)
Em relação ao potencial de discriminação ilícita ou abusiva em sistemas de Inteligência Artificial (IA), assinale a afirmação mais precisa.
ASistemas de IA são objetivos, imparciais e não realizam discriminações.
BA discriminação por sistemas de IA ocorre apenas quando há intenção explícita do programador.
CA IA pode inadvertidamente discriminar com base nos dados em que foi treinada.
DA legislação atual proíbe qualquer forma de IA que possa resultar em processos de discriminação, sejam eles de qualquer tipo.
EA discriminação em IA é um problema resolvido com tecnologias modernas de machine learning.
Revelar gabarito e comentário▾
GabaritoC — A IA pode inadvertidamente discriminar com base nos dados em que foi treinada.
Comentário gerado por IA. É um apoio ao estudo, ancorado em fontes, mas pode conter imprecisões — confira sempre na fonte oficial (lei, súmula, edital e gabarito da banca). Encontrou um erro? Use “Reportar”.
Discriminação em Sistemas de Inteligência Artificial
Gabarito: letra C. A afirmação mais precisa é que a IA pode inadvertidamente discriminar com base nos dados em que foi treinada. Isso ocorre porque algoritmos de aprendizado de máquina aprendem padrões a partir dos dados; se esses dados contiverem vieses históricos ou representações desequilibradas da população, o modelo reproduzirá e até amplificará discriminações, mesmo sem intenção do programador. As demais alternativas contêm erros conceituais: A nega a existência de viés; B restringe a discriminação à intenção; D exagera o alcance da legislação; e E afirma indevidamente que o problema está resolvido.
Discriminação em IA
1Causa principal
Dados de treinamento com vieses
Reprodução e amplificação de padrões
2Características
Pode ser inadvertida (sem intenção)
Desafio contínuo (não resolvido)
3Regulamentação
Em desenvolvimento (ex.: EU AI Act)
Sem proibição absoluta
LEVEL · soulevel.com.br
Alternativa A — ❌ Incorreta
Afirma que sistemas de IA são objetivos e não discriminam. Na prática, os modelos podem herdar e perpetuar vieses presentes nos dados de treinamento, gerando discriminação indireta. A imparcialidade não é garantida pela tecnologia.
Alternativa B — ❌ Incorreta
Sustenta que a discriminação só ocorre com intenção explícita do programador. Ignora casos de discriminação não intencional, como quando um algoritmo de recrutamento treinado com dados históricos de contratações reproduz preferências discriminatórias existentes.
Alternativa C — ✅ Correta ⟵ GABARITO
Reconhece que a IA pode inadvertidamente discriminar com base nos dados de treinamento. Esse é o entendimento mais aceito na comunidade técnica e acadêmica, sendo objeto de regulamentações emergentes (ex.: EU AI Act) e diretrizes éticas.
Alternativa D — ❌ Incorreta
Alega que a legislação atual proíbe qualquer forma de IA que possa resultar em discriminação. Embora existam normas de proteção contra discriminação, não há proibição absoluta de sistemas de IA, e a regulamentação ainda está em desenvolvimento.
Alternativa E — ❌ Incorreta
Afirma que a discriminação em IA é um problema resolvido com tecnologias modernas. Na realidade, mitigar vieses é um desafio contínuo e ativo de pesquisa, sem soluções definitivas.
NÃO CAIA NESSA!
A banca explora a crença comum de que máquinas são neutras (alternativa A) e de que apenas a intenção humana gera discriminação (B). O candidato deve lembrar que vieses emergem dos dados, independentemente da intenção.