Pular para o conteúdo principal

Questão de Engenharia de Software — Inteligencia Artificial — CESPE / CEBRASPE 2026

Engenharia de SoftwareInteligencia Artificial
Código
ce229758
Banca
CESPE / CEBRASPE
Órgão
TCU
Ano
2026
Nível
Superior
Cargo
Auditor Federal de Controle Externo - Área de Controle Externo/ Orientação: Auditoria de Tecnologia da Informação
        Segundo relatório da McKinsey de 2024, 78% das organizações entrevistadas afirmam já usar IA em pelo menos uma função de negócio.

         Apesar do entusiasmo, essa inserção de tecnologia disruptiva implica sérios riscos, como imprecisão dos resultados, quebra de privacidade e violação de propriedade intelectual. Esses riscos são tão evidentes que, segundo o mesmo estudo, cerca de 27% dos entrevistados afirmam que 100% dos resultados da IA generativa são revisados por humanos antes do uso. Ainda, o relatório aponta que não há uma propensão a abordar riscos relacionados à precisão ou explicabilidade dos resultados da IA.

Ivette Luna. Da predição à compreensão: o papel da explicabilidade na implementação
de IA em políticas públicas. In: Jornal da UNICAMP, 29 de setembro de 2025.
Internet:<jornal.unicamp.br>  (com adaptações).  
No que se refere a ética, transparência e responsabilidade no uso de IA, julgue o próximo item.Explicabilidade e interpretabilidade tratam do desafio de entender como os modelos de aprendizado de máquina funcionam, devido especialmente à natureza de “caixa-preta” de muitos modelos, que pode tornar difícil ou impossível a capacidade de explicar uma previsão ou decisão.
  1. CCerto
  2. EErrado
Revelar gabarito e comentário

GabaritoC — Certo

Comentário gerado por IA. É um apoio ao estudo, ancorado em fontes, mas pode conter imprecisões — confira sempre na fonte oficial (lei, súmula, edital e gabarito da banca). Encontrou um erro? Use “Reportar”.

Explicabilidade e interpretabilidade em IA

✅ CERTO. O item descreve corretamente o desafio central da explicabilidade e interpretabilidade em modelos de aprendizado de máquina. A natureza de "caixa-preta" de muitos modelos (como redes neurais profundas) torna difícil ou impossível compreender como as decisões são tomadas, o que compromete a transparência e a confiança no uso da IA. O texto-base do relatório da McKinsey inclusive menciona que não há propensão a abordar riscos relacionados à explicabilidade, reforçando a relevância do tema.

Explicabilidade refere-se à capacidade de fornecer explicações compreensíveis para as decisões do modelo, enquanto interpretabilidade é o grau em que um ser humano pode entender o funcionamento interno do modelo. Ambas são fundamentais para a ética e responsabilidade no uso de IA, especialmente em áreas como políticas públicas, saúde e justiça.

PEGA ESSA DICA!

Na prova, lembre-se de que interpretabilidade é a capacidade de entender o modelo (ex.: pesos de uma regressão linear), enquanto explicabilidade é a capacidade de gerar explicações pontuais (ex.: LIME, SHAP). A distinção é sutil, mas cobrada.

✅ CERTO.

Link permanente: /questoes/ce229758