Pular para o conteúdo principal

Questão de Segurança da Informação — Ataques e ameaças — FGV 2025

Segurança da InformaçãoAtaques e ameaças
Código
fg106600
Banca
FGV
Órgão
CGE-SP
Ano
2025
Nível
Superior
Cargo
Auditor Estadual de Controle - Tecnologia da Informação - tarde
No contexto da segurança de sistemas de Inteligência Artificial, diversas técnicas de ataque e defesa foram desenvolvidas para lidar com vulnerabilidades específicas de modelos de Machine Learning.

Relacione os tipos de ataques e técnicas de segurança em IA apresentados a seguir, às suas respectivas características.


1. Adversarial Evasion Attack
2. Model Poisoning Attack
3. Model Extraction Attack
4. Adversarial Training


( ) Técnica defensiva que consiste em treinar o modelo utilizando exemplos adversariais junto com dados legítimos para aumentar a robustez do sistema contra perturbações maliciosas.


( ) Ataque realizado durante a fase de inferência, no qual entradas são sutilmente modificadas para induzir o modelo a classificações incorretas, mantendo-se imperceptíveis ao usuário humano.


( ) Ataque executado na fase de treinamento, no qual dados maliciosos são injetados no conjunto de dados de treinamento para comprometer o comportamento do modelo resultante.


( ) Ataque que visa replicar a funcionalidade de um modelo proprietário através de consultas sistemáticas, permitindo ao atacante obter uma cópia funcional sem acesso direto aos parâmetros originais.



Assinale a opção que indica a relação correta, segundo a ordem apresentada.
  1. A1 – 3 – 2 – 4.
  2. B2 – 4 – 3 – 1.
  3. C3 – 2 – 4 – 1.
  4. D4 – 1 – 2 – 3.
  5. E4 – 3 – 1 – 2.
Revelar gabarito e comentário

GabaritoD — 4 – 1 – 2 – 3.

Comentário gerado por IA. É um apoio ao estudo, ancorado em fontes, mas pode conter imprecisões — confira sempre na fonte oficial (lei, súmula, edital e gabarito da banca). Encontrou um erro? Use “Reportar”.

Ataques e técnicas de segurança em IA

Gabarito: letra D. A relação correta, na ordem apresentada, é: 4 (Adversarial Training) – 1 (Adversarial Evasion Attack) – 2 (Model Poisoning Attack) – 3 (Model Extraction Attack). Cada item corresponde a uma descrição específica no âmbito da segurança de modelos de machine learning, conforme detalhado a seguir.

A questão pede a associação entre tipos de ataques/técnicas e suas características. A sequência correta é obtida identificando a fase do ciclo de vida do modelo e o objetivo de cada item:

  • Adversarial Training (4) é uma técnica defensiva que insere exemplos adversariais durante o treinamento para tornar o modelo mais robusto.

  • Adversarial Evasion Attack (1) ocorre na inferência: entradas modificadas imperceptivelmente induzem erros.

  • Model Poisoning Attack (2) compromete o treinamento ao injetar dados maliciosos.

  • Model Extraction Attack (3) visa copiar a funcionalidade do modelo por consultas, sem acesso direto aos parâmetros.

Ataques e defesas em IA
  • 1Fase de treinamento
    • Model Poisoning Attack
      • Injeção de dados maliciosos
    • Adversarial Training
      • Técnica defensiva
      • Treina com exemplos adversariais
  • 2Fase de inferência
    • Adversarial Evasion Attack
      • Entradas sutilmente modificadas
      • Induz classificação incorreta
    • Model Extraction Attack
      • Copia funcionalidade por consultas
      • Sem acesso direto aos parâmetros
LEVEL · soulevel.com.br

Alternativa A — ❌ Incorreta

A ordem 1 – 3 – 2 – 4 não corresponde: coloca Adversarial Evasion Attack como técnica defensiva e troca as demais posições.

Alternativa B — ❌ Incorreta

A ordem 2 – 4 – 3 – 1 inverte várias relações: Model Poisoning Attack não é treinamento defensivo, etc.

Alternativa C — ❌ Incorreta

A ordem 3 – 2 – 4 – 1 desloca Model Extraction Attack para primeiro lugar, o que não se encaixa.

Alternativa D — ✅ Correta ⟵ GABARITO

A ordem 4 – 1 – 2 – 3 espelha exatamente as definições dadas no enunciado, como demonstrado acima.

Alternativa E — ❌ Incorreta

A ordem 4 – 3 – 1 – 2 troca Adversarial Evasion Attack e Model Poisoning Attack.

PEGA ESSA DICA!

Para questões de segurança em IA, lembre-se da fase: treinamento (poisoning, adversarial training) vs. inferência (evasion, extraction). Essa clivagem ajuda a organizar o raciocínio.

Gabarito: letra D.

Link permanente: /questoes/fg106600