Pular para o conteúdo principal

Questão de Engenharia de Software — Inteligencia Artificial — FGV 2024

Engenharia de SoftwareInteligencia Artificial
Código
fg077329
Banca
FGV
Órgão
CVM
Ano
2024
Nível
Superior
Cargo
Analista - Perfil 7 - Ciência de Dados - Tarde
Considere uma estrutura específica de rede neural recorrente, conhecida como Long Short-Term Memory (LSTM). Essa estrutura é projetada para enfrentar desafios como capturar dependências de longo prazo e mitigar o problema do gradiente que desaparece.A inovação arquitetônica distintiva da LSTM é(são):
  1. Ao recorte de gradiente;
  2. Bas células de memória com mecanismos de gating;
  3. Cos mecanismos de atenção;
  4. Das conexões de salto;
  5. Eas camadas de Max-pooling.
Revelar gabarito e comentário

GabaritoB — as células de memória com mecanismos de gating;

Comentário gerado por IA. É um apoio ao estudo, ancorado em fontes, mas pode conter imprecisões — confira sempre na fonte oficial (lei, súmula, edital e gabarito da banca). Encontrou um erro? Use “Reportar”.

Long Short-Term Memory (LSTM) - Inovação Arquitetônica

Gabarito: letra B. A inovação arquitetônica distintiva da LSTM são as células de memória com mecanismos de gating (portas de esquecimento, entrada e saída), que controlam o fluxo de informação e permitem capturar dependências de longo prazo, mitigando o problema do gradiente que desaparece.

A questão testa o conhecimento sobre a arquitetura fundamental das LSTMs, diferenciando-a de técnicas genéricas de treinamento (gradient clipping) e de outras arquiteturas (atenção, skip connections, max-pooling).

Alternativa

Descrição

É a inovação arquitetônica da LSTM?

Justificativa

A

Recorte de gradiente (gradient clipping)

❌ Não

Técnica de treinamento para evitar gradiente explosivo, não faz parte da arquitetura LSTM.

B

Células de memória com mecanismos de gating

✅ Sim

Inovação central da LSTM: portas (esquecimento, entrada, saída) controlam o fluxo de informação e mitigam o gradiente que desaparece.

C

Mecanismos de atenção

❌ Não

Inovação posterior (Transformers), não presente na arquitetura LSTM.

D

Conexões de salto (skip connections)

❌ Não

Característica de redes residuais (ResNet), não da LSTM.

E

Camadas de Max-pooling

❌ Não

Comum em CNNs para redução de dimensionalidade, não em redes recorrentes.

LSTM: inovação arquitetônica
  • 1Célula de memória (cell state)
    • Porta de esquecimento (forget gate)
    • Porta de entrada (input gate)
    • Porta de saída (output gate)
  • 2Problema resolvido
    • Gradiente que desaparece
    • Dependências de longo prazo
  • 3Não é
    • Gradient clipping (técnica de treino)
    • Atenção (Transformer)
    • Skip connections (ResNet)
    • Max-pooling (CNN)
LEVEL · soulevel.com.br

Alternativa A — ❌ Incorreta

O recorte de gradiente (gradient clipping) é uma técnica de treinamento usada para evitar o gradiente explosivo, mas não é a inovação arquitetônica da LSTM. A LSTM lida com o gradiente que desaparece através de sua estrutura de portas e célula de memória, não por clipping.

Alternativa B — ✅ Correta ⟵ GABARITO

A LSTM introduz células de memória (cell state) e mecanismos de gating (forget gate, input gate, output gate) que regulam o fluxo de informação ao longo do tempo. Essa arquitetura permite reter ou descartar seletivamente informações, solucionando o problema do gradiente que desaparece das RNNs tradicionais.

Alternativa C — ❌ Incorreta

Os mecanismos de atenção (attention) são uma inovação posterior, popularizada pelo Transformer, e não fazem parte da arquitetura LSTM. LSTM usa gates, não atenção.

Alternativa D — ❌ Incorreta

Conexões de salto (skip connections) são usadas em redes residuais (ResNet) para evitar degradação em redes profundas, não na LSTM. A LSTM tem conexões recorrentes e portas, não conexões diretas entre camadas não adjacentes.

Alternativa E — ❌ Incorreta

Camadas de Max-pooling são comuns em redes neurais convolucionais (CNNs) para redução de dimensionalidade, não em redes recorrentes como a LSTM.

NÃO CAIA NESSA!

Memorize que a célula de memória com portas (gates) é a marca registrada da LSTM. Não confunda com técnicas auxiliares (gradient clipping) ou com inovações de outras arquiteturas (atenção, skip connections, pooling).

Link permanente: /questoes/fg077329