Pular para o conteúdo principal

Questão de Engenharia de Software — Inteligencia Artificial — FGV 2024

Engenharia de SoftwareInteligencia Artificial
Código
fg097485
Banca
FGV
Órgão
TCE-PA
Ano
2024
Nível
Superior
Cargo
Auditor de Controle Externo - Área de Informática - Analista de Sistemas
As arquiteturas de modelos de linguagem de larga escala (Large Language Models – LLM) surgiram recentemente, revolucionando a área de inteligência artificial nas áreas de processamento e geração de texto. A arquitetura desses modelos baseia-se, majoritariamente, nas redes neurais do tipo transformers.Relacione as arquiteturas a seguir as suas características principais.1. BERT2. GPT3. T5( ) Utiliza decoders das redes transformer para prever novos tokens a partir de uma sequência, tornando-se ideal para a geração de textos.( ) Utiliza encoders das redes transformer para "entender" o contexto de frases, tornando-se ideal para classificação de textos.( ) Utiliza encoders e decoders das redes transformer, sendo adaptável a situações em que seja necessário gerar novos textos ou processar textos para "entender" o contexto das frases.( ) Em comparação com as outras arquiteturas, tem menor necessidade de fine-tuning para melhora de performance.A relação correta, na ordem apresentada, é
  1. A1 – 3 – 2 – 2.
  2. B2 – 3 – 1 – 3.
  3. C3 – 2 – 1 – 2.
  4. D3 – 1 – 2 – 2.
  5. E2 – 1 – 3 – 3.
Revelar gabarito e comentário

GabaritoE — 2 – 1 – 3 – 3.

Comentário gerado por IA. É um apoio ao estudo, ancorado em fontes, mas pode conter imprecisões — confira sempre na fonte oficial (lei, súmula, edital e gabarito da banca). Encontrou um erro? Use “Reportar”.

Arquiteturas de Transformers em LLMs

Gabarito: letra E. A sequência correta é 2 – 1 – 3 – 3, ou seja: GPT (geração), BERT (classificação), T5 (ambos) e T5 (menor necessidade de fine-tuning). A primeira característica descreve o uso exclusivo de decoders, típico do GPT; a segunda descreve o uso de encoders, típico do BERT; a terceira descreve o uso combinado de encoder e decoder, característico do T5. A quarta característica, sobre menor necessidade de fine-tuning, também se aplica ao T5, que, por sua arquitetura text-to-text, pode ser adaptado a novas tarefas com menos ajustes específicos do que BERT e GPT.

1GPT
Decoder
Geração de texto
2BERT
Encoder
Classificação / entendimento
3T5
Encoder + Decoder
Ambos (geração e entendimento)
Menor necessidade de fine-tuning
Arquiteturas Transformer
LEVELsoulevel.com.br
Arquiteturas Transformer: GPT (Decoder, Geração de texto); BERT (Encoder, Classificação / entendimento); T5 (Encoder + Decoder, Ambos (geração e entendimento), Menor necessidade de fine-tuning)

Análise das alternativas

  • Alternativa A (1 – 3 – 2 – 2): Incorreta. O primeiro espaço deve ser GPT (2), não BERT (1).

  • Alternativa B (2 – 3 – 1 – 3): Incorreta. O segundo espaço deve ser BERT (1), não T5 (3).

  • Alternativa C (3 – 2 – 1 – 2): Incorreta. O primeiro espaço deve ser GPT (2), não T5 (3).

  • Alternativa D (3 – 1 – 2 – 2): Incorreta. O primeiro espaço deve ser GPT (2), não T5 (3).

  • Alternativa E (2 – 1 – 3 – 3): Correta. Única que combina GPT (geração), BERT (classificação), T5 (ambos) e T5 (menor fine-tuning).

PEGA ESSA DICA!

Lembre: GPT → decoder (gera), BERT → encoder (entende), T5 → encoder+decoder (ambos). O T5 também é conhecido por sua flexibilidade com fine-tuning reduzido.

Gabarito: letra E

Link permanente: /questoes/fg097485