Questão de Engenharia de Software — Inteligencia Artificial — CESPE / CEBRASPE 2024
Engenharia de Software›Inteligencia Artificial
Código
ce175986
Banca
CESPE / CEBRASPE
Órgão
LNA
Ano
2024
Nível
Superior
Cargo
Tecnologista – Especialidade: Desenvolvimento e Arquitetura de Software
O modelo transformer tem revolucionado a área de inteligência artificial (IA), permitindo uma mudança de paradigma em como a IA pode ser utilizada pela humanidade. Recentemente, a comunidade científica considerou o modelo transformer, seja para textos ou imagens, como um modelo de fundação (foundation model). Em relação ao modelo em questão, assinale a opção correta.
AModelos transformers não são capazes de realizar reconhecimento de entidades nomeadas em textos.
BModelos transformers não são capazes de realizar a tarefa de resposta a perguntas feitas por texto.
CO modelo transformer consiste em uma rede neural residual.
DA principal característica do modelo transformer é a ausência da camada de atenção.
ENo processamento de linguagem natural, modelos transformers são utilizados para realizar tarefas tipo sequence-to-sequence (seq2seq) em textos.
Revelar gabarito e comentário▾
GabaritoE — No processamento de linguagem natural, modelos transformers são utilizados para realizar tarefas tipo sequence-to-sequence (seq2seq) em textos.
Comentário gerado por IA. É um apoio ao estudo, ancorado em fontes, mas pode conter imprecisões — confira sempre na fonte oficial (lei, súmula, edital e gabarito da banca). Encontrou um erro? Use “Reportar”.
Modelo Transformer em Inteligência Artificial
Gabarito: letra E. O Transformer é uma arquitetura de rede neural baseada em mecanismos de atenção, amplamente utilizada em tarefas de sequência-a-sequência (seq2seq) no processamento de linguagem natural (PLN), como tradução, sumarização e geração de texto. As demais alternativas contêm afirmações falsas sobre as capacidades ou características do modelo.
Conforme o material de apoio sobre Inteligência Artificial, o Transformer é descrito como "Arquitetura de rede neural que permite lidar com sequências de dados, como textos, com alta eficiência. Base dos LLMs." Essa base possibilita justamente as tarefas seq2seq.
Alternativa
Afirmação sobre o Modelo Transformer
Correção
Justificativa
A
Não é capaz de realizar reconhecimento de entidades nomeadas (NER).
❌ Incorreta
Modelos como BERT (baseados em Transformer) são estado da arte em NER.
B
Não é capaz de realizar tarefa de resposta a perguntas (QA).
❌ Incorreta
Transformers (ex.: BERT, GPT) são amplamente usados em QA.
C
Consiste em uma rede neural residual.
❌ Incorreta
O elemento central é o mecanismo de atenção; conexões residuais são um componente, não a definição.
D
A principal característica é a ausência da camada de atenção.
❌ Incorreta
A principal característica é justamente a presença da camada de atenção (self-attention).
E
É utilizado para tarefas sequence-to-sequence (seq2seq) em textos.
✅ Correta
Modelos como T5, BART e GPT realizam tarefas seq2seq (tradução, sumarização, geração).
Alternativa A — ❌ Incorreta
Modelos Transformers são perfeitamente capazes de realizar reconhecimento de entidades nomeadas (NER). Modelos como BERT e seus derivados, construídos sobre a arquitetura Transformer, são estado da arte em NER.
Alternativa B — ❌ Incorreta
Transformers são amplamente empregados em tarefas de resposta a perguntas (question answering). Exemplos clássicos incluem o BERT (fine-tuning para QA) e modelos generativos como GPT, que respondem perguntas de forma textual.
Alternativa C — ❌ Incorreta
Embora o Transformer utilize conexões residuais em sua estrutura, ele não pode ser resumido como uma "rede neural residual". O elemento central e inovador é o mecanismo de atenção (self-attention), que permite capturar dependências de longo alcance. Redes residuais são um tipo específico (como ResNet), enquanto o Transformer é uma arquitetura própria que incorpora atenção e feed-forward com resíduos.
Alternativa D — ❌ Incorreta
A principal característica do Transformer é justamente a presença da camada de atenção, e não sua ausência. O mecanismo de atenção multi-cabeça (multi-head attention) é o coração do modelo, permitindo processar sequências em paralelo com eficácia.
Alternativa E — ✅ Correta ⟵ GABARITO
No processamento de linguagem natural, os Transformers são de fato utilizados para tarefas do tipo seq2seq. Modelos como o T5, BART e até mesmo GPT (que pode ser visto como um decodificador seq2seq) realizam tarefas de tradução, sumarização, paráfrase, entre outras, mapeando uma sequência de entrada para uma sequência de saída. A arquitetura Transformer foi originalmente proposta para tradução automática (seq2seq) e desde então domina o campo.
PEGA ESSA DICA!
Lembre-se: a grande inovação do Transformer é a atenção, e não as conexões residuais. Além disso, ele é a base dos LLMs modernos e essencial para tarefas seq2seq. Na prova, desconfie de alternativas que negam capacidades comprovadas (como NER ou QA) ou que invertem o papel da atenção.