Arquitetura Transformer e o ChatGPT
Gabarito: letra E. Modelos como o ChatGPT são baseados na arquitetura Transformer, que utiliza mecanismos de atenção para processar e gerar texto de forma eficiente. As demais alternativas referem-se a técnicas de aprendizado de máquina ou bancos de dados que não são a tecnologia central desses modelos de linguagem.
A questão exige conhecimento sobre a tecnologia subjacente aos modelos de linguagem de grande escala (LLMs). O artigo de apoio menciona "modelos baseados em bilhões de parâmetros, como o GPT-3" e "Transformers e mecanismos de Atenção" como parte do salto tecnológico, corroborando a resposta.
Alternativa A — ❌ Incorreta
Árvores de decisão são modelos de aprendizado de máquina usados para classificação e regressão, mas não são a base do ChatGPT, que utiliza uma arquitetura neural baseada em Transformers.
Alternativa B — ❌ Incorreta
Bancos de dados relacionais são sistemas de armazenamento e consulta de dados, não uma tecnologia de geração de texto. O ChatGPT não é baseado em bancos de dados, mas em redes neurais.
Alternativa C — ❌ Incorreta
Regressão logística é um algoritmo de classificação binária, não adequado para geração de texto sequencial como feito pelo ChatGPT.
Alternativa D — ❌ Incorreta
Algoritmos de clustering são técnicas de aprendizado não supervisionado para agrupar dados, não para gerar texto. O ChatGPT utiliza aprendizado supervisionado e por reforço, além da arquitetura Transformer.
Alternativa E — ✅ Correta ⟵ GABARITO
A arquitetura Transformer, introduzida no artigo "Attention is All You Need" (Vaswani et al., 2017), é a base dos modelos GPT (Generative Pre-trained Transformer). Ela utiliza mecanismos de atenção para capturar dependências de longo alcance no texto, permitindo a geração coerente e contextualizada. O ChatGPT é uma implementação dessa arquitetura.
Gabarito: letra E.