Large Language Models – Fine-tuning
Gabarito: letra D. Para adaptar um modelo pré-treinado (como o BERTimbau) a tarefas e domínios específicos, a técnica correta é o fine-tuning (ajuste fino), que consiste em continuar o treinamento do modelo com dados do domínio alvo, preservando o conhecimento geral e especializando-o.
Alternativa A – ❌ Incorreta
Overfitting é um problema onde o modelo decora os dados de treino e não generaliza. Não é uma técnica para adaptar o modelo, e sim um erro a ser evitado.
Alternativa B – ❌ Incorreta
Regression é um tipo de tarefa de aprendizado supervisionado (prever valores contínuos). Não se aplica ao ajuste de um LLM pré-treinado.
Alternativa C – ❌ Incorreta
Discretization é uma técnica de pré-processamento de dados (transformar variáveis contínuas em categóricas). Não é usada para adaptar modelos de linguagem.
Alternativa D – ✅ Correta ⟵ GABARITO
Fine-tuning é o processo de pegar um modelo pré-treinado e treiná-lo adicionalmente em um conjunto de dados específico, ajustando seus pesos para se especializar em tarefas do domínio desejado. É a abordagem padrão para transferência de aprendizado em PLN.
Alternativa E – ❌ Incorreta
Feature engineering é a criação manual de atributos a partir dos dados. Em LLMs, as representações (embeddings) são aprendidas automaticamente; feature engineering não é a técnica de adaptação do modelo.
Gabarito: letra D.