Questão de Engenharia de Software — Inteligencia Artificial — CESPE / CEBRASPE 2024
Engenharia de Software›Inteligencia Artificial
Código
ce167455
Banca
CESPE / CEBRASPE
Órgão
ANTT
Ano
2024
Nível
Superior
Cargo
Especialista em Regulação de Serviços de Transportes Terrestres - Conhecimentos Específicos
A respeito de redes neurais artificiais, redes neurais convolucionais e processamento de linguagem natural, julgue o item a seguir.Umas das principais diferenças entre o backpropagation e o SGD (stochastic gradient descent) é a forma como os pesos são atualizados, visto que o SGD utiliza o gradiente calculado para todos os dados de treinamento, ao passo que o backpropagation usa o gradiente calculado apenas para um mini-batch de dados de treinamento.
CCerto
EErrado
Revelar gabarito e comentário▾
GabaritoE — Errado
Comentário gerado por IA. É um apoio ao estudo, ancorado em fontes, mas pode conter imprecisões — confira sempre na fonte oficial (lei, súmula, edital e gabarito da banca). Encontrou um erro? Use “Reportar”.
Redes Neurais: Backpropagation e SGD
Gabarito: Errado (letra E). A afirmação inverte os conceitos: o backpropagation é o algoritmo que calcula o gradiente da função de perda em relação aos pesos, utilizando a regra da cadeia, e não define o tamanho do lote de dados. Já o Stochastic Gradient Descent (SGD) é uma variante do gradiente descendente que atualiza os pesos com base no gradiente calculado sobre um único exemplo ou um mini-batch (lote pequeno) — não sobre todos os dados. Portanto, a descrição está incorreta.
O algoritmo de backpropagation, conforme descrito no conteúdo de apoio, consiste em duas fases: a propagação para frente (forward pass), onde as entradas são passadas pela rede para obter as saídas, e a retropropagação (backward pass), onde o gradiente da função de perda é calculado e usado para atualizar os pesos recursivamente. O backpropagation não especifica se o gradiente é calculado sobre todos os dados ou sobre um subconjunto; ele é o mecanismo de cálculo do gradiente que pode ser usado com qualquer estratégia de gradiente descendente (batch, mini-batch ou SGD).
Por outro lado, o SGD (gradiente descendente estocástico) é definido justamente por usar um único exemplo de treinamento por iteração (ou, em versões modernas, um mini-batch) para calcular o gradiente e atualizar os pesos. Quando se utiliza todos os dados para calcular o gradiente, chama-se Batch Gradient Descent (gradiente descendente em lote). A afirmação do enunciado troca os papéis: atribui ao SGD o uso de todos os dados (que é o batch) e ao backpropagation o uso de mini-batch (que é característica do mini-batch SGD, não do backpropagation em si).
NÃO CAIA NESSA!
A banca inverte os conceitos: backpropagation é o método de cálculo do gradiente, enquanto SGD é uma estratégia de atualização que tipicamente usa um exemplo ou mini-batch. Não confunda: backpropagation não define o tamanho do lote; ele é usado tanto no batch, mini-batch quanto no SGD.