Questão de Estatística — Processos estocásticos — FGV 2025

Algoritmos MCMC: Gibbs Sampling e Metropolis-Hastings

Gabarito: letra B. O amostrador de Gibbs é corretamente descrito como o algoritmo utilizado quando as distribuições condicionais completas são conhecidas e amostráveis a cada iteração — essa é a definição canônica do método. As demais alternativas invertem as características dos dois algoritmos ou atribuem propriedades que nenhum deles possui.

Os algoritmos de Monte Carlo via Cadeias de Markov (MCMC) são ferramentas centrais na inferência bayesiana, usados para gerar amostras da distribuição a posteriori quando esta não pode ser obtida analiticamente. A ideia fundamental é construir uma cadeia de Markov cuja distribuição estacionária seja exatamente a distribuição alvo (a posteriori). Dois dos algoritmos mais conhecidos dessa classe são o Gibbs Sampling e o Metropolis-Hastings.

Gibbs Sampling é um caso especial de MCMC que amostra cada parâmetro (ou bloco de parâmetros) diretamente de sua distribuição condicional completa, dado os valores atuais dos demais parâmetros. Para que seja aplicável, é necessário que essas condicionais completas sejam conhecidas e fáceis de amostrar. A cada iteração, o algoritmo percorre todos os parâmetros, atualizando um por vez, e as amostras geradas formam uma cadeia de Markov que converge para a distribuição conjunta alvo.

Metropolis-Hastings é um algoritmo mais geral, que não exige o conhecimento das condicionais completas. Ele funciona por um mecanismo de proposta e aceitação/rejeição: a partir do estado atual, propõe-se um novo valor segundo uma distribuição de proposta; esse valor é aceito com uma probabilidade que depende da razão entre as densidades da distribuição alvo nos dois pontos (e da assimetria da proposta). Se rejeitado, o estado permanece o mesmo. Isso permite amostrar de distribuições complexas, mesmo quando a constante de normalização é desconhecida.

A relação entre os dois é que o Gibbs pode ser visto como um caso particular do Metropolis-Hastings, em que a proposta é sempre aceita (probabilidade de aceitação igual a 1). Ambos geram amostras correlacionadas (não independentes), pois cada nova amostra depende do estado anterior da cadeia. Além disso, eles podem ser combinados em um mesmo procedimento (por exemplo, usar Gibbs para alguns parâmetros e Metropolis-Hastings para outros), o que é comum em modelos hierárquicos complexos.

A pegadinha central da questão é a inversão das propriedades: a banca troca o mecanismo de aceitação/rejeição (que é do Metropolis-Hastings) com a amostragem direta das condicionais (que é do Gibbs), e ainda atribui independência às amostras, quando na verdade são dependentes.

Alternativa A — ❌ Incorreta

Inverte as características dos dois algoritmos. O Metropolis-Hastings é que se baseia em aceitação/rejeição de propostas, e não exige amostragem exata de cada parâmetro. Já o Gibbs amostra diretamente das condicionais completas, sem etapa de aceitação/rejeição. A alternativa troca os papéis.

Alternativa B — ✅ Correta ⟵ GABARITO

Descreve com precisão o amostrador de Gibbs: ele é utilizado quando as distribuições condicionais completas são conhecidas e é possível obter amostras delas a cada iteração. Essa é a definição clássica do método, que amostra cada parâmetro da sua condicional completa dado o valor atual dos demais.

Alternativa C — ❌ Incorreta

O Metropolis-Hastings não gera amostras independentes. Pelo contrário, as amostras formam uma cadeia de Markov, em que cada valor depende do anterior (correlação serial). A independência não é uma propriedade dos métodos MCMC; eles produzem amostras dependentes, embora a cadeia convirja para a distribuição alvo.

Alternativa D — ❌ Incorreta

Os dois algoritmos podem ser usados em conjunto. É comum em modelos bayesianos complexos combinar Gibbs para parâmetros com condicionais conhecidas e Metropolis-Hastings para aqueles sem forma fechada. Essa combinação é uma prática estabelecida e não há qualquer restrição que os torne mutuamente exclusivos.

Alternativa E — ❌ Incorreta

Assim como na alternativa C, o Gibbs Sampling não gera amostras independentes. As amostras são correlacionadas, pois cada iteração depende do estado anterior. A dependência é inerente aos métodos MCMC, e é justamente por isso que se costuma descartar um período de aquecimento (burn-in) e, às vezes, usar thinning para reduzir a correlação.

Gabarito: letra B.