Questão de Estatística — Regressão Linear — FGV 2024

Regressão Linear Simples e o Método dos Mínimos Quadrados

Gabarito: letra B — estão corretos os itens I e II. O item III está incorreto porque o método dos mínimos quadrados minimiza a soma dos quadrados dos resíduos, e não a soma simples dos resíduos (que, aliás, é sempre zero na reta ajustada por mínimos quadrados). O item II está correto: sob a suposição de erros normais, o estimador de máxima verossimilhança dos parâmetros coincide com o estimador de mínimos quadrados.

A regressão linear simples modela a relação entre uma variável dependente $Y$ e uma variável independente $X$ por meio de uma reta. O modelo teórico é $Y = \alpha + \beta X + \varepsilon$, em que $\alpha$ (intercepto) e $\beta$ (inclinação) são parâmetros desconhecidos da população, e $\varepsilon$ é o termo de erro aleatório. A partir de uma amostra de pares $(X_i, Y_i)$, estimamos esses parâmetros, obtendo a reta ajustada $\hat{Y} = a + bX$ (ou $\hat{Y} = \hat{\alpha} + \hat{\beta}X$).

O método mais comum de estimação é o dos mínimos quadrados ordinários (MQO), que consiste em encontrar os valores de $a$ e $b$ que minimizam a soma dos quadrados dos resíduos: $\sum_{i=1}^{n} e_i^2 = \sum_{i=1}^{n} (Y_i - \hat{Y}_i)^2$. Os resíduos $e_i = Y_i - \hat{Y}_i$ representam a diferença entre o valor observado e o valor previsto pela reta.

Uma propriedade importante do MQO é que a soma dos resíduos é zero: $\sum e_i = 0$. Isso decorre diretamente das equações normais do método. Portanto, minimizar a soma simples dos resíduos não faz sentido — ela já é zero para qualquer reta que passe pelo ponto médio $\bar{X}, \bar{Y}$. O que se minimiza é a soma dos quadrados dos resíduos, que é sempre não negativa e mede o erro total do ajuste.

A relação entre máxima verossimilhança e mínimos quadrados é um resultado clássico: se os erros $\varepsilon_i$ seguem distribuição normal com média zero e variância constante $\sigma^2$, a função de verossimilhança é maximizada exatamente quando a soma dos quadrados dos resíduos é minimizada. Assim, sob normalidade, os estimadores de MQO são também os estimadores de máxima verossimilhança.

Item I — ✅ Correto

A afirmativa descreve corretamente o modelo de regressão linear simples: a equação $y = \alpha + \beta x$ representa a reta teórica, com $\alpha$ e $\beta$ sendo os parâmetros populacionais. Esses parâmetros são estimados a partir dos dados amostrais, resultando na reta estimada $\hat{y} = a + bx$. É exatamente isso que o item afirma.

Item II — ✅ Correto

A afirmativa está correta. Sob a suposição de que os erros seguem distribuição normal, o Princípio da Máxima Verossimilhança leva aos mesmos estimadores do método dos Mínimos Quadrados. Esse é um resultado fundamental da teoria de estimação em regressão linear clássica.

Item III — ❌ Incorreto

O erro está na palavra "soma dos resíduos". O método dos mínimos quadrados minimiza a soma dos quadrados dos resíduos, ou seja, $\sum e_i^2$. A soma simples dos resíduos, $\sum e_i$, é sempre zero na reta ajustada por mínimos quadrados (quando o modelo inclui intercepto), então minimizá-la não teria efeito. A banca trocou "soma dos quadrados" por "soma", uma pegadinha clássica.

Gabarito: letra B — corretos os itens I e II.