Questão de Estatística — Modelos lineares — FGV 2025

Solução das equações normais na regressão linear múltipla

Gabarito: letra A. No modelo de regressão linear $Y = X\beta + \varepsilon$, a solução das equações normais obtida pelo método dos mínimos quadrados é $b = (X'X)^{-1}X'Y$, que corresponde exatamente à alternativa A. Essa expressão surge ao minimizar a soma dos quadrados dos resíduos, derivando em relação a $\beta$ e igualando a zero, o que conduz ao sistema $X'X\beta = X'Y$.

A questão cobra um resultado clássico da regressão linear múltipla: a estimativa dos coeficientes por mínimos quadrados ordinários (MQO). O modelo é $Y = X\beta + \varepsilon$, com $E[\varepsilon] = 0$ e $V[\varepsilon] = \sigma^2 I$. O objetivo é encontrar o vetor $b$ que minimiza a soma dos quadrados dos resíduos $S = (Y - Xb)'(Y - Xb)$. Expandindo: $S = Y'Y - 2b'X'Y + b'X'Xb$. Derivando em relação a $b$ e igualando a zero: $\frac{\partial S}{\partial b} = -2X'Y + 2X'Xb = 0$, o que resulta nas equações normais $X'Xb = X'Y$. Pré-multiplicando ambos os lados pela inversa de $X'X$ (assumindo que existe, ou seja, $X$ tem posto coluna completo), obtemos $b = (X'X)^{-1}X'Y$.

A pegadinha da banca está na ordem da multiplicação das matrizes: a inversa de $X'X$ deve vir à esquerda de $X'Y$, pois a multiplicação de matrizes não é comutativa. As alternativas que invertem a ordem ou usam $YX$ no lugar de $X'Y$ estão incorretas.

Alternativa A — ✅ Correta ⟵ GABARITO

A alternativa A apresenta exatamente a solução das equações normais: $b = (X'X)^{-1}X'Y$. A ordem é crucial: primeiro multiplica-se $X'$ por $Y$, obtendo um vetor $p \times 1$, e depois pré-multiplica-se pela inversa de $X'X$, que é uma matriz $p \times p$. Isso garante que o resultado seja um vetor $p \times 1$, compatível com $\beta$.

Alternativa B — ❌ Incorreta

A alternativa B inverte a ordem: $b = (X'Y)(X'X)^{-1}$. Como a multiplicação de matrizes não é comutativa, essa expressão não é equivalente à correta. Além disso, as dimensões não batem: $X'Y$ é $p \times 1$ e $(X'X)^{-1}$ é $p \times p$, então o produto $p \times 1 \times p \times p$ não é definido (a menos que $p=1$, mas mesmo assim a ordem estaria errada).

Alternativa C — ❌ Incorreta

A alternativa C usa $b = (X'Y)^{-1}(YX)$. Aqui há dois erros: primeiro, $X'Y$ é um vetor, não uma matriz quadrada, portanto não possui inversa. Segundo, mesmo que fosse possível, a expressão não corresponde à solução das equações normais.

Alternativa D — ❌ Incorreta

A alternativa D apresenta $b = (X'Y)^{-1}(X'X)$. Novamente, $X'Y$ é um vetor e não tem inversa. Além disso, a ordem e os termos estão trocados: o correto é $(X'X)^{-1}$ multiplicando $X'Y$, não o contrário.

Alternativa E — ❌ Incorreta

A alternativa E traz $b = (YX)^{-1}(X'Y)$. Aqui, $YX$ não é uma matriz definida no contexto (as dimensões de $Y$ e $X$ não permitem o produto nessa ordem, a menos que $n=p$, o que não é o caso geral). Além disso, a expressão correta usa $X'X$, não $YX$.

Gabarito: letra A