Questão de Estatística — Modelos lineares — CESPE / CEBRASPE 2025

Regressão linear em dados de alta dimensionalidade

Gabarito: ERRADO. A afirmativa está incorreta porque a regressão linear pode ser ajustada a conjuntos de dados com muitas variáveis preditoras; a alta dimensionalidade não torna o cálculo da matriz de estimação inviável por si só, embora possa trazer desafios como multicolinearidade e sobreajuste. O cálculo da matriz de estimação (por mínimos quadrados) é sempre possível do ponto de vista algébrico, desde que a matriz de planejamento tenha posto coluna completo; em casos de dimensionalidade extrema, existem técnicas como regressão ridge, LASSO e métodos de regularização que permitem o ajuste.

A regressão linear é uma técnica estatística que modela a relação entre uma variável dependente (resposta) e uma ou mais variáveis independentes (preditoras). No caso da regressão linear múltipla, o modelo assume a forma $Y = \beta_0 + \beta_1 X_1 + \beta_2 X_2 + \dots + \beta_p X_p + \varepsilon$, em que $p$ é o número de preditoras. O ajuste pelo método dos mínimos quadrados consiste em encontrar os coeficientes que minimizam a soma dos quadrados dos resíduos, o que envolve resolver o sistema de equações normais $\mathbf{X}^T\mathbf{X}\boldsymbol{\beta} = \mathbf{X}^T\mathbf{Y}$. A solução é $\boldsymbol{\hat{\beta}} = (\mathbf{X}^T\mathbf{X})^{-1}\mathbf{X}^T\mathbf{Y}$, que requer a inversão da matriz $\mathbf{X}^T\mathbf{X}$.

A afirmativa do enunciado confunde dois conceitos: a viabilidade computacional do ajuste com a qualidade do modelo. Em dados de alta dimensionalidade (quando $p$ é grande, possivelmente maior que $n$, o número de observações), a matriz $\mathbf{X}^T\mathbf{X}$ pode ser singular (não invertível), o que impede a solução única pelos mínimos quadrados ordinários. No entanto, isso não torna o ajuste "inviável" — existem métodos alternativos, como a regressão ridge (que adiciona um termo de penalização) e o LASSO (que realiza seleção de variáveis), que conseguem estimar os coeficientes mesmo quando $p > n$. Além disso, mesmo quando $p$ é grande mas menor que $n$, o cálculo é perfeitamente viável, embora o modelo possa sofrer de sobreajuste e multicolinearidade.

A pegadinha da banca está em afirmar que a alta dimensionalidade torna o cálculo "inviável", quando na verdade o que ocorre é que os mínimos quadrados ordinários podem não ter solução única (quando $p > n$), mas existem técnicas de regularização que resolvem o problema. O candidato que conhece apenas a fórmula clássica dos mínimos quadrados pode ser levado a concordar com a afirmativa, mas o conhecimento de métodos modernos de estimação mostra que ela é falsa.

Alternativa E — ✅ Correta (ERRADO) ⟵ GABARITO

A afirmativa está errada. A regressão linear pode ser ajustada a dados de alta dimensionalidade. O que ocorre é que, quando o número de preditoras $p$ é maior que o número de observações $n$, a matriz $\mathbf{X}^T\mathbf{X}$ não é invertível, e os mínimos quadrados ordinários não produzem uma solução única. No entanto, existem métodos de regularização (ridge, LASSO, elastic net) que permitem o ajuste mesmo nesses casos, adicionando uma penalização aos coeficientes. Além disso, a alta dimensionalidade não torna o cálculo "inviável" do ponto de vista computacional — apenas exige técnicas mais sofisticadas. Portanto, a afirmativa é falsa.

Gabarito: ERRADO.