Coeficiente de determinação

O coeficiente de determinação, também chamado de R², é uma medida de ajuste de um modelo estatístico linear generalizado, como a regressão linear simples ou múltipla, aos valores observados de uma variável aleatória. O R² varia entre 0 e 1, por vezes sendo expresso em termos percentuais. Nesse caso, expressa a quantidade da variância dos dados que é explicada pelo modelo linear. Assim, quanto maior o R², mais explicativo é o modelo linear, ou seja, melhor ele se ajusta à amostra. Por exemplo, um R² = 0,8234 significa que o modelo linear explica 82,34% da variância da variável dependente a partir do regressores (variáveis independentes) incluídas naquele modelo linear.

Método

$S Q_{tot} = \sum_{i = 1}^{n} (y_{i} - \bar{y})^{2},$ onde $n$ é o numero de observações;

Partindo de que $y_{i}$ é o valor observado e $\bar{y}$ é a média das observações, esta equação dá-nos a Soma Total dos Quadrados, ou seja, a soma dos quadrados das diferenças entre a média e cada valor observado. $S Q_{res} = \sum_{i = 1}^{n} (y_{i} - \hat{y_{i}})^{2},$ onde $\hat{y_{i}}$ é o valor estimado (previsão) de $y_{i}$ .

Esta equação é a soma dos quadrados dos resíduos, que calcula a parte que não é explicada pelo modelo.

$S Q_{exp} = \sum_{i = 1}^{n} (\hat{y_{i}} - \bar{y})^{2},$

onde $\hat{y_{i}}$ é o valor estimado (previsão) de $y_{i}$ .

Esta equação, a soma dos quadrados explicada, indica-nos a diferença entre a média das observações e o valor estimado para cada observação, e soma os respectivos quadrados. Quanto menor for a diferença, maior poder explicativo detém o modelo.

Em alguns casos temos: $S Q_{tot} = S Q_{exp} + S Q_{res} .$ E normalizando a equação de cima, temos que: $R^{2} = \frac{S Q_{exp}}{S Q_{tot}} = 1 - \frac{S Q_{res}}{S Q_{tot}} .$

R² ajustado

A inclusão de inúmeras variáveis, mesmo que tenham muito pouco poder explicativo sobre a variável dependente, aumentarão o valor de R². Isto incentiva a inclusão indiscriminada de variáveis, prejudicando o princípio da parcimônia (ver de forma mais ampla em navalha de Ockhan). Para combater esta tendência, podemos usar uma medida alternativa do coeficiente de determinação, que penaliza a inclusão de regressores pouco explicativos. Trata-se do R² ajustado: $\bar{R^{2}} = 1 - \frac{n - 1}{n - (k + 1)} (1 - R^{2}),$ onde $(k + 1)$ representa o número de variáveis explicativas mais a constante.

Note que a inclusão de mais variáveis com pouco poder explicativo prejudica o valor do R² ajustado, porque aumenta $k$ uma unidade, sem aumentar substancialmente o $R^{2}$ .

Relação entre Coeficiente de Determinação (R²) e Coeficiente de Correlação (R)

Para provarmos que o Coeficiente de Determinação equivale ao quadrado do Coeficiente de Correlação, precisamos provar inicialmente:

Teorema 1

$S Q_{tot} = n . (\overline{y^{2}} - \overset{2}{\overline{y}})$

Prova

$S Q_{tot} = (y_{1} - \overline{y})^{2} + (y_{2} - \overline{y})^{2} + \dots + (y_{n} - \overline{y})^{2}$

$= (y_{1}^{2} - 2 . y_{1} . \overline{y} + \overset{2}{\overline{y}}) + \dots + (y_{n}^{2} - 2 . y_{n} . \overline{y} + \overset{2}{\overline{y}})$

$= (\sum y^{2}) - (2 . \overline{y} . \sum y) + (n . \overset{2}{\overline{y}})$

$= (n . \overline{y^{2}}) - 2 . \overline{y} . (n . \overline{y}) + n . \overset{2}{\overline{y}}$

$= n . (\overline{y^{2}} - 2 . \overset{2}{\overline{y}} + \overset{2}{\overline{y}})$

$= n . (\overline{y^{2}} - \overset{2}{\overline{y}}) c . q . d .$

Teorema 2

$S Q_{r e s} = n . \frac{(\overline{x} . \overline{y} - \overline{x y})^{2}}{\overset{2}{\overline{x}} - \overline{x^{2}}} + S Q_{t o t}$

Prova

Inicialmente, precisamos reescrever a expressão do valor estimado pela Regressão Linear:

${\hat{y}}_{k} = A . x_{k} + B$

$= A . x_{k} + (\overline{y} - A . \overline{x})$

$= A . (x_{k} - \overline{x}) + \overline{y}$

$S Q_{r e s} = ({\hat{y}}_{1} - y_{1})^{2} + ({\hat{y}}_{2} - y_{2})^{2} + \dots + ({\hat{y}}_{n} - y_{n})^{2}$

$= [A . (x_{1} - \overline{x}) + \overline{y} - y_{1}]^{2} + \dots + [A . (x_{n} - \overline{x}) + \overline{y} - y_{n}]^{2}$

$= [A . (x_{1} - \overline{x}) + (\overline{y} - y_{1})]^{2} + \dots + [A . (x_{n} - \overline{x}) + (\overline{y} - y_{n})]^{2}$ $= A^{2} . (x_{1} - \overline{x})^{2} + 2 . A . (x_{1} - \overline{x}) . (\overline{y} - y_{1}) + (\overline{y} - y_{1})^{2} + \dots + A^{2} . (x_{n} - \overline{x})^{2} + 2 . A . (x_{n} - \overline{x}) . (\overline{y} - y_{n}) + (\overline{y} - y_{n})^{2}$ $= A^{2} . (x_{1}^{2} - 2 . x_{1} . \overline{x} + \overset{2}{\overline{x}}) + 2 . A . (x_{1} . \overline{y} - x_{1} . y_{1} - \overline{x} . \overline{y} + \overline{x} . y_{1}) + (\overset{2}{\overline{y}} - 2 . \overline{y} . y_{1} + y_{1}^{2}) + \dots$ $= A^{2} . x_{1}^{2} - 2 A^{2} . x_{1} . \overline{x} + A^{2} . \overset{2}{\overline{x}} + 2 . A . x_{1} . \overline{y} - 2 . A . x_{1} . y_{1} - 2 . A . \overline{x} . \overline{y} + 2 . A . \overline{x} . y_{1} + \overset{2}{\overline{y}} - 2 . \overline{y} . y_{1} + y_{1}^{2} + \dots$

$= A^{2} . (\sum x^{2}) - 2 A^{2} . \overline{x} . (\sum x) + n . A^{2} . \overset{2}{\overline{x}} + 2 . A . \overline{y} . (\sum x) - 2 . A . (\sum x . y) - 2 . A . n . \overline{x} . \overline{y} + 2 . A . \overline{x} . (\sum y) + n . \overset{2}{\overline{y}} - 2 . \overline{y} . (\sum y) + (\sum y^{2})$

$= A^{2} . (n . \overline{x^{2}}) - 2 A^{2} . \overline{x} . (n . \overline{x}) + n . A^{2} . \overset{2}{\overline{x}} + 2 . A . \overline{y} . (n . \overline{x}) - 2 . A . (n . \overline{x y}) - 2 . A . n . \overline{x} . \overline{y} + 2 . A . \overline{x} . (n . \overline{y}) + n . \overset{2}{\overline{y}} - 2 . \overline{y} . (n . \overline{y}) + (n . \overline{y^{2}})$

$= n . (A^{2} . \overline{x^{2}} - 2 . A^{2} . \overset{2}{\overline{x}} + A^{2} . \overset{2}{\overline{x}} + 2 . A . \overline{x} . \overline{y} - 2 . A . \overline{x y} - 2 . A . \overline{x} . \overline{y} + 2 . A . \overline{x} . \overline{y} + \overset{2}{\overline{y}} - 2 . \overset{2}{\overline{y}} + \overline{y^{2}})$

$= n . (A^{2} . \overline{x^{2}} - A^{2} . \overset{2}{\overline{x}} + 2 . A . \overline{x} . \overline{y} - 2 . A . \overline{x y} - \overset{2}{\overline{y}} + \overline{y^{2}})$

$= n . [A^{2} . (\overline{x^{2}} - \overset{2}{\overline{x}}) + 2 A . (\overline{x} . \overline{y} - \overline{x y}) + \overline{y^{2}} - \overset{2}{\overline{y}}]$

$= n . [{(\frac{\overline{x} . \overline{y} - \overline{x y}}{\overset{2}{\overline{x}} - \overline{x^{2}}})}^{2} . (\overline{x^{2}} - \overset{2}{\overline{x}}) + 2 . \frac{\overline{x} . \overline{y} - \overline{x y}}{\overset{2}{\overline{x}} - \overline{x^{2}}} . (\overline{x} . \overline{y} - \overline{x y})] + n . (\overline{y^{2}} - \overset{2}{\overline{y}})$

$= n . [\frac{(\overline{x} . \overline{y} - \overline{x y})^{2} . - (\overset{2}{\overline{x}} - \overline{x^{2}})}{(\overset{2}{\overline{x}} - \overline{x^{2}})^{2}} + 2 . \frac{(\overline{x} . \overline{y} - \overline{x y})^{2}}{\overset{2}{\overline{x}} - \overline{x^{2}}}] + S Q_{tot}$

$= n . [\frac{- (\overline{x} . \overline{y} - \overline{x y})^{2}}{\overset{2}{\overline{x}} - \overline{x^{2}}} + 2 . \frac{(\overline{x} . \overline{y} - \overline{x y})^{2}}{\overset{2}{\overline{x}} - \overline{x^{2}}}] + S Q_{tot}$

$= n . \frac{(\overline{x} . \overline{y} - \overline{x y})^{2}}{\overset{2}{\overline{x}} - \overline{x^{2}}} + S Q_{\overline{y}} c . q . d .$

Teorema 3: $R^{2} = \frac{(\overline{x} . \overline{y} - \overline{x y})^{2}}{(\overline{x^{2}} - \overset{2}{\overline{x}}) . (\overline{y^{2}} - \overset{2}{\overline{y}})}$

Prova: $R^{2} = 1 - \frac{S Q_{r e s}}{S Q_{tot}} = \frac{S Q_{tot}}{S Q_{tot}} - \frac{S Q_{r e s}}{S Q_{tot}} = \frac{S Q_{tot} - S Q_{r e s}}{S Q_{tot}} = \frac{S Q_{tot} - [n . \frac{(\overline{x} . \overline{y} - \overline{x y})^{2}}{\overset{2}{\overline{x}} - \overline{x^{2}}} + S Q_{tot}]}{S Q_{tot}}$

$= n . \frac{(\overline{x} . \overline{y} - \overline{x y})^{2}}{\overline{x^{2}} - \overset{2}{\overline{x}}} . \frac{1}{S Q_{tot}} = n . \frac{(\overline{x} . \overline{y} - \overline{x y})^{2}}{(\overline{x^{2}} - \overset{2}{\overline{x}}) . n . (\overline{y^{2}} - \overset{2}{\overline{y}})} = \frac{(\overline{x} . \overline{y} - \overline{x y})^{2}}{(\overline{x^{2}} - \overset{2}{\overline{x}}) . (\overline{y^{2}} - \overset{2}{\overline{y}})} c . q . d .$

Teorema 4: (Coeficiente de Correlação)² = Coeficiente de Determinação

Prova: Coeficiente de Correlação = $R = \frac{\sum (x - \overline{x}) . (y - \overline{y})}{\sqrt{\sum (x - \overline{x})^{2}} . \sqrt{\sum (y - \overline{y})^{2}}}$

Para elevá-lo ao quadrado, façamos separadamente numerador e denominador:

Quadrado do numerador: $[\sum (x - \overline{x}) . (y - \overline{y})]^{2}$

$= [\sum (x . y - x . \overline{y} - \overline{x} . y + \overline{x} . \overline{y})]^{2}$

$= [(x_{1} . y_{1} - x_{1} . \overline{y} - \overline{x} . y_{1} + \overline{x} . \overline{y}) + \dots + (x_{n} . y_{n} - x_{n} . \overline{y} - \overline{x} . y_{n} + \overline{x} . \overline{y})]^{2}$

$= [(\sum x . y) - \overline{y} . (\sum x) - \overline{x} . (\sum y) + n . \overline{x} . \overline{y}]^{2}$

$= [(n . \overline{x . y}) - \overline{y} . (n . \overline{x}) - \overline{x} . (n . \overline{y}) + n . \overline{x} . \overline{y}]^{2}$

$= [n . (\overline{x . y} - \overline{x} . \overline{y})]^{2}$

$= n^{2} . (\overline{x . y} - \overline{x} . \overline{y})^{2}$

Agora, façamos o quadrado do denominador:

$[\sqrt{\sum (x - \overline{x})^{2}} . \sqrt{\sum (y - \overline{y})^{2}}]^{2}$

$= [\sum (x - \overline{x})^{2}] . [\sum (y - \overline{y})^{2}]$

$= [\sum (x^{2} - 2 . x . \overline{x} + \overset{2}{\overline{x}})] . [\sum (y^{2} - 2 . y . \overline{y} + \overset{2}{\overline{y}})]$

$= [(\sum x^{2}) - 2 . \overline{x} . (\sum x) + n . \overset{2}{\overline{x}}] . [(\sum y^{2}) - 2 . \overline{y} . (\sum y) + n . \overset{2}{\overline{y}}]$

$= [(n . \overline{x^{2}}) - 2 . \overline{x} . (n . \overline{x}) + n . \overset{2}{\overline{x}}] . [(n . \overline{y^{2}}) - 2 . \overline{y} . (n . \overline{y}) + n . \overset{2}{\overline{y}}]$

$= (n . \overline{x^{2}} - n . \overset{2}{\overline{x}}) . (n . \overline{y^{2}} - n . \overset{2}{\overline{y}})$

$= [n . (\overline{x^{2}} - \overset{2}{\overline{x}})] . [n . (\overline{y^{2}} - \overset{2}{\overline{y}})]$

$= n^{2} . (\overline{x^{2}} - \overset{2}{\overline{x}}) . (\overline{y^{2}} - \overset{2}{\overline{y}})$

Juntando, temos:

(Coeficiente de Correlação)² = $(R)^{2} = \frac{n^{2} . (\overline{x . y} - \overline{x} . \overline{y})^{2}}{n^{2} . (\overline{x^{2}} - \overset{2}{\overline{x}}) . (\overline{y^{2}} - \overset{2}{\overline{y}})}$

$= \frac{(\overline{x} . \overline{y} - \overline{x y})^{2}}{(\overline{x^{2}} - \overset{2}{\overline{x}}) . (\overline{y^{2}} - \overset{2}{\overline{y}})}$ = Coeficiente de Determinação (R²) c.q.d.

Predefinição:Controle de autoridade

Predefinição:Econometria

Coeficiente de determinação

Índice

Método

R² ajustado

Relação entre Coeficiente de Determinação (R²) e Coeficiente de Correlação (R)

Teorema 1

Prova

Teorema 2

Prova

Menu de navegação

Coeficiente de determinação

Método

R² ajustado

Relação entre Coeficiente de Determinação (R²) e Coeficiente de Correlação (R)

Teorema 1

Prova

Teorema 2

Prova

Menu de navegação

Pesquisa