The Coefficient of Determination in the Ridge Regression

• Autores: A. Rodríguez Sánchez, Claudia García García, Román Salmerón Gómez , Catalina Beatriz García García
• Localización: Anales de ASEPUMA, ISSN-e 2171-892X, Nº. 26, 2018
• Idioma: inglés
• Enlaces
  • Texto completo (pdf)
• Resumen
  • español

    El coefi ciente de determinación, R2, es una importante medida de la regresión lineal que representa la parte de variación de la variable dependiente que viene explicada por un conjunto de variables independientes, por lo tanto, mide la capacidad predictiva del modelo estimado. Para obtener este coe ficiente en Mínimos Cuadrados Ordinarios (MCO), se utiliza la descomposición de suma de cuadrados. Por otro lado, cuando existe un problema de multicolinealidad en el modelo, es decir relación lineal entre las variables explicativas, la estimación por MCO aporta resultados inestables, por lo que se utilizan otros métodos de estimación alternativos, destacando la estimación Cresta (que consiste en la mitigación del problema desde un punto de vista numérico). En este trabajo se revisa si en el caso de la estimación Cresta la descomposición de suma de cuadrados se veri fica y, en consecuencia, cómo se debería defi nir el coe ciente de determinación en este ambiente.

  • English

    The coeffcient of determination, denoted R2, represents the proportion of total variation of dependent variable explained by the model. Thus, it is a relevant measure in linear regression that shows the predictive capacity of the estimated model. When the partition of the sum of squares (SS) holds in ordinary least squares (OLS) estimation, the R2 can be expressed as the ratio of the explained variance to the total variance. However, when there is a problem of collinearity, the OLS estimation presents unstable results and others alternative estimation methods are applied such as the ridge regression. This work reviews if the partition of the sum of squares (SS) is veri ed in the ridge estimation and establishes how the coecient of determination should be de ned in this estimation method.

• Referencias bibliográficas
  • Hoerl, A. and R. Kennard (1970). Ridge regression: Biased estimation for nonorthogonal problems. Technometrics 12 (1), 55–67.
  • McDonald, G. (2010). Tracing ridge regression coefficients. Wiley Interdisciplinary Reviews: Computational Statistics 2 (6), 695–703.
  • Stock, J. and M. Watson (2012). Introducci´on a la Econometr´ıa (3a Edici´on). Madrid: Ed. Pearson.
  • Uriel, E., A. Perir´o, D. Contreras, and M. Molt´o (1997). Econometr´ıa: El Modelo Lineal. Madrid: Ed. Alfa Centauro.
  • Wooldridge, J. (2009). Introductory Econometrics: A modern approach. Canada: South-Western Cengage Learning.