Regresionas Lineales
Páginas: 7 (1576 palabras)
Publicado: 12 de diciembre de 2014
Historia
La primera forma de regresión lineal documentada fue el método de los mínimos cuadrados que fue publicada por Legendre en 1805,1 y en dónde se incluía una versión del teorema de Gauss-Márkov.
Etimología
El término regresión se utilizó por primera vez en el estudio de variables antropométricas: al comparar la estatura de padres e hijos, donde resultó que los hijos cuyos padrestenían una estatura muy superior al valor medio, tendían a igualarse a éste, mientras que aquellos cuyos padres eran muy bajos tendían a reducir su diferencia respecto a la estatura media; es decir, "regresaban" al promedio.2 La constatación empírica de esta propiedad se vio reforzada más tarde con la justificación teórica de ese fenómeno.
El término lineal se emplea para distinguirlo del resto detécnicas de regresión, que emplean modelos basados en cualquier clase de función matemática. Los modelos lineales son una explicación simplificada de la realidad, mucho más ágiles y con un soporte teórico mucho más extenso por parte de la matemática y la estadística.
Pero bien, como se ha dicho, podemos usar el término lineal para distinguir modelos basados en cualquier clase de aplicación.
Elmodelo de regresión lineal
El modelo lineal relaciona la variable dependiente Y con K variables explicitas X_k (k = 1,...K), o cualquier transformación de éstas que generen un hiperplano de parámetros \beta_k desconocidos:
(2) Y = \sum \beta_k X_k + \varepsilon
donde \varepsilon es la perturbación aleatoria que recoge todos aquellos factores de la realidad no controlables u observablesy que por tanto se asocian con el azar, y es la que confiere al modelo su carácter estocástico. En el caso más sencillo, con una sola variable explicita, el hiperplano es una recta:
(3) Y = \beta_1 + \beta_2 X_2 + \varepsilon
El problema de la regresión consiste en elegir unos valores determinados para los parámetros desconocidos \beta_k, de modo que la ecuación quede completamenteespecificada. Para ello se necesita un conjunto de observaciones. En una observación i-ésima (i= 1,... I) cualquiera, se registra el comportamiento simultáneo de la variable dependiente y las variables explicitas (las perturbaciones aleatorias se suponen no observables).
(4) Y_i = \sum \beta_k X_{ki} + \varepsilon_i
Los valores escogidos como estimadores de los parámetros \hat{\beta_k}, sonlos coeficientes de regresión sin que se pueda garantizar que coincida n con parámetros reales del proceso generador. Por tanto, en
(5) Y_i = \sum \hat{\beta_k} X_{ki} + \hat{\varepsilon_i}
Los valores \hat{\varepsilon_i} son por su parte estimaciones o errores de la perturbación aleatoria.
Hipótesis modelo de regresión lineal clásico
1. Esperanza matemática nula.E(\varepsilon_i) = 0
Para cada valor de X la perturbación tomará distintos valores de forma aleatoria, pero no tomará sistemáticamente valores positivos o negativos, sino que se supone tomará algunos valores mayores que cero y otros menores que cero, de tal forma que su valor esperado sea cero.
2. Homocedasticidad
Var(\varepsilon_t) = E(\varepsilon_t - E \varepsilon_t)^2 = E \varepsilon_t^2 =\sigma^2 para todo t
Todos los términos de la perturbación tienen la misma varianza que es desconocida. La dispersión de cada \varepsilon_t en torno a su valor esperado es siempre la misma.
3. Incorrelación.
Cov(\varepsilon_t,\varepsilon_s ) = (\varepsilon_t - E \varepsilon_t) (\varepsilon_s - E \varepsilon_s) = E \varepsilon_t \varepsilon_s = 0 para todo t,s con t distinto de s
Lascovarianzas entre las distintas pertubaciones son nulas, lo que quiere decir que no están correlacionadas o autocorrelacionadas. Esto implica que el valor de la perturbación para cualquier observación muestral no viene influenciado por los valores de las perturbaciones correspondientes a otras observaciones muestrales.
4. Regresores no estocásticos.
5. No existen relaciones lineales exactas...
La primera forma de regresión lineal documentada fue el método de los mínimos cuadrados que fue publicada por Legendre en 1805,1 y en dónde se incluía una versión del teorema de Gauss-Márkov.
Etimología
El término regresión se utilizó por primera vez en el estudio de variables antropométricas: al comparar la estatura de padres e hijos, donde resultó que los hijos cuyos padrestenían una estatura muy superior al valor medio, tendían a igualarse a éste, mientras que aquellos cuyos padres eran muy bajos tendían a reducir su diferencia respecto a la estatura media; es decir, "regresaban" al promedio.2 La constatación empírica de esta propiedad se vio reforzada más tarde con la justificación teórica de ese fenómeno.
El término lineal se emplea para distinguirlo del resto detécnicas de regresión, que emplean modelos basados en cualquier clase de función matemática. Los modelos lineales son una explicación simplificada de la realidad, mucho más ágiles y con un soporte teórico mucho más extenso por parte de la matemática y la estadística.
Pero bien, como se ha dicho, podemos usar el término lineal para distinguir modelos basados en cualquier clase de aplicación.
Elmodelo de regresión lineal
El modelo lineal relaciona la variable dependiente Y con K variables explicitas X_k (k = 1,...K), o cualquier transformación de éstas que generen un hiperplano de parámetros \beta_k desconocidos:
(2) Y = \sum \beta_k X_k + \varepsilon
donde \varepsilon es la perturbación aleatoria que recoge todos aquellos factores de la realidad no controlables u observablesy que por tanto se asocian con el azar, y es la que confiere al modelo su carácter estocástico. En el caso más sencillo, con una sola variable explicita, el hiperplano es una recta:
(3) Y = \beta_1 + \beta_2 X_2 + \varepsilon
El problema de la regresión consiste en elegir unos valores determinados para los parámetros desconocidos \beta_k, de modo que la ecuación quede completamenteespecificada. Para ello se necesita un conjunto de observaciones. En una observación i-ésima (i= 1,... I) cualquiera, se registra el comportamiento simultáneo de la variable dependiente y las variables explicitas (las perturbaciones aleatorias se suponen no observables).
(4) Y_i = \sum \beta_k X_{ki} + \varepsilon_i
Los valores escogidos como estimadores de los parámetros \hat{\beta_k}, sonlos coeficientes de regresión sin que se pueda garantizar que coincida n con parámetros reales del proceso generador. Por tanto, en
(5) Y_i = \sum \hat{\beta_k} X_{ki} + \hat{\varepsilon_i}
Los valores \hat{\varepsilon_i} son por su parte estimaciones o errores de la perturbación aleatoria.
Hipótesis modelo de regresión lineal clásico
1. Esperanza matemática nula.E(\varepsilon_i) = 0
Para cada valor de X la perturbación tomará distintos valores de forma aleatoria, pero no tomará sistemáticamente valores positivos o negativos, sino que se supone tomará algunos valores mayores que cero y otros menores que cero, de tal forma que su valor esperado sea cero.
2. Homocedasticidad
Var(\varepsilon_t) = E(\varepsilon_t - E \varepsilon_t)^2 = E \varepsilon_t^2 =\sigma^2 para todo t
Todos los términos de la perturbación tienen la misma varianza que es desconocida. La dispersión de cada \varepsilon_t en torno a su valor esperado es siempre la misma.
3. Incorrelación.
Cov(\varepsilon_t,\varepsilon_s ) = (\varepsilon_t - E \varepsilon_t) (\varepsilon_s - E \varepsilon_s) = E \varepsilon_t \varepsilon_s = 0 para todo t,s con t distinto de s
Lascovarianzas entre las distintas pertubaciones son nulas, lo que quiere decir que no están correlacionadas o autocorrelacionadas. Esto implica que el valor de la perturbación para cualquier observación muestral no viene influenciado por los valores de las perturbaciones correspondientes a otras observaciones muestrales.
4. Regresores no estocásticos.
5. No existen relaciones lineales exactas...
Leer documento completo
Regístrate para leer el documento completo.