Modelos de regresión lineal

1. Econometría Modelos de regresión lineal Instructor: Favio Murillo García

2. Referencias: William Greene. EconometricAnalysis. Ed. Pearson (capítulo 2) Jeffrey Wooldridge. Introductory Econometrics: A Modern Approach. Ed. Thomson Learning (pp 22-40) DamodarGujarati. Econometrics. Ed. McGraw-Hill (pp 38-84) Econometría Modelos de regresión lineal

3. Objetivos de la sesión: Identificar un modelo de regresión lineal. Obtener los estimadores de un modelo de regresión lineal simple con excel y con eviews. Interpretar el signo de los coeficientes y el valor de la bondad de ajuste. Econometría Modelos de regresión lineal

4. Introducción • El papel esencial de la econometría es la estimación y verificación de los modelos econométricos. • Proceso: • Especificación del modelo en forma matemática. • Reunión de datos apropiados y relevantes de la economía o sector que el modelo se propone describir. • Con los datos se estima los parámetros del modelo • Realizar pruebas con el modelo para analizar si es valido o si es necesario modificar la especificación.

5. Introducción • Un modelo econométrico es una representación simplificada de la realidad, que recurre a un número limitado de conceptos formalizados.

6. Criticas • Excesiva simplificación. • Supuestos poco realistas. Lo importante no es lo realista o no de los supuestos, sino qué tan buena es la explicación y capacidad de predicción que el modelo tiene en la realidad. • Datos. Para funcionar, el modelo requiere datos, que a veces son escasos.

7. Análisis de regresión • El objetivo del análisis de regresión es modelar, estadísticamente, la contribución o impacto que una o más variables explicativas pudieran tener sobre alguna variable de interés.

8. La realidad bajo estudio

10. Metodología de análisis a) Identificar las variables que pudieran estar relacionadas con nuestra variable de interés. b) Proponer un modelo que capte la relación entre las variables. c) Estimar los parámetros del modelo propuesto en función de la información muestral disponible. d) Verificar la validez estadística del modelo construido y el cumplimiento de las propiedades de los errores. e) Verificar que no existan variables redundantes o no significativas en el modelo.

11. Algunas aplicaciones • Costo de Capital (CAPM, APT). • Tipo de cambio, tasas de interés, inflación. • Relación entre el IPC e índices de mercados financieros internacionales. • Modelación del Spread en función volumen, tamaño de la empresa, sector industrial.

12. Algunas aplicaciones • Interrelación entre variables económicas y financieras entre economías (Inflación en México vs. Inflación en Estados Unidos). • Teoría de administración de portafolios (rendimiento esperado de un portafolio). • Nivel de ventas, utilidades, etc.

13. RegresiónLineal Simpleyi = b0 + b1xi + ui

14. donde y es: Variable dependiente Variable explicada Regresando u es: Residual Término de error mientras que x es: Variable independiente Variable explicativa Covariable Variable de control Regresor b0 y b1: parámetros o coeficientes a estimar y = b0 + b1x + u

15. Algunos supuestos • El valor promedio de u, el término de error, en la población es = 0. • Es decir, E(u) = 0 • Este supuesto no es muy restrictivo puesto que siempre podemos ajustar el intercepto b0 para normalizar E(u) = 0

16. Media condicional = 0 • Hay un supuesto crucialsobre la relación entre el error y la variable explicativa: cov(x, u) • Queremosque la informacióncontenida en x sea independiente de la información contenida en u (que no estén relacionados), de modo que: E(u|x) = E(u) = 0, lo cual implica: E(y|x) = b0 + b1x

17. Mínimos Cuadrados Ordinarios (MCO) • La idea básica es estimar parámetros poblacionales a partir de una muestra. • Sea {(xi,yi): i =1, …,n} una muestra aleatoria de tamaño n de una población. • Para cada observación en la muestra, tenemos: yi = b0 + b1xi + ui

18. Línea de regresión, observaciones y errores y E(y|x) = b0 + b1x . y4 { u4 . u3 y3 } . y2 u2 { u1 . } y1 x2 x1 x4 x3 x

19. Estimador MCO / OLS: intercepto (β0) • Tenemos:

20. Estimador MCO / OLS: pendiente (β1)

23. El estimador MCO de b1 b1, es la covarianza muestral entre x y y, dividida entre la varianza muestral de x. • Si x y y están correlacionados positivamente, b1será positivo (pues la varianza del denominador siempre es positiva). • Si x y y están correlacionados negativamente, b1será negativo. • Obviamente, requerimos que x tenga cierta varianza en la muestra.

24. MCO / OLS • Intuitivamente, MCO ajustaunalínea a través de los datos muéstrales, de modo que la suma de residuales al cuadrado (SSR) sea la mínima posible: de ahí el término “mínimos cuadrados”. • El residual, û, es un estimado del término de error entre lo observado y lo predicho, esdecir, la diferencia entre la línea de regresión (fitted line) y el datoobservado.

25. x2 x1 x4 x3 Línea de regresión muestral, observaciones,y residuales estimados y . y4 { û4 } û3 . y3 . y2 û2 { } û1 . y1 x

26. Suma de cuadrados: Terminología

27. Bondad de ajuste: R2 • ¿Cómo saber qué tan bueno es el ajuste entre la línea de regresión y los datos de la muestra? • Podemos calcular la proporción de la suma de cuadrados totales (SST) que es “explicada” por el modelo. • Esto es la llamada R-cuadrada de una regresión:R2 = SSE/SST = 1 – SSR/SST

28. Ejercicio • La siguiente tabla presenta datos que se refieren al consumo de tazas de café por día y el precio al menudeo del café. En Estados Unidos de 1970 a 1980. • Fuentes: Summary of NationalCoffeeDrinkingStudy, 1981. NielsenFoodIndex, 1981.

30. Conteste • ¿ Cómo es la relación existente entre estas dos variables: directa o inversa ? • ¿ Qué tan ajustada es la correlación entre estas dos variables ? • Construya el siguiente modelo: • Interprete intuitivamente el valor de los parámetros obtenidos • Estime las tasas diarias por persona si el precio es de 1.5 dólares por libra.

31. Tarea • Resolver el ejercicio 2.16 • Revisar el ejemplo 7.2 (del texto de Gujarati)

32. Regresión Lineal Múltiple yi = b0 + b1x1i + b2x2i + . . . bkxki + ui

33. Cálculo de estimadoresb = (XtX)-1Xt Y

34. Sesgo y eficiencia de MCO • Dos características deseables de cualquier estimador estadístico son: • Insesgamiento (unbiasedness): que el parámetro estimado sea, en promedio, igual al “verdadero” parámetro poblacional. • Eficiencia (efficiency): que la varianza del estimador sea mínima (ie, máxima precisión). • Así, buscamos estimadores con sesgo mínimo y máxima eficiencia (ie, mínima varianza). • MCO cuenta con ambas propiedades bajo ciertas condiciones: los supuestos Gauss-Markov.

35. Supuestos Gauss-Markov: Insesgamiento de MCO/OLS • El modelo poblacional es lineal en sus parámetros: y = b0 + b1x + u • Muestraaleatoria de tamañon, {(xi, yi): i=1, 2, …, n}, representativa de la población, de modoque el modelo muestral es: yi = b0 + b1xi + ui • Media condicional cero: E(u|x) = 0 y portanto E(ui|xi) = 0 • Varianza(xi ) > 0

36. Demostración: SST = SSE + SSR

37. Supuestos Clásicos de los MICO • El modelo de regresión es lineal en los parámetros • Los valores de X son fijos en muestreo repetido • El valor medio de es igual a cero. • Homocedasticidad o igual varianza de . • No autocorrelación entre los . • La covarianza entre y Xi es cero. • El número de observaciones debe ser mayor que el de parámetros • Variabilidad en los valores de X. • El modelo de regresión está correctamente especificado • No hay multicolinealidad perfecta

38. Supuestos Clásicos de los MICO • El modelo de regresión es lineal en los parámetros • Los valores de X son fijos en muestreo repetido • Supone que las variables X no son aleatorias • Es posible mantener fijo el valor de X, y repetir el experimento, obteniendo en cada observación un valor de la variable distinto aleatoria Y. • El análisis de regresión es un análisis de regresión condicional, es decir, condicionado a los valores dados de los regresores X.

39. Supuestos Clásicos de los MICO 3. El valor medio de es igual a cero. • Los residuos no son más que las desviaciones de la muestra aleatoria con respecto a la FRP. • Los factores que no están incluidos en el modelo, no afectan sistemáticamente el valor esperado de Y. • Los valores positivos de se cancelan con los valores negativos, de tal manera que su efecto promedio sobre Y es cero.

40. Supuestos Clásicos de los MICO 4. Homocedasticidad o igual varianza de . • La variación alrededor de la recta de regresión es la misma para los valores de X, es decir, las perturbaciones se distribuyen con igual dispersión respecto a la media. • y dado el supuesto 2 es equivalente a

41. Homocedasticidad

42. Heterocestadisticidad

43. Supuestos Clásicos de los MICO 5. No autocorrelación entre los . • No existe tendencia de que los errores asociados a una observación estén relacionados a los errores de otra. • Si en un momento de tiempo o en un individuo de la muestra se genera un error positivo, esto no nos da información alguna sobre si el próximo error será positivo o negativo. • Los errores no tienen un patrón de comportamiento sistemático. • Si y están correlacionados, Yt no sólo depende de Xt, sino también de .

44. Supuestos Clásicos de los MICO

45. Supuestos Clásicos de los MICO

46. Supuestos Clásicos de los MICO 6. La covarianza entre y Xi es cero. • Si hay correlación, no es posible saber como afecta individualmente y a la variable Yi. • Este supuesto se cumple inmediatamente si X no es una variable aleatoria (sino que es fija). 7. El número de observaciones debe ser mayor que el de parámetros

47. Supuestos Clásicos de los MICO 8. Variabilidad en los valores de X. • El modelo de MCO requiere que exista una dispersión entre las X para poder calcular los valores de los coeficientes, pues si no, éstos serían una cantidad infinita. • Ejemplo. Si todos los valores de X son idénticos, entonces Por lo cual Y entonces,

48. Supuestos Clásicos de los MICO 9. El modelo de regresión está correctamente especificado • La forma de la FRM es igual a la FRP • El modelo posee las variables correctas: no se incluyen variables irrelevante ni se excluyen relevantes. • La forma funcional es la correcta 10. No hay multicolinealidad perfecta • No hay una relación perfectamente lineal entre las X