1. Regresión Lineal Simple Ing. Luis Pedro Rico Hernández
Análisis de regresión lineal y correlación lineal
El objetivo primordial del análisis de regresión lineal es estimar el valor de una
variable aleatoria (la variable dependiente) dado que el valor de una variable
asociada (la variable independiente) es conocido. La variable dependiente también
se llama variable de respuesta, mientras que la variable independiente también se
llama variable de predicción. La ecuación de regresión es la formula algebraica por
la cual se determina el valor estimado de la variable dependiente, o de respuesta.
El termino análisis de regresión simple indica que el valor de una variable
dependiente se estima con base a una variable independiente, o de predicción. El
análisis de regresión múltiple, se ocupa de la estimación del valor de una variable
dependiente con base en dos o más variables independientes.
Diagrama de dispersión
Un diagrama de dispersión es una gráfica en la que cada punto trazado respeta un
par de valores observados de las variables independiente y dependiente. El valor
de la variable independiente X se identifica respecto al eje horizontal, mientras que
el valor de la variable dependiente Y se identifica respecto al eje vertical.
La forma de la relación representada por el diagrama de dispersión puede ser
curvilínea más que lineal. En el caso de las relaciones no lineales, un enfoque
consiste en determinar un método de transformación de valores de una o ambas
variables a fin de que la relación de los valores transformados sea lineal.
Si el diagrama de dispersión indica en general una relación lineal, se ajusta una
línea recta a los datos. La ubicación precisa de esta línea es determinada por el
método de mínimos cuadrados.
Tal como se indica en el siguiente esquema, una linea de regresión con pendiente
positiva indica una relación directa entre las variables, una pendiente negativa
indica una relación inversa entre las variables y una pendiente de cero indica que
las variables no tienen relación entre sí. Además, el grado de dispersión vertical de
los puntos trazados respecto de la línea de regresión indica el grado de relación
entre las dos variables.
1
2. Regresión Lineal Simple Ing. Luis Pedro Rico Hernández
La figura incluye varios diagramas de dispersión y sus líneas de regresión
asociadas en demostración de varios tipos de relaciones entre las variables.
Método de mínimos cuadrados para el ajuste de un alinea de regresión
La ecuación lineal que representa el modelo de regresión lineal simple es:
Yi= α + βxi + ε
Donde:
Yi = Valor de la variable dependiente en el iésimo ensayo, u observación.
α = Primer parámetro de la ecuación de regresión, el cual indica el valor de Y
cuando X=0.
β = Segundo parámetro de la ecuación de regresión, el cual indica la pendiente de
la línea de regresión.
xi = El valor especifico de la variable independiente, en el iésimo ensayo u
observación.
ε = Error del muestro aleatorio en ele iésimo ensayo u observación.
Donde el error del modelo debe necesariamente tener una medida de cero. Cada
observación (xi, yi) en la muestra satisface la ecuación.
Yi= α + βxi + ε
2
3. Regresión Lineal Simple Ing. Luis Pedro Rico Hernández
La ecuación anterior puede considerarse como el modelo para una sola
observación yi. De manera similar al utilizar la línea de regresión estimada o
ajustada:
ŷ = a + b(x)
Dependiendo del criterio matemático utilizado, para un diagrama de dispersión
dado pueden desarrollarse varias ecuaciones lineales diferentes. De acuerdo con
el criterio de mínimos cuadrados, la línea de regresión del mejor ajuste (y la mejor
ecuación) es aquella para el cual se reduce al mínimo la sima de las desviaciones
cuadradas entre los valores estimado y real de la variable dependiente parra los
datos muéstrales. La formulas de cálculos por las cuales pueden determinarse los
valores de a y b en la ecuación de regresión para la ecuación que satisface el
criterio de mínimos cuadrados son:
Estimación de los coeficientes de regresión. Dada la muestra {(xi,yi), i=
1,2,3…n}, las estimaciones de mínimos cuadrados a y b de los coeficientes de
regresión se calculan por medio de las fórmulas:
3
4. Regresión Lineal Simple Ing. Luis Pedro Rico Hernández
Ejemplo: uno de los problemas más desafiantes para el control de la
contaminación del agua lo presenta la industria del curtido de pieles. Los desechos
de esta industria son químicamente complejos. Se caracterizan por valores
elevados de en la demanda de oxigeno bioquímico, los sólidos volátiles y otras
mediciones de contaminación. Considera los datos experimentales de la tabla, los
cuales se obtuvieron de 33 muestras de desperdicios que se tratan químicamente
en el estudio “chemical Treatment on Spent Vegatable Tan Liquor”. Determine la
ecuación que establece la recta de regresión lineal, realice el diagrama de
dispersión.
Al usar la recta de regresión se podría pronosticar una reducción del 31% de la
demanda química de oxigeno cuando la reducción total de sólidos es del 30%.
Esta reducción del 31% puede interpretarse como una estimación de una nueva
estimación cuando la reducción total de sólidos es de 30%.
Tales estimaciones, sin embargo están sujetas a un error. Aun cuando el
experimento este controlado de tal forma que la reducción total de sólidos sea de
30%, es probable que no se mida una reducción de la demanda química de
oxigeno exactamente igual a 31%. De hecho los datos registrados originalmente
muestran que las mediciones de 25% y 35% se obtuvieron para la reducción de la
demanda química de oxigeno cuando la reducción total de los sólidos totales se
mantuvieron al 30%
4
6. Regresión Lineal Simple Ing. Luis Pedro Rico Hernández
Herná
Línea de Regresión Ajustada
60
Demanda de Oxigeno Quimico %
50 y = 0.9036x + 3.8296
R² = 0.9129
40
30
20
Series1
10
0
0 10 20 30 40 50 60
Reducción de solidos %
Ejercicio 2
Las calificaciones de un grupo de estudiantes en su reporte de medio año (x) y en
los exámenes finales (y) fueron los siguientes.
x 77 50 71 72 81 94 96 99 67
y 82 66 78 34 47 85 99 99 68
a) Estime la línea de regresión lineal
b) Estime la calificación de examen final de un estudiante que obtuvo una
calificación de 85 en el reporte de medio año.
6
7. Regresión Lineal Simple Ing. Luis Pedro Rico Hernández
Herná
Solución:
(xi) (Yi) (Xi)(Yi) (Xi)^2
77 82 6314 5929
50 66 3300 2500
71 78 5538 5041
72 34 2448 5184
81 47 3807 6561
94 85 7990 8836
96 99 9504 9216
99 99 9801 9801
67 68 4556 4489
∑=707 ∑= 658 ∑= 53258 ∑= 57557
N= 9
b= 0.7771416
a= 12.0623211
Y= 78.119357 Calificación final alumno con 85 en el parcial
Línea de Regresión Ajustada
120 y = 0.777x + 12.06
100 R² = 0.314
Examen Final
80
60
40 Series1
20 Lineal (Series1)
0
0 20 40 60 80 100 120
Examen Parcial
7
8. Regresión Lineal Simple Ing. Luis Pedro Rico Hernández
Ejercicio3
Se llevó a cabo un estudio acerca de la cantidad de azúcar refinada mediante un
cierto proceso a varias temperaturas diferentes. Los datos se codificaron y se
registraron en el cuadro siguiente.
Temperatura, X Azúcar transformada, Y
1 8.1
1.1 7.8
1.2 8.5
1.3 9.8
1.4 9.5
1.5 8.9
1.6 8.6
1.7 10.2
1.8 9.3
1.9 9.2
2 10.5
a) Determine la ecuación de regresión lineal.
b) Calcule la cantidad promedio de azúcar refinada que se produce cuando la
temperatura codificada es 1.75.
(xi) (Yi) (Xi)(Yi) (Xi)^2
1 8.1 8.1 1
1.1 7.8 8.58 1.21 N= 11
1.2 8.5 10.2 1.44 b= 1.80909091
1.3 9.8 12.74 1.69 a= 6.41363636
1.4 9.5 13.3 1.96 Y= 9.57954545
1.5 8.9 13.35 2.25
1.6 8.6 13.76 2.56
1.7 10.2 17.34 2.89
1.8 9.3 16.74 3.24
1.9 9.2 17.48 3.61
2 10.5 21 4
∑=16.5 ∑= 100.4 ∑= 152.59 ∑= 25.85
Azúcar convertida a una temperatura de 1.75
8
9. Regresión Lineal Simple Ing. Luis Pedro Rico Hernández
Herná
Línea de Regresión Ajustada
12
y = 1.809x + 6.413
10 R² = 0.499
Azucar Convertida
8
6
Series1
4
Lineal (Series1)
2
0
0 0.5 1 1.5 2 2.5
Temperatura del Proceso
Ejercicio 4
Un comerciante a menudeo llevó a cabo un estudio para determinar la relación
entre los gastos de publicidad semanal y las ventas, se obtuvieron los siguientes
datos.
Costos de
publicidad ($) Ventas ($)
40 385
20 400
25 395
20 365
30 475
50 440
40 490
20 420
50 560
40 525
25 480
50 510
9
10. Regresión Lineal Simple Ing. Luis Pedro Rico Hernández
a) Dibuje el diagrama de dispersión.
b) Encuentre la ecuación de la línea de regresión para pronosticar las ventas
semanales resultantes de los gastos de publicidad.
c) Estime las ventas semanales cuando los gastos de publicidad ascienden a
$35.
600
500
400
300
200 Series1
100
0
0 20 40 60
(xi) (Yi) (Xi)(Yi) (Xi)^2
40 385 15400 1600
20 400 8000 400
25 395 9875 625
20 365 7300 400
30 475 14250 900
50 440 22000 2500
40 490 19600 1600
20 420 8400 400
50 560 28000 2500
40 525 21000 1600
25 480 12000 625
50 510 25500 2500
∑= 410 ∑= 5445 ∑= 191325 ∑= 15650
N= 12
b= 3.22081218
a= 343.705584
Y= 456.43401 Donde los costos de publicidad sean $35 dólares
10
11. Regresión Lineal Simple Ing. Luis Pedro Rico Hernández
Herná
Línea de Regresión Ajustada
600 y = 3.220x + 343.7
R² = 0.403
500
400
Ventas ($)
300
Series1
200
100 Lineal (Series1)
0
0 10 20 30 40 50 60
Costos de Publicidad ($)
Ejercicio 5
En un estudio acerca de la cantidad de precipitación pluvial y la cantidad de
contaminación de aire eliminada, se obtuvieron los siguientes datos.
Lluvia diaria, x Partículas eliminadas, y
(0.01 cm) (migramos por metro cubico)
4.3 126
4.5 121
5.9 116
5.6 118
6.1 114
5.2 118
3.8 132
2.1 141
7.5 108
a) Determine la ecuación de línea de regresión para pronosticar las partículas
removidas, a partir de la cantidad de precipitación pluvial diaria.
b) Estime la cantidad de partículas removidas cuando la precipitación pluvial
diaria es x = 4.8 unidades.
11
13. Regresión Lineal Simple Ing. Luis Pedro Rico Hernández
Ejercicio 6
Se presentan datos muéstrales relativos al número de horas de estudio fuera de
clases durante un periodo de tres semanas de alumnos de un curso de estadística
aplicada a la administración y a sus calificaciones en el examen final de ese
periodo. Elabore un diagrama de dispersión para estos datos y determine la
ecuación de regresión que establece su linealidad.
Resp. ŷ = a + b(x) = ŷ = 40 + 1.5(x)
Análisis de correlación
Así como el análisis de regresión permite obtener una fórmula que expresa la
relación entre dos o más variables, el análisis de correlación obtiene un índice que
muestra el grado de relación entre dos o más variables.
El coeficiente de correlación lineal, desarrollado por el matemático ingles Karl
Pearson (1857-1936) y conocido con la letra r, puede tomar valores desde -1
hasta +1. Son estos extremos que manifiestan una relación lineal perfecta
(negativa o positiva). Según se ejemplifican en los diagramas de dispersión
mostrados en el siguiente esquema:
13
14. Regresión Lineal Simple Ing. Luis Pedro Rico Hernández
Procedimiento de análisis de varianza
Con frecuencia el problema de analizar la calidad de una línea de regresión
estimada se maneja a través de un enfoque de análisis de varianza. Esto es
meramente un procedimiento por medio del cual la variación total de la variable
dependiente se subdivide en componentes significativas que se observan y se
tratan en forma sistemática. El análisis de varianza es un poderosa herramienta en
muchas aplicaciones.
Supóngase que se tiene n puntos de datos experimentales en la forma usual (xi
,yi), y que se estima la línea de regresión . De tal forma que se ha logrado una
participación de la suma total corregida de los cuadrados de y, y en dos
componentes que deben reflejar el significado particular para el experimentador.
Esta participación se indicara simbólicamente:
SST=SSR+SSE
El primer componente de la derecha recibe el nombre de la suma de cuadrados
de regresión y refleja la cantidad de variación de los valores de y explicados por
el modelo, en este caso la línea recta postulada. El segundo componente es solo
la suma de cuadrados del error ya familiar, que refleja la variación alrededor de la
línea de regresión.
14
15. Regresión Lineal Simple Ing. Luis Pedro Rico Hernández
Correlación
Por ejemplo, si X y Y representa la longitud y la circunferencia de una clase
particular de hueso en el cuerpo de un adulto, se podría llevar a cabo un estudio
antropológico para determinar si valores grandes de X se asocian con valores
grandes de Y. Si X representa la antigüedad de un automóvil usado y Y su valor
en libros, se esperaría que los valores grandes de X correspondieran a valores
pequeños de Y, y que valores pequeños de X correspondieran a valores grandes
de Y.
El análisis de correlación intenta mediar la fuerza de tales relaciones entre dos
variables por medio de un simple número que recibe el nombre de coeficiente de
correlación.
Coeficiente de correlación
La constate (rho) ó r2 recibe el nombre de coeficiente de correlación. Es
importante la interpretación física del coeficiente de correlación y la distinción entre
correlación y regresión. El valor de r es cero cuando no hay regresión lineal, esto
es, la línea de regresión es horizontal y cualquier conocimiento de X no es de
utilidad para predecir Y. -1 ≤ r ≤ 1. Los valores de r = 1sólo ocurren cuando s2=0,
en cuyo caso se tiene una relación lineal perfecta entre las dos variables.
Entonces un valor de r = 1 implica una relación lineal perfecta con una pendiente
positiva. Mientras que un valor de r = -1 indica una relación lineal perfecta con
pendiente negativa. Se podría decir que estimaciones muéstrales de r (rho)
cercanas a la unidad en magnitud implican buena correlación entre X y Y, mientras
que valores cercanos a cero indican poco o ninguna correlación. Es común
referirse a r como momento de pearson.
15
16. Regresión Lineal Simple Ing. Luis Pedro Rico Hernández
Coeficiente de Determinación
Para valores de r entre – 1 y + 1 se debe ser cuidadoso en su interpretación. Por
ejemplo, valores de r iguales que 0.3 y 0.6 significan únicamente que se tienen
dos correlaciones positivas, un algo mayor que la otra. Es un error concluir que r =
0.6 indica una relación lineal de dos veces mayor que la indicada por el valor r =
0.3.
Nota: SSR = SST
ó
Entonces r2, a la que comúnmente se le llama coeficiente de determinación,
representa la proporción de la variación de Syy explicada por la regresión de Y en
x, es decir, SRR. Esto es r2 expresa la proporción de la variación total de los
valores de la variable Y que se pueden contabilizar o explicar por una relación
lineal con los valores de la variable aleatoria X.
Entonces una correlación de 0.6 significa que 0.36 o 36% de la variación total
de los valores de Y en la muestra se deben a una relación lineal con los
valores de X.
16
17. Regresión Lineal Simple Ing. Luis Pedro Rico Hernández
En el ejemplo siguiente se muestra cómo calcular el coeficiente o índice de
correlación lineal para un conjunto de datos. Tomando de base el ejemplo sobre la
demanda bioquímica de oxigeno.
17
