1. Proyecciones Ortogonales: Proceso de Gram-Schmidt
Departamento de Matem´ticas, CCIR/ITESM
a
20 de noviembre de 2010
´
Indice
28.1. Introducci´n . . . . . . . . . . . . . . . . . . .
o . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1
28.2. Ortogonalidad a un espacio . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1
28.3. Proyecci´n ortogonal . . . . . . . . . . . . . .
o . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1
28.4. Proceso de ortogonalizaci´n de Gram-Schmidt
o . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3
28.1. Introducci´n
o
En esta lectura veremos el proceso para ortogonalizar un conjunto de vectores. Este proceso es conocido
como el proceso de Gram-Schmidt.
28.2. Ortogonalidad a un espacio
Teorema
Sea V un espacio vectorial con producto interno •. El vector u es ortogonal a todo vector de
W = Gen{v1 , . . . , vk } si y s´lo si
o
u • vi = 0, para todo i = 1, 2 . . . , k
Demostraci´n o
Si u es ortogonal a todo W , entonces es ortogonal a todo elemento de W . Los elementos vi son tambi´n e
elementos de W . Por tanto, para cada i = 1, 2, . . . , k se cumple u • vi = 0.
Supongamos que para cada i = 1, 2, . . . , k se cumpla u • vi = 0, y sea v un elemento cualquiera de W . Como
W est´ generado por los vi , deben existir ci tales que:
a
v = c1 v1 + · · · + ck vk
Haciendo el producto interno con u:
u • v = c1 u • v1 + · · · + ck u • vk
= c1 · 0 + · · · + ck · 0 = 0
por tanto, u es ortogonal a todo elemento de W .
28.3. Proyecci´n ortogonal
o
Nuestro principal resultado referente a ortoginalidad es el siguiente.
Teorema

2. Suponga que V es un espacio vectorial con producto interno. Y sea b un vector de V y W un
subespacio lineal de V . Si W posee una base ortogonal, entonces
1. Existe z ∈ W tal que b − z ⊥ W .
2. El vector z que cumple lo anterior es unico.
´
3. Para todo y de W : d(z, b) ≤ d(y, b).
Demostraci´n
o
Sea B = {a1 , a2 , . . . , ak } una base ortogonal para W . Definamos
b • a1 b • a2 b • ak
z= a1 + a2 + · · · + ak
a1 • a1 a2 • a2 ak • ak
Por conveniencia representaremos
b • ai
fi =
ai • ai
Veamos que z cumple el requisito 1. De acuerdo al resultado previo debemos probar que (b − z) • ai = 0 para
cada i = 1, 2, . . . , k. Si utilizamos las propiedades del producto interno y la ortogonalidad de B tenemos:
k
(b − z) • ai = b− j=1 fj aj • ai
k
= b• ai − j=1 fj aj • ai
= b• a i − k fj a j • a i
j=1
= b • a i − fi a i • a i
b•a
= b • ai − ai •aii ai • ai
= b • ai − b • ai = 0
Por lo anterior y el teorema previo concluimos que b − z ⊥ W .
Supongamos que el vector y de W tambi´n cumple la condici´n 1. Es decir, que b − y es ortogonal a todo
e o
vector de W . Para probar que y = z, veamos que la magnitud de y − z es cero.
(y − z) • (y − z) = (y − z + b − b) • (y − z)
= (−(b − y) + (b − z)) • (y − z)
= −(b − y) • (y − z) + (b − z) • (y − z)
Como z y y son elementos de W y W es un subespacio lineal, y − z est´ en W . y como los vectores b − z y
a
b − y son perpendicuales a todo vector de W se obtiene que:
(b − y) • (y − z) = 0 y (b − z) • (y − z) = 0
de esta manera tenemos que
(y − z) • (y − z) = 0
Por tanto
2
y−z =0
Y as´ y − z = 0; de donde concluimos que y = z.
ı
Ahora, sea y un vector cualquiera de W , as´
ı:
(b − y) • (b − y) = (b − y + z − z) • (b − y + z − z)
= ((b − z) + (z − y)) • ((b − z) + (z − y))
= (b − z) • (b − z) + (b − z) • (z − y) + (z − y) • (b − z) + (z − y) • (z − y)
= (b − z) • (b − z) + (z − y) • (z − y)
2

3. Por tanto
d(y, b)2 = d(z, b)2 + d(y, z)2
De donde concluimos que d(x, b) ≤ d(y, b) para todo y de W .
Definici´n 28.1
o
Sea V un espacio vectorial con producto interno. Sea u un vector y sea W un subespacio con una base ortogonal
B = {v1 , . . . , vk }. Entonces, la proyecci´n ortogonal de u sobre W es el vector
o
u • v1 u • vk
upr = v1 + · · · + vk
v1 • v1 vk • vk
La diferencia uc = u − up r se llama la componente de u ortogonal a W .
u • v1 u • vk
uc = u − v1 − · · · − vk
v1 • v1 vk • vk
u = upr + uc
El vector upr es el vector de W lo m´s cercano a u y la distancia de u a W es la magnitud del vector uc .
a
28.4. Proceso de ortogonalizaci´n de Gram-Schmidt
o
Sea V un espacio vectorial con producto interno. Todo subespacio W con una base tiene al menos una base
′
ortogonal y una base ortonormal. Si B = {v1 , . . . , vk } es cualquier base de V , entonces B = {u1 , . . . , uk } es
una base ortogonal, donde
u1 = v 1
v
u2 = v2 − u2 •u1 u1
1 •u1
u3 = v3 − u3 • u1 u1 −
v
1 • u1
v3 • u2
u2 • u2 u2
.
.
.
vk • u1 vk • u2 v2 • uk−1
uk = v k − u1 • u1 u1 − u2 • u2 u2 − ··· − uk−1 • uk−1 uk−1
y
Gen{v1 , . . . , vi } = Gen{u1 , . . . , ui }, i = 1, . . . , k
′′ ′
Una Base ortonormal B se obtiene normalizando B .
′′ u1 uk
B = ,...,
u1 uk
El proceso anterior es conocido como proceso de Gram-Schmidt.
Ejemplo 28.1
Determine una base ortogonal y una ortonormal de R3 aplicando el proceso de Gram-Schmidt a la base
B = {v1 , v2 , v3 } , en la cual
     
1 −2 1
v1 =  −1  , v2 =  3  , v3 =  2 
1 −1 −4
Soluci´n Por razones de conveniencia, definamos
o
v j • ui
xij = (1)
ui • uj
3

4. Figura 1: Captura de los vectores del ejemplo 1.
Se toma u1 = v1 . Como v2 • u1 = −6 y u1 • u1 = 3 se tiene x12 = −6/3 y por tanto se tiene:
u2 = v2 − x12 u1
   
−2 1
6
=  3 − −  −1 
3
−1 1
 
0
=  1 
1
Ya que v3 • u1 = −5, v3 • u2 = −2, y u2 • u2 = 2, se tiene que x13 = −5/3 y x23 = −1 y entonces
u3 = v3 − x13 u1 − x23 u2
     
1 1 0
−5 
=  2 − −1  − (−1)  1 
3
−4 1 1
 8 
3
4
=  3

−4
3
As´ la base ortogonal es B ′ = {u1 , u2 , u3 } donde
ı,
     8 
1 0 3
u1 =  −1  , u2 =  1  , u3 =  4 
3
1 1 −4
3
Por ultimo, normalizamos para obtener una base
´ ortonormal B ′′ :
1 2
   
√ 0 √
   
 
3 6 
 
  1  

  
1 
1 
  √   √

′′  −√
B =  , 2 ,
3 6 

   1  
1 1 
 
  √ 
√ −√
 
2

 

3 6
Los c´lculos anteriores pueden llevarse a cabo en la TI 89 o Voyage. La figura 1 contiene la captura de los
a
vectores. Las figuras 2 y 3 contienen los pasos del algoritmo sobre el conjunto de vectores inicial. Las figuras
3 y 4 contienen la normalizaci´n de los vectores resultantes del proceso de Gram-Schmidt.
o La figura 5
4

5. Figura 2: Seguimiento del algoritmo en el ejemplo 1.
Figura 3: Conclusi´n del algoritmo GS e inicio del ortonormalizaci´n.
o o
Figura 4: Ortonormalizaci´n del conjunto.
o
Figura 5: Resultado del ejemplo 1.
5

6. Figura 6: Formaci´n de la matriz para el ejemplo 1.
o
Figura 7: QR en el ejemplo 1.
contiene la matriz cuyas columnas son el resultado del proceso del ortonormalizaci´n completo. El proceso de
o
Gram-Schmidt combinado con el de ortonormalizaci´n est´ implementado en la TI mediante la rutina llamada
o a
factorizaci´n QR. El conjunto de entrada debe estar en las columnas de una matriz. En la figura 6 se ilustra
o
la formaci´n de la matriz cuyas columnas son el conjunto inicial. Note en ella, el uso de la funci´n augment
o o
con punto y coma para la separaci´n de los vectores y el uso de la transpuesta debido a que ellos inicialmente
o
fueron definidos como vectores rengl´n. En la figura 7 se ilustra el uso del comando QR. Note que no se usan
o
par´ntesis debido a que es una rutina y no una funci´n. El primer argumento es la matriz y el segundo y tercero
e o
son variables d´nde se depositar´n los c´lculos. Note que la matriz q resultante contiene en sus columnas el
o a a
mismo resultado de nuestro proceso completo.
Ejemplo 28.2
Determine la m´ ınima distancia de v3 al espacio V que generan v1 y v2 con los datos del problema anterior.
Soluci´n
o
Para este c´lculo debemos cambiar a {v1 , v2 } por una base ortogonal y poder utilizar el resultado sobre la
a
descomposici´n. Por los resultados del problema previo tenemos que una base ortonormal es: B ′ = {u1 , u2 }
o
donde    
1 0
u1 =  −1  , u2 =  1 
1 1
Ya que v3 • u1 = −5, v3 • u2 = −2, y u2 • u2 = 2, entonces
v 3 · u1 v 3 · u2
v3c = v3 − u1 − u2
u1 · u1 u2 · u2
     
1 1 0
−5  −2  
=  2 − −1  − 1
3 2
−4 1 1
 8 
3
4
=  3

−4
3
6

7. Figura 8: Datos y ortonormalizaci´n del ejemplo 2.
o
Figura 9: C´lculos finales del ejemplo 2.
a
Por lo tanto la distancia de v3 a V es
4√
||v3c || = (8/3)2 + (4/3)2 + (−4/3)2 = 6
3
En la figura 8 se ilustra la forma de realizar los c´lculos del ejemplo 2 en la TI. Note que el vector v3 se
a
defini´ como rengl´n, y por ello el uso de v3 T . Aplicando el concepto de multiplicaci´n de una matriz por un
o o o
vector,
la expresi´n qT v3 T calcular´ < u1 • v3 , u2 • v3 > (Recuerde que ui • ui = 1).
o a
la expresi´n q qT v3 T calcular´
o a
pr = (u1 • v3 ) u1 + (u2 • v3 ) u2
En la figura 9 se obtiene la distancia m´
ınima de v3 al espacio generado por v1 y v2 :
32 4√
d = v3 − pr = = 6
3 3
Ejemplo 28.3
Calcule una base ortogonal y una ortonormal de R3 aplicando el proceso de Gram-Schmidt a la base B , en
la cual
     
 2 0 1 
B =  −1  ,  3  ,  2 
1 −1 0
 
Soluci´no
Utilizando      
2 0 1
v1 =  −1  , v2 =  3  , v3 =  2 
1 −1 0
7

8. Iniciemos con u1 = v1 . Como v2 • u1 = −4 y u1 • u1 = 6 en ese caso
v 2 • u1
u2 = v 2 − u1
u1 • u1
   
0 2
−4
=  3 −  −1 
6
−1 1
 4 
3
7
=  3

1
−3
22
Ya que v3 • u1 = 1, v3 • u2 = 6, y u2 • u2 = 3 , entonces
v 3 • u1 v 3 • u2
u3 = v 3 − u1 − u2
u1 • u1 u2 • u2
4
     
1 2
1 −6 3
7
=  2 −  −1  −
22

3

6
0 1 3 −1
3
 14 
− 33
=  17 
66
7
− 66
As´ la base ortogonal es B ′ = {u1 , u2 , u3 } donde
ı
   4   14 
2 3 − 33
u1 =  −1  , u2 =  7  , u3 =  66 
3
17
1 −1
3
7
66
O sea    4   14 
 2 3 − 33 
′
B =  −1  ,  7  ,  17 
3 66
1 −1 7
 
3 66
Por ultimo normalizamos para obtener una base ortonormal B ′′ :
´

1
  √4   − √ 28 
66 1122
 
 2 
√7  ,  √ 17
′′
1  
B =  −4 , 

66   1122 
1
− √1 7
− √1122 

 
4 66
Ejemplo 28.4
Calcule una base ortogonal y una ortonormal de R3 aplicando el proceso de Gram-Schmidt a la base B , en
la cual
      
 1 4 1 
B = v1 =  −2  , v2 =  3  , v3 =  2 
1 −5 3
 
8

9. Soluci´n
o
Iniciamos con u1 = v1 . Como v2 • u1 = −7 y u1 • u1 = 6 en ese caso
u2 = v2 − u2 · u1 u1
v
1 · u1
   
4 1
=  3  − −7  −2 
6
−5 1
 31 
6
2
=  3

− 23
6
13 251
Ya que v3 • u1 = 0, v3 • u2 = 2 , y u2 • u2 = 6 , entonces
v 3 • u1 v 3 • u2
u3 = v 3 − u1 − u2
u1 • u1 u2 • u2
31
     
1 1 13 6
0 2
=  2 − 6
 −2  − 2
251

3

6 23
3 1 −6
 99 
502
476
=  251

1805
502
As´ la base ortogonal es B ′ = {u1 , u2 , u3 } donde
ı
7 99
     
 1 6 502 
2 476
B ′ =  −2  ,  3
, 
251

1 1805
1
 
6 502
Por ultimo, normalizamos para obtener una base ortonormal
´ B ′′ :

1
  √7  
√ 99

66 3494402
 
 4 
B ′′ =  − 1  ,  √2  , √ 952
   
2 66  3494402 
1
√1 √ 1805

 

4 66 3494402
9