5. Equation de la chaleur
d 2u
− 2 ( x) = f ( x), x ∈ ]0,1[ x : position sur une barre de taille 1
dx u(x) : température à la position x
u ( 0) = 0
f(x) : flux de chaleur à la position x
u (1) = 0
Discrétisation
0 h h (N-1)h 1
x0 x1 … xk xk+1 … xN-1 xN
d 2u u ( xk −1 ) − 2u ( xk ) + u ( xk +1 )
− 2 ( xk ) = f ( xk ), k ∈ ]1, N − 1[ − 2
= f ( xk )
dx h
u ( x0 ) = 0 u ( x0 ) = 0
u( x ) = 0 u ( xN ) = 0
N
6. Solution
u ( xk −1 ) − 2u ( xk ) + u ( xk +1 )
− h 2
= f ( xk ) vk = u ( xk )
u ( x0 ) = 0 posons v0 = 0
u ( xN ) = 0 vN = 0
2 −1 0 v1 f ( x1 )
−1 2 −1 v 2 f ( x2 )
1 =
h
2
− 1 2 − 1 v N − 2 f ( x N − 2 )
− 1 2 v N −1 f ( x N −1 )
A x = b
Solution approchée : système linéaire de taille N-1
(matrice tridiagonale)
7. Approximation/interpollation:
moindres carrés
2
1
f(x)
0
-1
yi -2
-3
-4
0 0.2 0.4 0.6 0.8 1 1.2 1.4 1.6 1.8
xi
données : ( xi , yi )i =1,n
k
j −1 k = n interpollation
f ( x) = ∑ α j x
j =1 k n approximation
k n
f ( xi ) = yi ⇔ ∑ α j xi j −1
= yi min ∑ ( f ( xi ) − yi )2
j =1 α i =1
n équations et n inconnues (α k ) approximation au sens
des moindres carrés
8. Approximation au sens des
moindres carrés
2
n n k
min ∑ ( f ( xi ) − yi ) = min J (α ) avec J (α ) = ∑ ∑ α j xi − yi
j −1
2
α i =1 α
i =1 j =1
∂J
principe : α * = argmin J (α ) ⇔ (α *) = 0; j = 1,..., k
α ∂α j
∂J n
k −1 j −1 k
n −1 j −1 n
= 2∑ ∑ α xi − yi xi = 0 ⇔ ∑ α ∑ xi xi = ∑ yi xij −1
∂α j i =1 =1 =1 i =1 i =1
Système linéaire de k équations et k inconnues
9. Posons le problème
matriciellement
k
f ( x) = ∑ α j x j −1 pour ( xi , yi )i =1,n
j =1
α1 + α 2 x11) + ... + α j x1 j −1) + ... + α k x1 k −1) =
( ( (
f ( x1 )
α1 + α 2 x21) + ... + α j x2 j −1) + ... + α k x2k −1) =
( ( (
f ( x2 )
α1 + α 2 xi(1) + ... + α j xi( j −1) + ... + α k xi( k −1) = f ( xi )
α1 + α 2 xn1) + ... + α j xn j −1) + ... + α k xnk −1) =
( ( (
f ( xn )
10. 1 x11) ...
(
x1 j −1) ...
(
x1 k −1)
(
f ( x1 )
Posons le problème
1 x21) ...
(
x2 j −1) ...
(
x2k −1)
(
f ( x2 )
Xa = f
matriciellement =
1 xi(1) ... xi( j −1) ... xi( k −1) f ( xi )
1
xn1) ...
(
xn j −1) ...
(
xnk −1)
(
f ( xn )
α1 + α 2 x11) + ... + α j x1 j −1) + ... + α k x1 k −1) =
( ( (
f ( x1 )
k α1 + α 2 x21) + ... + α j x2 j −1) + ... + α k x2k −1) =
( ( (
f ( x2 )
f ( x) = ∑ α j x j −1
j =1
pour ( xi , yi )i =1,n α1 + α 2 xi(1) + ... + α j xi( j −1) + ... + α k xi( k −1) = f ( xi )
α1 + α 2 xn1) + ... + α j xn j −1) + ... + α k xnk −1) =
( ( (
f ( xn )
11. Posons le problème
matriciellement
k
f ( x) = ∑ α j x j −1 pour ( xi , yi )i =1,n
j =1
=
12. Approximation : version matricielle 2
n n k
min ∑ ( f ( xi ) − yi ) = min J (α ) avec J (α ) = ∑ ∑ α j xi − yi
2
j
α i =1 α i =1 j =0
k
ei = f ( xi ) − yi = ∑ α j xij − yi
j =0
Erreur
d’approximation e = Xα − y
e1 1 x1 h x1 −1 k
y1
α1
l l l o l l
e = 1 x h x k −1 l − y
i i i α j i
l l l o l l
α
e k −1 k
n 1 xi h xi yn
2 2
J (α ) = e = Xα − y
J ' (α ) = 2 X ' ( Xα − y ) J ' (α ) = 0 ⇔ ( X ' X )α = X ' y
Système linéaire de k équations et k inconnues
13. Approximation : version matricielle 2
n n k
min ∑ ( f ( xi ) − yi ) = min J (α ) avec J (α ) = ∑ ∑ α j xi − yi
2
j
α i =1 α i =1 j =0
k
ei = f ( xi ) − yi = ∑ α j xij − yi
j =0
Erreur
d’approximation e = Xα − y Matrice de Vandermonde
k −1 (1735-1796)
e1 1 x1 h x1 y1
α1
l l l o l l
e = 1 x h x k −1 l − y
i i i α j i
l l l o l l
α
e k −1 k
n 1 xi h xi yn
2 2
J (α ) = e = Xα − y
J ' (α ) = X ' ( Xα − y ) J ' (α ) = 0 ⇔ ( X ' X )α = X ' y
Système linéaire de k équations et k inconnues
14. Un problème de base
Une nouvelle
variable explicative
a0 + a1 x11) + ... + a j x1 j ) + ... + am x1 m ) = y1
( ( (
a0 + a1 x21) + ... + a j x2 j ) + ... + am x2m ) = y2
( ( (
l
a0 + a1 xi(1) + ... + a j xi( j ) + ... + am xi( m ) = yi
l
Une nouvelle
a0 + a1 xn1) + ... + a j xn j ) + ... + am xnm ) = yn
( ( (
expérience
(individu)
n équations et m+1 inconnues
Xa=y
15. Que se passe t’il si… ?
• On dispose d’un nouvel individu
a
• on dispose d’une nouvelle variable
• m=n
• mn
• mm X = y
• on recopie deux individus
• on duplique une variable
16. Illustration : système de 2
équations à 2 inconnues
s olution unique pas de s olution
2 2
x x
x1 x1
– une solution unique
a11 x1 + a12 x2 = b1 – pas de solution
a21 x1 + a22 x2 = b2 – une infinité de solution
– solution « triviale » : x1= x2 = 0
Les différents cas
17. Matrices
Tableau de n lignes et k colonnes
a11 a1 j a1k
A = ai1 aij aik
a anj ank
n1
Remarque fondamentale :
on ne peu rien démontrer sans faire référence
à l’application linéaire que la matrice représente
A : Rk → Rn
x y = Ax
linéaire : A(λx + µy ) = λAx + µAy
18. Applications linéaires
soit (ei ∈V )i = 1, k une base de V
soit ( f i ∈ V )i = 1, n une base de W
u : V →W
x y = u ( x)
linéaire : u (λx + µy ) = λu ( x) + µu ( y )
Noyau : u(x) = 0
image : s.e.v engendré par u(ei)
rang = dim(Im(u))
propriétés injective (ker(u) = 0)
surjective Im(u) = V
Par identification, on donne une signification aux colonnes de la matrice