SlideShare une entreprise Scribd logo
1/34
Introduction à l’algorithmique :
Complexité
Serge Haddad
LSV, ENS Paris-Saclay & CNRS & Inria
L3
1 Equations de récurrence
2 Complexité amortie
3 Complexité en moyenne
4 Bornes inférieures de complexité
2/34
Problèmes et instances
Problèmes
I Connexité d’un graphe
I Tri d’un tableau
Instances
1
2
3
4
→ true 7 3 5 1

→ 1 3 5 7
3/34
Taille d’une instance
Choix d’une représentation.
Un graphe de n sommets et m arcs peut être représenté par :
I un tableau de n listes d’indices de sommets : Θ(n + m log(n)) ;
I une matrice n × n de booléens : Θ(n2
).
f ∈ O(g) ssi ∃n0, C  0 ∀n ≥ n0 f(n) ≤ Cg(n),
f ∈ Ω(g) ssi g ∈ O(f), f ∈ Θ(g) ssi f ∈ O(g) ∩ Ω(g).
Selon la nature des problèmes, les entiers sont considérés :
I de taille constante (borne connue a priori)
I de taille variable,
1. généralement en représentation binaire d’où ∼ log(n) bits pour n ;
2. en représentation unaire d’où ∼ n bits pour n lorsqu’on désire mesurer l’impact
des entiers sur la complexité des problèmes.
Abstraction de la taille des instances.
I la « taille » du graphe est m + n ;
I si analyse multi-paramètres, la « taille » du graphe est (n, m).
4/34
Mesures de complexité
Deux mesures usuelles :
I le temps d’exécution ;
I la mémoire occupée.
Quel cas considérer pour une taille d’instance fixée ?
I le pire cas d’exécution ;
I le cas moyen qui suppose une distribution sur les instances de même taille ;
I le meilleur cas (rarement étudié).
Comment s’abstraire de l’évolution des machines ?
I temps d’exécution symbolique : X ← E, if c then . . . en 1 unité de temps ;
I opérations significatives : nombre de comparaisons pour un tri.
5/34
Complexité asymptotique
On s’intéresse à l’évolution de la complexité en fonction de la taille n :
I tmax(n) = max(t(I) | I instance de taille n) ;
I tmoy(n) = E(t(I)) où I est une instance de taille n
aléatoirement choisie selon la distribution spécifiée.
Illustration : Tri par insertion.
For i from 2 to n do
x ← T[i] ; j ← i − 1
While j  0 and T[j]  x do T[j+1] ← T[j] ; j ← j−1
T[j + 1] ← x
• T = (n, n − 1, . . . , 1) ⇒ tmax(n) = Θ(n2
)
• Supposons que le contenu de T[i] est choisi dans {i, i + 1, . . .}
avec Pr(T[i] = j) = 2−(j−i+1)
.
tmoy(n) = Θ(n)
6/34
Plan
1 Equations de récurrence
Complexité amortie
Complexité en moyenne
Bornes inférieures de complexité
7/34
Intérêt des équations de récurrence (1)
Calcul récursif du maximum d’un tableau (n = 2k
).
Max(T, n)
If n = 1 then return(T[1]) ;
For i from 1 to n
2
do
If T[2 ∗ i − 1]  T[2 ∗ i] then
Tbis[i] ← T[2 ∗ i] ;
Else
Tbis[i] ← T[2 ∗ i − 1] ;
return(Max(Tbis, n
2
)) ;
t(n) = t(
n
2
) + Θ(n)
8/34
Intérêt des équations de récurrence (2)
Recherche dichotomique dans un tableau trié (n = 2k
− 1).
Cherche(x, T, deb, fin)
i ← bdeb+fin
2 c ;
If x = T[i] then return(i) ;
If x  T[i] then
If i = fin then return(false) ;
return(Cherche(x, T, i + 1, fin)) ;
Else
If i = deb then return(false) ;
return(Cherche(x, T, deb, i − 1)) ;
t(n) = t(
n − 1
2
) + Θ(1)
9/34
Intérêt des équations de récurrence (3)
Produit de matrices par bloc (n = 2k
).
Prod(A, B, n)
If n = 1 then return(A[1, 1] ∗ B[1, 1]) ;
C[1, n
2
][1, n
2
] ← Prod(A[1, n
2
][1, n
2
], B[1, n
2
][1, n
2
], n
2
)
+ Prod(A[1, n
2
][n
2
+ 1, n], B[n
2
+ 1, n][1, n
2
], n
2
) ;
C[1, n
2
][n
2
+ 1, n] ← Prod(A[1, n
2
][1, n
2
], B[1, n
2
][n
2
+ 1, n], n
2
)
+ Prod(A[1, n
2
][n
2
+ 1, n], B[n
2
+ 1, n][n
2
+ 1, n], n
2
) ;
C[n
2
+ 1, n][1, n
2
] ← Prod(A[n
2
+ 1, n][1, n
2
], B[1, n
2
][1, n
2
], n
2
)
+ Prod(A[n
2
+ 1, n][n
2
+ 1, n], B[n
2
+ 1, n][1, n
2
], n
2
) ;
C[n
2
+ 1, n][n
2
+ 1, n] ← Prod(A[n
2
+ 1, n][1, n
2
], B[1, n
2
][n
2
+ 1, n], n
2
)
+ Prod(A[n
2
+ 1, n][n
2
+ 1, n], B[n
2
+ 1, n][n
2
+ 1, n], n
2
) ;
return(C) ;
t(n) = 8t(
n
2
) + Θ(n2
)
10/34
Une équation générique
Soit t : N 7→ R+
, une fonction croissante à partir d’un certain rang telle qu’il existe
des entiers n0 ≥ 1, b ≥ 2, k ≥ 0, a  0, c  0 et d  0 pour lesquels :
t(n0) = d
t(n) = at(n/b) + cnk
pour n = n0bp
avec p ≥ 1
Alors :
t(n) =



Θ(nk
) si a  bk
⇔ logb(a)  k
Θ(nk
logb(n)) si a = bk
⇔ logb(a) = k
Θ(nlogb(a)
) si a  bk
⇔ logb(a)  k
Interprétation.
t, le (pire) temps d’exécution d’une fonction récursive croît avec la taille.
a, nombre de sous-problèmes à résoudre
b, facteur de réduction de la taille
nk
, ordre de grandeur du temps d’un appel sans les appels récursifs
11/34
Preuve de l’équation
Posons n = n0bp
. Alors par récurrence, on obtient :
t(n) = dap
+
p−1
X
i=0
cai
(n/bi
)k
= dap
+ cnk
p−1
X
i=0
(a/bk
)i
Or dap
= d(blogb(a)
)p
= d(bp
)logb(a)
= d
n
logb(a)
0
nlogb(a)
= Θ(nlogb(a)
).
Posons γ(n) =
Pp−1
i=0 (a/bk
)i
. On a :
I si a/bk
 1 alors γ(n) ∼ 1
1−a/bk ⇒ γ(n) = Θ(1)
I si a/bk
= 1 alors k = logb(a) et γ(n) = p = logb(n) − logb(n0) ∼ logb(n)
I si a/bk
 1 alors γ(n) ∼ α ap
bkp avec α = (a/bk
− 1)−1
⇒ cnk
γ(n) ∼ αcnk
0ap
= Θ(nlogb(a)
)
Soit n ≥ n0 et p tel que n0bp
 n ≤ n0bp+1
.
t(n0bp
) ≤ t(n) ≤ t(n0bp+1
) et t(n0bp
) = Θ(t(n0bp+1
)).
12/34
Généralisation de l’équation
Soit t : N 7→ R+
, une fonction croissante à partir d’un certain rang telle qu’il existe
une fonction f : N 7→ R+
, des entiers n0 ≥ 1, b ≥ 2, k ≥ 0, a  0 et d  0 pour
lesquels :
t(n0) = d
t(n) = at(n/b) + f(n) pour n = n0bp
avec p  1
Alors :
t(n) =















Θ(f(n)) si a  bk
et f(n) = Ω(nk
)
et af(n/b) ≤ cf(n) avec 0  c  1
Θ(nlogb(a)
logb(n)) si f(n) = Θ(nlogb(a)
)
Θ(nlogb(a)
) si a  bk
et f(n) = O(nk
)
Interprétation : f(n) « se comporte » comme nk
.
13/34
Applications de l’équation
Calcul récursif du maximum d’un tableau t(n) = t(n
2 ) + Θ(n)
a = 1, b = 2, k = 1 ⇒ a  bk
⇒ t(n) = Θ(n)
Recherche dichotomique dans un tableau trié t(n) = t(n−1
2 ) + Θ(1)
a = 1, b = 2, k = 0 ⇒ a = bk
⇒ t(n) = Θ(log(n))
Produit de matrices par bloc t(n) = 8t(n
2 ) + Θ(n2
)
a = 8, b = 2, k = 2 ⇒ a  bk
⇒ t(n) = Θ(nlog2(8)
) = Θ(n3
)
On peut réduire le nombre de multiplications à 7. D’où t(n) = Θ(nlog2(7)
).
14/34
Sous-problèmes de taille différente
Soient α1, . . . , αk : N 7→ N, des fonctions telles qu’il existe un nombre réel
0  K  1 et n0 un entier avec :
∀n  n0 α1(n) + . . . + αk(n) ≤ Kn
Si une fonction t : N 7→ R vérifie avec b  0 un réel :
∀n ≤ n0 t(n) ≤ a0
∀n  n0 t(n) ≤ t(α1(n)) + . . . + t(αk(n)) + bn
Alors : t(n) = O(n)
Interprétation.
k appels récursifs
αi(n), taille du ième sous-problème associé au problème de taille n
K, facteur de réduction de la taille cumulée
n, ordre de grandeur du temps d’un appel sans les appels récursifs
15/34
Preuve
Démontrons par récurrence que t(n) ≤ Dn + a0 avec :
D =
b + (k − 1)a0
1 − K
d’où DK + b = D − (k − 1)a0
Cette inégalité est vérifiée pour n ≤ n0.
Si n  n0 alors :
t(n) ≤ t(α1(n)) + . . . + t(αk(n)) + bn
≤ ka0 + D(α1(n) + . . . + αk(n)) + bn
≤ ka0 + (DK + b)n
= ka0 + (D − (k − 1)a0)n
= Dn + a0 + (k − 1)a0(1 − n)
≤ Dn + a0
16/34
Plan
Equations de récurrence
2 Complexité amortie
Complexité en moyenne
Bornes inférieures de complexité
17/34
Analyse amortie : illustration
Soit cpt, un compteur de n bits, qu’on peut incrémenter ainsi :
Increment(cpt)
i ← 1 ; cpt[i] ← cpt[i] + 1 mod 2 ;
While i  n and cpt[i] = 0 do i ← i + 1 ; cpt[i] ← cpt[i] + 1 mod 2 ;
Quelle est la complexité de la boucle suivante ?
For i from 1 to k do Increment(cpt) ;
Une analyse superficielle :
I au plus n modifications de bit par incrémentation ;
I d’où une complexité en O(kn).
Une analyse plus approfondie :
I Le ième bit est modifié toutes les 2i−1
incrémentations ;
I d’où une complexité en
3
Pn
i=1
 k
2i−1

≤ 3
Pn
i=1( k
2i−1 + 1) ≤ 6k + 3n = Θ(k + n).
18/34
Méthode du potentiel
Un potentiel pot est une fonction de l’ensemble des états dans N.
Notons s
op
−
→ s0
l’exécution de op depuis l’état s conduisant à l’état s0
.
Soit t(op), le temps d’exécution de op.
Alors le temps d’exécution amorti (par le potentiel pot) est défini par :
a(op) = t(op) + pot(s0
) − pot(s)
Soit une exécution d’un programme s0
op1
−
−
→ s1 · · ·
opk
−
−
→ sk
Alors
Pk
i=1 a(opi) =
Pk
i=1 t(opi) + pot(sk) − pot(s0)
D’où :
k
X
i=1
t(opi) ≤
k
X
i=1
a(opi) + pot(s0)
Observations.
I Le potentiel reflète la complexité « cachée dans l’état ».
I Le choix d’un potentiel approprié facilite le calcul de la complexité.
19/34
Un potentiel pour le compteur
Increment(cpt)
i ← 1 ; cpt[i] ← cpt[i] + 1 mod 2 ;
While i  n and cpt[i] = 0 do i ← i + 1 ; cpt[i] ← cpt[i] + 1 mod 2 ;
On définit pot comme trois fois le nombre de bits du compteur à 1.
Deux cas d’incrémentation.
I cpt  2n
− 1 : t(Increment) = 3 + 3n0
avec n0
tours de boucle
et le potentiel décroît de 3(n0
− 1) d’où a(Increment) = 6 ;
I cpt = 2n
− 1 : t(Increment) = 3 + 3(n − 1)
et le potentiel décroît de 3n d’où a(Increment) = 0 ≤ 6.
For i from 1 to to k do Increment(cpt) ;
La complexité amortie de la boucle est inférieure ou égale à 6k.
La complexité de la boucle est inférieure ou égale à 6k + 3n.
20/34
Gestion d’une pile
PT pointeur sur un tableau ; n = 1 taille du tableau ; top = 0 sommet de pile ;
Empiler(v) ;
PT2 pointeur sur un tableau ; i indice ;
top ← top + 1 ;
If top  n then
PT2 ← Allouer(f(n)) ;
For i from 1 to n do (∗PT2)[i] ← (∗PT)[i] ;
Liberer(∗PT) ; PT ← PT2 ; n ← f(n) ;
(∗PT)[top] ← v ;
f doit vérifier f(n)  n ... mais comment choisir f(n) ?
f(n) = 2n est un bon choix.
21/34
Un potentiel pour la pile
Quelle est la complexité de la boucle suivante ?
For i from 1 to k do Empiler(v) ;
Plus top est proche de n, plus grand est le risque de débordement :
Pot = 2top − n + 1
Analyse amortie.
I Il n’y a pas de débordement. t(Empiler(v)) = 3 et Pot croît de 2.
D’où a(Empiler(v)) = 5.
I Il y a un débordement. t(Empiler(v)) = 7 + n et Pot décroît de n + 1 à 3.
D’où a(Empiler(v)) = 9.
La complexité amortie de la boucle est inférieure ou égale à 9k.
La complexité de la boucle est inférieure ou égale à 9k.
22/34
Plan
Equations de récurrence
Complexité amortie
3 Complexité en moyenne
Bornes inférieures de complexité
23/34
Complexité en moyenne
Un arbre binaire de recherche est une structure de données permettant :
I d’insérer des enregistrements ;
I de supprimer des enregistrements ;
I de rechercher des enregistrements par leur clé.
Propriétés.
I Chaque noeud de l’arbre contient un enregistrement ;
I Chaque noeud de l’arbre a (éventuellement) un fils gauche et un fils droit ;
I La clé d’un noeud est supérieure aux clés de son sous-arbre gauche
et inférieure aux clés de son sous-arbre droit.
24/34
Un arbre binaire de recherche
8
4 11
0 6 9
5 7
Seules les clés sont présentées.
25/34
Recherche et insertion
Recherche par clé. La valeur est comparée à la clé de la racine :
I S’il y a égalité, on renvoie l’enregistrement ;
I Si la valeur est plus petite (resp. grande) et la racine a un fils gauche
(resp. droit) on itère le procédé à partir du fils gauche (resp. droit) ;
I Sinon la recherche est infructueuse.
8
4 11
0 6 9
10
5 7
Insertion. On applique la recherche puis on ajoute le fils manquant.
La complexité de ces opérations dépend linéairement de la hauteur de l’arbre.
26/34
Hypothèse probabiliste
Considérons un arbre binaire obtenu par insertion des clés {1, . . . , n}
dans un ordre obtenu par une permutation tirée uniformément.
Quelle est la hauteur moyenne de l’arbre aléatoire ainsi formé ?
Soit hn la hauteur (aléatoire) de cet arbre.
On introduit :
I fn = 2hn
, la hauteur exponentielle de l’arbre.
I fn,i, la hauteur exponentielle sachant que i est la première clé insérée.
27/34
Raisonnement probabiliste
On observe que si i est la première clé insérée,
I les clés {1, . . . , i − 1} sont insérées dans le sous-arbre gauche
selon une permutation uniforme ;
I les clés {i + 1, . . . , n} sont insérées dans le sous-arbre droit
selon une permutation uniforme.
D’où :
fn,i = 21+max(hi−1,hn−i)
= 2 · 2max(hi−1,hn−i)
≤ 2(2hi−1
+ 2hn−i
) = 2(fi−1 + fn−i)
D’où :
E(fn) =
1
n
n
X
i=1
E(fn,i)
≤
1
n
n
X
i=1
2(E(fi−1) + E(fn−i))
=
4
n
n−1
X
i=0
E(fi)
28/34
Un peu de combinatoire
Pour tout n, E(fn) ≤ n3
+ 1
Preuve.
Elle est satisfaite pour n = 0 puisque f0 = 1 et pour n = 1 puisque f1 = 2.
Soit n ≥ 2. Supposons-la satisfaite jusqu’à n − 1. Alors :
E(fn) ≤
4
n
n−1
X
i=0
E(fi) ≤
4
n
n−1
X
i=0
(i3
+ 1)
=
4
n
(
1
4
n2
(n − 1)2
+ n) = n(n − 1)2
+ 4 ≤ n3
Pour tout n, E(hn) ≤ 3 log2(n) + 1
Preuve.
2E(hn)
≤ E(2hn
) (par convexité de 2x
)
= E(fn) ≤ n3
+ 1
D’où : E(hn) ≤ log2(n3 + 1) = log2(n3(1 + 1
n3 )) = log2(n3) + log2(1 + 1
n3 ) ≤ 3 log2(n) + 1
29/34
Plan
Equations de récurrence
Complexité amortie
Complexité en moyenne
4 Bornes inférieures de complexité
30/34
Bornes inférieures de complexité
Soit tp un type de données qui permet uniquement :
I les affectations ;
I les comparaisons.
On considère un algorithme A qui trie un tableau T de n données de type tp.
On suppose que T contient initialement une permutation des données
v1  v2  . . .  vn où les vi sont toutes différentes des constantes de A.
Soit σ une permutation de {1, . . . , n} et s un état de A.
L’état σ(s) est obtenu en :
I en conservant les mêmes informations de contrôle
(appels en cours, prochaines instructions, etc.) ;
I en conservant tout donnée v /
∈ {v1, v2 . . . , vn} ;
I en substituant à toute donnée vi la donnée vσ(i).
31/34
Evolution des états
Observation critique. Considérons les états s et σ(s) et op la prochaine
instruction à exécuter.
Supposons que s
op
−
→ s0
. Si :
I op n’est pas une comparaison de données de tp
I ou op est une comparaison de données de tp
et renvoie le même résultat pour s et σ(s)
Alors σ(s)
op
−
→ σ(s0
).
Dans le cas d’une comparaison sur tp qui ne renvoie pas le même résultat,
on parle de comparaison discriminante.
32/34
Une propriété des arbres binaires
La hauteur moyenne des feuilles d’un arbre binaire comportant n feuilles
est supérieure ou égale à log2(n).
Preuve par récurrence. (cas n = 1 trivial)
Soit un arbre binaire A comportant n feuilles.
Soient Ag et Ad ses sous-arbres comportant p et n − p feuilles.
Par induction, la somme des hauteurs des feuilles de Ag (resp. Ad)
est supérieure ou égale à p log2(p) (resp. (n − p) log2(n − p)).
Par conséquent, la somme des hauteurs des feuilles de A
est supérieure ou égale à n + p log2(p) + (n − p) log2(n − p).
La fonction x log2(x) est convexe : 1
2 (p log2(p) + (n − p) log2(n − p)) ≥ n
2 log2(n
2 ).
D’où : n + p log2(p) + (n − p) log2(n − p) ≥ n + n(log2(n) − 1) = n log2(n).
33/34
Un arbre binaire
On construit itérativement un arbre binaire de la façon suivante :
I La racine r contient les n! états initiaux de A correspondant aux permutations
de {v1, v2 . . . , vn}.
Pour toute paire d’états s0 6= s0
0
il existe une permutation σ 6= id telle que s0
0 = σ(s0).
I Etant donné un sommet u de l’arbre contenant un sous-ensemble S d’états
identiques à une permutation près, il y a deux possibilités :
I soit l’exécution à partir de ces états se termine sans rencontrer une
comparaison discriminante.
Alors u est une feuille de l’arbre.
I soit l’exécution à partir de ces états rencontre une comparaison discriminante.
Alors u a deux fils contenant S et S⊥ les états atteints respectivement après
un résultat positif ou négatif de la comparaison.
34/34
Analyse de l’arbre binaire
Toutes les feuilles de l’arbre contiennent des singletons.
Preuve.
Considérons une feuille de l’arbre.
Supposons que le sous-ensemble d’états associé n’est pas un singleton.
Considérons s et σ(s) avec σ 6= id, deux états atteints après terminaison de A.
Alors T n’est pas trié dans l’un des deux états.
Soit une distribution uniforme sur les permutations de {1, . . . , n}.
Alors le nombre moyen de comparaisons discriminantes de A
est supérieur ou égal à log2(n!) = Θ(n log(n)).
Preuve.
Il y a n! feuilles dans cet arbre binaire.

Contenu connexe

Similaire à transparents-Algo-complexite.pdf

corr_exos.pdf
corr_exos.pdfcorr_exos.pdf
corr_exos.pdf
SongSonfack
 
cours algorithme
cours algorithmecours algorithme
cours algorithme
mohamednacim
 
Chapitre 2 -Complexité des problèmes avec correction.pdf
Chapitre 2 -Complexité des problèmes avec correction.pdfChapitre 2 -Complexité des problèmes avec correction.pdf
Chapitre 2 -Complexité des problèmes avec correction.pdf
MbarkiIsraa
 
Chapitre 2 complexité
Chapitre 2 complexitéChapitre 2 complexité
Chapitre 2 complexité
Sana Aroussi
 
01 lois-à-densité
01 lois-à-densité01 lois-à-densité
01 lois-à-densité
Manar Sefiane
 
Devoir de synthèse_n°_02--2008-2009(mr_otay)[lycée__el_aghaliba]
Devoir de synthèse_n°_02--2008-2009(mr_otay)[lycée__el_aghaliba]Devoir de synthèse_n°_02--2008-2009(mr_otay)[lycée__el_aghaliba]
Devoir de synthèse_n°_02--2008-2009(mr_otay)[lycée__el_aghaliba]
Yessin Abdelhedi
 
Chapitre 3 _Conception et analyse d’algorithme-DPR.pdf
Chapitre 3 _Conception et analyse d’algorithme-DPR.pdfChapitre 3 _Conception et analyse d’algorithme-DPR.pdf
Chapitre 3 _Conception et analyse d’algorithme-DPR.pdf
MbarkiIsraa
 
traitement de signal cours
traitement de signal cours traitement de signal cours
traitement de signal cours
sarah Benmerzouk
 
Séries de Fourier
Séries de FourierSéries de Fourier
Séries de Fourier
Frederic Jacobs
 
Exercice arithmétiques
Exercice arithmétiquesExercice arithmétiques
Exercice arithmétiques
Yessin Abdelhedi
 
Exposé avril2012
Exposé avril2012Exposé avril2012
Exposé avril2012
Mounira Mabrouk
 
Mathématiques - Formule du crible
Mathématiques - Formule du cribleMathématiques - Formule du crible
Mathématiques - Formule du cribleLoïc Dilly
 
Mathématiques - Fonction génératrice
Mathématiques - Fonction génératriceMathématiques - Fonction génératrice
Mathématiques - Fonction génératriceLoïc Dilly
 
Cours programmation en matlab2 (1)
Cours programmation en matlab2 (1)Cours programmation en matlab2 (1)
Cours programmation en matlab2 (1)
Guesmi Amal
 
CAPES maths 2019 composition 2
CAPES maths 2019 composition 2CAPES maths 2019 composition 2
CAPES maths 2019 composition 2
Dany-Jack Mercier
 
Mathématiques - Primitives particulières
Mathématiques - Primitives particulièresMathématiques - Primitives particulières
Mathématiques - Primitives particulièresLoïc Dilly
 

Similaire à transparents-Algo-complexite.pdf (20)

Fic00126
Fic00126Fic00126
Fic00126
 
corr_exos.pdf
corr_exos.pdfcorr_exos.pdf
corr_exos.pdf
 
cours algorithme
cours algorithmecours algorithme
cours algorithme
 
Chapitre 2 -Complexité des problèmes avec correction.pdf
Chapitre 2 -Complexité des problèmes avec correction.pdfChapitre 2 -Complexité des problèmes avec correction.pdf
Chapitre 2 -Complexité des problèmes avec correction.pdf
 
Chapitre 2 complexité
Chapitre 2 complexitéChapitre 2 complexité
Chapitre 2 complexité
 
Exercice logarithme
Exercice logarithmeExercice logarithme
Exercice logarithme
 
01 lois-à-densité
01 lois-à-densité01 lois-à-densité
01 lois-à-densité
 
Récursivité
RécursivitéRécursivité
Récursivité
 
246242769 sequence-1-pdf
246242769 sequence-1-pdf246242769 sequence-1-pdf
246242769 sequence-1-pdf
 
Devoir de synthèse_n°_02--2008-2009(mr_otay)[lycée__el_aghaliba]
Devoir de synthèse_n°_02--2008-2009(mr_otay)[lycée__el_aghaliba]Devoir de synthèse_n°_02--2008-2009(mr_otay)[lycée__el_aghaliba]
Devoir de synthèse_n°_02--2008-2009(mr_otay)[lycée__el_aghaliba]
 
Chapitre 3 _Conception et analyse d’algorithme-DPR.pdf
Chapitre 3 _Conception et analyse d’algorithme-DPR.pdfChapitre 3 _Conception et analyse d’algorithme-DPR.pdf
Chapitre 3 _Conception et analyse d’algorithme-DPR.pdf
 
traitement de signal cours
traitement de signal cours traitement de signal cours
traitement de signal cours
 
Séries de Fourier
Séries de FourierSéries de Fourier
Séries de Fourier
 
Exercice arithmétiques
Exercice arithmétiquesExercice arithmétiques
Exercice arithmétiques
 
Exposé avril2012
Exposé avril2012Exposé avril2012
Exposé avril2012
 
Mathématiques - Formule du crible
Mathématiques - Formule du cribleMathématiques - Formule du crible
Mathématiques - Formule du crible
 
Mathématiques - Fonction génératrice
Mathématiques - Fonction génératriceMathématiques - Fonction génératrice
Mathématiques - Fonction génératrice
 
Cours programmation en matlab2 (1)
Cours programmation en matlab2 (1)Cours programmation en matlab2 (1)
Cours programmation en matlab2 (1)
 
CAPES maths 2019 composition 2
CAPES maths 2019 composition 2CAPES maths 2019 composition 2
CAPES maths 2019 composition 2
 
Mathématiques - Primitives particulières
Mathématiques - Primitives particulièresMathématiques - Primitives particulières
Mathématiques - Primitives particulières
 

Dernier

Accompagner les porteurs de projets en transformation fermière
Accompagner les porteurs de projets en transformation fermièreAccompagner les porteurs de projets en transformation fermière
Accompagner les porteurs de projets en transformation fermière
Institut de l'Elevage - Idele
 
Reconquête de l’engraissement du chevreau à la ferme
Reconquête de l’engraissement du chevreau à la fermeReconquête de l’engraissement du chevreau à la ferme
Reconquête de l’engraissement du chevreau à la ferme
Institut de l'Elevage - Idele
 
pdfcoffee.com_polycopie-de-cours-ppt-lge604-20012-bf-pdf-free.pdf
pdfcoffee.com_polycopie-de-cours-ppt-lge604-20012-bf-pdf-free.pdfpdfcoffee.com_polycopie-de-cours-ppt-lge604-20012-bf-pdf-free.pdf
pdfcoffee.com_polycopie-de-cours-ppt-lge604-20012-bf-pdf-free.pdf
Elisée Ndjabu
 
Presentation d'esquisse route juin 2023.pptx
Presentation d'esquisse route juin 2023.pptxPresentation d'esquisse route juin 2023.pptx
Presentation d'esquisse route juin 2023.pptx
imed53
 
Quelles rotations dans les systèmes caprins de Nouvelle-Aquitaine et Pays de ...
Quelles rotations dans les systèmes caprins de Nouvelle-Aquitaine et Pays de ...Quelles rotations dans les systèmes caprins de Nouvelle-Aquitaine et Pays de ...
Quelles rotations dans les systèmes caprins de Nouvelle-Aquitaine et Pays de ...
Institut de l'Elevage - Idele
 
COUPROD Une méthode nationale commune à l’ensemble des filières herbivores
COUPROD Une méthode nationale commune à l’ensemble des filières herbivoresCOUPROD Une méthode nationale commune à l’ensemble des filières herbivores
COUPROD Une méthode nationale commune à l’ensemble des filières herbivores
Institut de l'Elevage - Idele
 
Leviers d’adaptation au changement climatique, qualité du lait et des produit...
Leviers d’adaptation au changement climatique, qualité du lait et des produit...Leviers d’adaptation au changement climatique, qualité du lait et des produit...
Leviers d’adaptation au changement climatique, qualité du lait et des produit...
Institut de l'Elevage - Idele
 
Comment aborder le changement climatique dans son métier, volet adaptation
Comment aborder le changement climatique dans son métier, volet adaptationComment aborder le changement climatique dans son métier, volet adaptation
Comment aborder le changement climatique dans son métier, volet adaptation
Institut de l'Elevage - Idele
 
1er webinaire INOSYS Réseaux d’élevage Ovins Viande
1er webinaire INOSYS Réseaux d’élevage Ovins Viande1er webinaire INOSYS Réseaux d’élevage Ovins Viande
1er webinaire INOSYS Réseaux d’élevage Ovins Viande
Institut de l'Elevage - Idele
 
Accompagner les éleveurs dans l'analyse de leurs coûts de production
Accompagner les éleveurs dans l'analyse de leurs coûts de productionAccompagner les éleveurs dans l'analyse de leurs coûts de production
Accompagner les éleveurs dans l'analyse de leurs coûts de production
Institut de l'Elevage - Idele
 
COURS ANALYSE FINANCIERE-NOGLO Méthodes d’analyses financières.pdf
COURS ANALYSE FINANCIERE-NOGLO Méthodes d’analyses financières.pdfCOURS ANALYSE FINANCIERE-NOGLO Méthodes d’analyses financières.pdf
COURS ANALYSE FINANCIERE-NOGLO Méthodes d’analyses financières.pdf
sieousse95
 

Dernier (11)

Accompagner les porteurs de projets en transformation fermière
Accompagner les porteurs de projets en transformation fermièreAccompagner les porteurs de projets en transformation fermière
Accompagner les porteurs de projets en transformation fermière
 
Reconquête de l’engraissement du chevreau à la ferme
Reconquête de l’engraissement du chevreau à la fermeReconquête de l’engraissement du chevreau à la ferme
Reconquête de l’engraissement du chevreau à la ferme
 
pdfcoffee.com_polycopie-de-cours-ppt-lge604-20012-bf-pdf-free.pdf
pdfcoffee.com_polycopie-de-cours-ppt-lge604-20012-bf-pdf-free.pdfpdfcoffee.com_polycopie-de-cours-ppt-lge604-20012-bf-pdf-free.pdf
pdfcoffee.com_polycopie-de-cours-ppt-lge604-20012-bf-pdf-free.pdf
 
Presentation d'esquisse route juin 2023.pptx
Presentation d'esquisse route juin 2023.pptxPresentation d'esquisse route juin 2023.pptx
Presentation d'esquisse route juin 2023.pptx
 
Quelles rotations dans les systèmes caprins de Nouvelle-Aquitaine et Pays de ...
Quelles rotations dans les systèmes caprins de Nouvelle-Aquitaine et Pays de ...Quelles rotations dans les systèmes caprins de Nouvelle-Aquitaine et Pays de ...
Quelles rotations dans les systèmes caprins de Nouvelle-Aquitaine et Pays de ...
 
COUPROD Une méthode nationale commune à l’ensemble des filières herbivores
COUPROD Une méthode nationale commune à l’ensemble des filières herbivoresCOUPROD Une méthode nationale commune à l’ensemble des filières herbivores
COUPROD Une méthode nationale commune à l’ensemble des filières herbivores
 
Leviers d’adaptation au changement climatique, qualité du lait et des produit...
Leviers d’adaptation au changement climatique, qualité du lait et des produit...Leviers d’adaptation au changement climatique, qualité du lait et des produit...
Leviers d’adaptation au changement climatique, qualité du lait et des produit...
 
Comment aborder le changement climatique dans son métier, volet adaptation
Comment aborder le changement climatique dans son métier, volet adaptationComment aborder le changement climatique dans son métier, volet adaptation
Comment aborder le changement climatique dans son métier, volet adaptation
 
1er webinaire INOSYS Réseaux d’élevage Ovins Viande
1er webinaire INOSYS Réseaux d’élevage Ovins Viande1er webinaire INOSYS Réseaux d’élevage Ovins Viande
1er webinaire INOSYS Réseaux d’élevage Ovins Viande
 
Accompagner les éleveurs dans l'analyse de leurs coûts de production
Accompagner les éleveurs dans l'analyse de leurs coûts de productionAccompagner les éleveurs dans l'analyse de leurs coûts de production
Accompagner les éleveurs dans l'analyse de leurs coûts de production
 
COURS ANALYSE FINANCIERE-NOGLO Méthodes d’analyses financières.pdf
COURS ANALYSE FINANCIERE-NOGLO Méthodes d’analyses financières.pdfCOURS ANALYSE FINANCIERE-NOGLO Méthodes d’analyses financières.pdf
COURS ANALYSE FINANCIERE-NOGLO Méthodes d’analyses financières.pdf
 

transparents-Algo-complexite.pdf

  • 1. 1/34 Introduction à l’algorithmique : Complexité Serge Haddad LSV, ENS Paris-Saclay & CNRS & Inria L3 1 Equations de récurrence 2 Complexité amortie 3 Complexité en moyenne 4 Bornes inférieures de complexité
  • 2. 2/34 Problèmes et instances Problèmes I Connexité d’un graphe I Tri d’un tableau Instances 1 2 3 4 → true 7 3 5 1 → 1 3 5 7
  • 3. 3/34 Taille d’une instance Choix d’une représentation. Un graphe de n sommets et m arcs peut être représenté par : I un tableau de n listes d’indices de sommets : Θ(n + m log(n)) ; I une matrice n × n de booléens : Θ(n2 ). f ∈ O(g) ssi ∃n0, C 0 ∀n ≥ n0 f(n) ≤ Cg(n), f ∈ Ω(g) ssi g ∈ O(f), f ∈ Θ(g) ssi f ∈ O(g) ∩ Ω(g). Selon la nature des problèmes, les entiers sont considérés : I de taille constante (borne connue a priori) I de taille variable, 1. généralement en représentation binaire d’où ∼ log(n) bits pour n ; 2. en représentation unaire d’où ∼ n bits pour n lorsqu’on désire mesurer l’impact des entiers sur la complexité des problèmes. Abstraction de la taille des instances. I la « taille » du graphe est m + n ; I si analyse multi-paramètres, la « taille » du graphe est (n, m).
  • 4. 4/34 Mesures de complexité Deux mesures usuelles : I le temps d’exécution ; I la mémoire occupée. Quel cas considérer pour une taille d’instance fixée ? I le pire cas d’exécution ; I le cas moyen qui suppose une distribution sur les instances de même taille ; I le meilleur cas (rarement étudié). Comment s’abstraire de l’évolution des machines ? I temps d’exécution symbolique : X ← E, if c then . . . en 1 unité de temps ; I opérations significatives : nombre de comparaisons pour un tri.
  • 5. 5/34 Complexité asymptotique On s’intéresse à l’évolution de la complexité en fonction de la taille n : I tmax(n) = max(t(I) | I instance de taille n) ; I tmoy(n) = E(t(I)) où I est une instance de taille n aléatoirement choisie selon la distribution spécifiée. Illustration : Tri par insertion. For i from 2 to n do x ← T[i] ; j ← i − 1 While j 0 and T[j] x do T[j+1] ← T[j] ; j ← j−1 T[j + 1] ← x • T = (n, n − 1, . . . , 1) ⇒ tmax(n) = Θ(n2 ) • Supposons que le contenu de T[i] est choisi dans {i, i + 1, . . .} avec Pr(T[i] = j) = 2−(j−i+1) . tmoy(n) = Θ(n)
  • 6. 6/34 Plan 1 Equations de récurrence Complexité amortie Complexité en moyenne Bornes inférieures de complexité
  • 7. 7/34 Intérêt des équations de récurrence (1) Calcul récursif du maximum d’un tableau (n = 2k ). Max(T, n) If n = 1 then return(T[1]) ; For i from 1 to n 2 do If T[2 ∗ i − 1] T[2 ∗ i] then Tbis[i] ← T[2 ∗ i] ; Else Tbis[i] ← T[2 ∗ i − 1] ; return(Max(Tbis, n 2 )) ; t(n) = t( n 2 ) + Θ(n)
  • 8. 8/34 Intérêt des équations de récurrence (2) Recherche dichotomique dans un tableau trié (n = 2k − 1). Cherche(x, T, deb, fin) i ← bdeb+fin 2 c ; If x = T[i] then return(i) ; If x T[i] then If i = fin then return(false) ; return(Cherche(x, T, i + 1, fin)) ; Else If i = deb then return(false) ; return(Cherche(x, T, deb, i − 1)) ; t(n) = t( n − 1 2 ) + Θ(1)
  • 9. 9/34 Intérêt des équations de récurrence (3) Produit de matrices par bloc (n = 2k ). Prod(A, B, n) If n = 1 then return(A[1, 1] ∗ B[1, 1]) ; C[1, n 2 ][1, n 2 ] ← Prod(A[1, n 2 ][1, n 2 ], B[1, n 2 ][1, n 2 ], n 2 ) + Prod(A[1, n 2 ][n 2 + 1, n], B[n 2 + 1, n][1, n 2 ], n 2 ) ; C[1, n 2 ][n 2 + 1, n] ← Prod(A[1, n 2 ][1, n 2 ], B[1, n 2 ][n 2 + 1, n], n 2 ) + Prod(A[1, n 2 ][n 2 + 1, n], B[n 2 + 1, n][n 2 + 1, n], n 2 ) ; C[n 2 + 1, n][1, n 2 ] ← Prod(A[n 2 + 1, n][1, n 2 ], B[1, n 2 ][1, n 2 ], n 2 ) + Prod(A[n 2 + 1, n][n 2 + 1, n], B[n 2 + 1, n][1, n 2 ], n 2 ) ; C[n 2 + 1, n][n 2 + 1, n] ← Prod(A[n 2 + 1, n][1, n 2 ], B[1, n 2 ][n 2 + 1, n], n 2 ) + Prod(A[n 2 + 1, n][n 2 + 1, n], B[n 2 + 1, n][n 2 + 1, n], n 2 ) ; return(C) ; t(n) = 8t( n 2 ) + Θ(n2 )
  • 10. 10/34 Une équation générique Soit t : N 7→ R+ , une fonction croissante à partir d’un certain rang telle qu’il existe des entiers n0 ≥ 1, b ≥ 2, k ≥ 0, a 0, c 0 et d 0 pour lesquels : t(n0) = d t(n) = at(n/b) + cnk pour n = n0bp avec p ≥ 1 Alors : t(n) =    Θ(nk ) si a bk ⇔ logb(a) k Θ(nk logb(n)) si a = bk ⇔ logb(a) = k Θ(nlogb(a) ) si a bk ⇔ logb(a) k Interprétation. t, le (pire) temps d’exécution d’une fonction récursive croît avec la taille. a, nombre de sous-problèmes à résoudre b, facteur de réduction de la taille nk , ordre de grandeur du temps d’un appel sans les appels récursifs
  • 11. 11/34 Preuve de l’équation Posons n = n0bp . Alors par récurrence, on obtient : t(n) = dap + p−1 X i=0 cai (n/bi )k = dap + cnk p−1 X i=0 (a/bk )i Or dap = d(blogb(a) )p = d(bp )logb(a) = d n logb(a) 0 nlogb(a) = Θ(nlogb(a) ). Posons γ(n) = Pp−1 i=0 (a/bk )i . On a : I si a/bk 1 alors γ(n) ∼ 1 1−a/bk ⇒ γ(n) = Θ(1) I si a/bk = 1 alors k = logb(a) et γ(n) = p = logb(n) − logb(n0) ∼ logb(n) I si a/bk 1 alors γ(n) ∼ α ap bkp avec α = (a/bk − 1)−1 ⇒ cnk γ(n) ∼ αcnk 0ap = Θ(nlogb(a) ) Soit n ≥ n0 et p tel que n0bp n ≤ n0bp+1 . t(n0bp ) ≤ t(n) ≤ t(n0bp+1 ) et t(n0bp ) = Θ(t(n0bp+1 )).
  • 12. 12/34 Généralisation de l’équation Soit t : N 7→ R+ , une fonction croissante à partir d’un certain rang telle qu’il existe une fonction f : N 7→ R+ , des entiers n0 ≥ 1, b ≥ 2, k ≥ 0, a 0 et d 0 pour lesquels : t(n0) = d t(n) = at(n/b) + f(n) pour n = n0bp avec p 1 Alors : t(n) =                Θ(f(n)) si a bk et f(n) = Ω(nk ) et af(n/b) ≤ cf(n) avec 0 c 1 Θ(nlogb(a) logb(n)) si f(n) = Θ(nlogb(a) ) Θ(nlogb(a) ) si a bk et f(n) = O(nk ) Interprétation : f(n) « se comporte » comme nk .
  • 13. 13/34 Applications de l’équation Calcul récursif du maximum d’un tableau t(n) = t(n 2 ) + Θ(n) a = 1, b = 2, k = 1 ⇒ a bk ⇒ t(n) = Θ(n) Recherche dichotomique dans un tableau trié t(n) = t(n−1 2 ) + Θ(1) a = 1, b = 2, k = 0 ⇒ a = bk ⇒ t(n) = Θ(log(n)) Produit de matrices par bloc t(n) = 8t(n 2 ) + Θ(n2 ) a = 8, b = 2, k = 2 ⇒ a bk ⇒ t(n) = Θ(nlog2(8) ) = Θ(n3 ) On peut réduire le nombre de multiplications à 7. D’où t(n) = Θ(nlog2(7) ).
  • 14. 14/34 Sous-problèmes de taille différente Soient α1, . . . , αk : N 7→ N, des fonctions telles qu’il existe un nombre réel 0 K 1 et n0 un entier avec : ∀n n0 α1(n) + . . . + αk(n) ≤ Kn Si une fonction t : N 7→ R vérifie avec b 0 un réel : ∀n ≤ n0 t(n) ≤ a0 ∀n n0 t(n) ≤ t(α1(n)) + . . . + t(αk(n)) + bn Alors : t(n) = O(n) Interprétation. k appels récursifs αi(n), taille du ième sous-problème associé au problème de taille n K, facteur de réduction de la taille cumulée n, ordre de grandeur du temps d’un appel sans les appels récursifs
  • 15. 15/34 Preuve Démontrons par récurrence que t(n) ≤ Dn + a0 avec : D = b + (k − 1)a0 1 − K d’où DK + b = D − (k − 1)a0 Cette inégalité est vérifiée pour n ≤ n0. Si n n0 alors : t(n) ≤ t(α1(n)) + . . . + t(αk(n)) + bn ≤ ka0 + D(α1(n) + . . . + αk(n)) + bn ≤ ka0 + (DK + b)n = ka0 + (D − (k − 1)a0)n = Dn + a0 + (k − 1)a0(1 − n) ≤ Dn + a0
  • 16. 16/34 Plan Equations de récurrence 2 Complexité amortie Complexité en moyenne Bornes inférieures de complexité
  • 17. 17/34 Analyse amortie : illustration Soit cpt, un compteur de n bits, qu’on peut incrémenter ainsi : Increment(cpt) i ← 1 ; cpt[i] ← cpt[i] + 1 mod 2 ; While i n and cpt[i] = 0 do i ← i + 1 ; cpt[i] ← cpt[i] + 1 mod 2 ; Quelle est la complexité de la boucle suivante ? For i from 1 to k do Increment(cpt) ; Une analyse superficielle : I au plus n modifications de bit par incrémentation ; I d’où une complexité en O(kn). Une analyse plus approfondie : I Le ième bit est modifié toutes les 2i−1 incrémentations ; I d’où une complexité en 3 Pn i=1 k 2i−1 ≤ 3 Pn i=1( k 2i−1 + 1) ≤ 6k + 3n = Θ(k + n).
  • 18. 18/34 Méthode du potentiel Un potentiel pot est une fonction de l’ensemble des états dans N. Notons s op − → s0 l’exécution de op depuis l’état s conduisant à l’état s0 . Soit t(op), le temps d’exécution de op. Alors le temps d’exécution amorti (par le potentiel pot) est défini par : a(op) = t(op) + pot(s0 ) − pot(s) Soit une exécution d’un programme s0 op1 − − → s1 · · · opk − − → sk Alors Pk i=1 a(opi) = Pk i=1 t(opi) + pot(sk) − pot(s0) D’où : k X i=1 t(opi) ≤ k X i=1 a(opi) + pot(s0) Observations. I Le potentiel reflète la complexité « cachée dans l’état ». I Le choix d’un potentiel approprié facilite le calcul de la complexité.
  • 19. 19/34 Un potentiel pour le compteur Increment(cpt) i ← 1 ; cpt[i] ← cpt[i] + 1 mod 2 ; While i n and cpt[i] = 0 do i ← i + 1 ; cpt[i] ← cpt[i] + 1 mod 2 ; On définit pot comme trois fois le nombre de bits du compteur à 1. Deux cas d’incrémentation. I cpt 2n − 1 : t(Increment) = 3 + 3n0 avec n0 tours de boucle et le potentiel décroît de 3(n0 − 1) d’où a(Increment) = 6 ; I cpt = 2n − 1 : t(Increment) = 3 + 3(n − 1) et le potentiel décroît de 3n d’où a(Increment) = 0 ≤ 6. For i from 1 to to k do Increment(cpt) ; La complexité amortie de la boucle est inférieure ou égale à 6k. La complexité de la boucle est inférieure ou égale à 6k + 3n.
  • 20. 20/34 Gestion d’une pile PT pointeur sur un tableau ; n = 1 taille du tableau ; top = 0 sommet de pile ; Empiler(v) ; PT2 pointeur sur un tableau ; i indice ; top ← top + 1 ; If top n then PT2 ← Allouer(f(n)) ; For i from 1 to n do (∗PT2)[i] ← (∗PT)[i] ; Liberer(∗PT) ; PT ← PT2 ; n ← f(n) ; (∗PT)[top] ← v ; f doit vérifier f(n) n ... mais comment choisir f(n) ? f(n) = 2n est un bon choix.
  • 21. 21/34 Un potentiel pour la pile Quelle est la complexité de la boucle suivante ? For i from 1 to k do Empiler(v) ; Plus top est proche de n, plus grand est le risque de débordement : Pot = 2top − n + 1 Analyse amortie. I Il n’y a pas de débordement. t(Empiler(v)) = 3 et Pot croît de 2. D’où a(Empiler(v)) = 5. I Il y a un débordement. t(Empiler(v)) = 7 + n et Pot décroît de n + 1 à 3. D’où a(Empiler(v)) = 9. La complexité amortie de la boucle est inférieure ou égale à 9k. La complexité de la boucle est inférieure ou égale à 9k.
  • 22. 22/34 Plan Equations de récurrence Complexité amortie 3 Complexité en moyenne Bornes inférieures de complexité
  • 23. 23/34 Complexité en moyenne Un arbre binaire de recherche est une structure de données permettant : I d’insérer des enregistrements ; I de supprimer des enregistrements ; I de rechercher des enregistrements par leur clé. Propriétés. I Chaque noeud de l’arbre contient un enregistrement ; I Chaque noeud de l’arbre a (éventuellement) un fils gauche et un fils droit ; I La clé d’un noeud est supérieure aux clés de son sous-arbre gauche et inférieure aux clés de son sous-arbre droit.
  • 24. 24/34 Un arbre binaire de recherche 8 4 11 0 6 9 5 7 Seules les clés sont présentées.
  • 25. 25/34 Recherche et insertion Recherche par clé. La valeur est comparée à la clé de la racine : I S’il y a égalité, on renvoie l’enregistrement ; I Si la valeur est plus petite (resp. grande) et la racine a un fils gauche (resp. droit) on itère le procédé à partir du fils gauche (resp. droit) ; I Sinon la recherche est infructueuse. 8 4 11 0 6 9 10 5 7 Insertion. On applique la recherche puis on ajoute le fils manquant. La complexité de ces opérations dépend linéairement de la hauteur de l’arbre.
  • 26. 26/34 Hypothèse probabiliste Considérons un arbre binaire obtenu par insertion des clés {1, . . . , n} dans un ordre obtenu par une permutation tirée uniformément. Quelle est la hauteur moyenne de l’arbre aléatoire ainsi formé ? Soit hn la hauteur (aléatoire) de cet arbre. On introduit : I fn = 2hn , la hauteur exponentielle de l’arbre. I fn,i, la hauteur exponentielle sachant que i est la première clé insérée.
  • 27. 27/34 Raisonnement probabiliste On observe que si i est la première clé insérée, I les clés {1, . . . , i − 1} sont insérées dans le sous-arbre gauche selon une permutation uniforme ; I les clés {i + 1, . . . , n} sont insérées dans le sous-arbre droit selon une permutation uniforme. D’où : fn,i = 21+max(hi−1,hn−i) = 2 · 2max(hi−1,hn−i) ≤ 2(2hi−1 + 2hn−i ) = 2(fi−1 + fn−i) D’où : E(fn) = 1 n n X i=1 E(fn,i) ≤ 1 n n X i=1 2(E(fi−1) + E(fn−i)) = 4 n n−1 X i=0 E(fi)
  • 28. 28/34 Un peu de combinatoire Pour tout n, E(fn) ≤ n3 + 1 Preuve. Elle est satisfaite pour n = 0 puisque f0 = 1 et pour n = 1 puisque f1 = 2. Soit n ≥ 2. Supposons-la satisfaite jusqu’à n − 1. Alors : E(fn) ≤ 4 n n−1 X i=0 E(fi) ≤ 4 n n−1 X i=0 (i3 + 1) = 4 n ( 1 4 n2 (n − 1)2 + n) = n(n − 1)2 + 4 ≤ n3 Pour tout n, E(hn) ≤ 3 log2(n) + 1 Preuve. 2E(hn) ≤ E(2hn ) (par convexité de 2x ) = E(fn) ≤ n3 + 1 D’où : E(hn) ≤ log2(n3 + 1) = log2(n3(1 + 1 n3 )) = log2(n3) + log2(1 + 1 n3 ) ≤ 3 log2(n) + 1
  • 29. 29/34 Plan Equations de récurrence Complexité amortie Complexité en moyenne 4 Bornes inférieures de complexité
  • 30. 30/34 Bornes inférieures de complexité Soit tp un type de données qui permet uniquement : I les affectations ; I les comparaisons. On considère un algorithme A qui trie un tableau T de n données de type tp. On suppose que T contient initialement une permutation des données v1 v2 . . . vn où les vi sont toutes différentes des constantes de A. Soit σ une permutation de {1, . . . , n} et s un état de A. L’état σ(s) est obtenu en : I en conservant les mêmes informations de contrôle (appels en cours, prochaines instructions, etc.) ; I en conservant tout donnée v / ∈ {v1, v2 . . . , vn} ; I en substituant à toute donnée vi la donnée vσ(i).
  • 31. 31/34 Evolution des états Observation critique. Considérons les états s et σ(s) et op la prochaine instruction à exécuter. Supposons que s op − → s0 . Si : I op n’est pas une comparaison de données de tp I ou op est une comparaison de données de tp et renvoie le même résultat pour s et σ(s) Alors σ(s) op − → σ(s0 ). Dans le cas d’une comparaison sur tp qui ne renvoie pas le même résultat, on parle de comparaison discriminante.
  • 32. 32/34 Une propriété des arbres binaires La hauteur moyenne des feuilles d’un arbre binaire comportant n feuilles est supérieure ou égale à log2(n). Preuve par récurrence. (cas n = 1 trivial) Soit un arbre binaire A comportant n feuilles. Soient Ag et Ad ses sous-arbres comportant p et n − p feuilles. Par induction, la somme des hauteurs des feuilles de Ag (resp. Ad) est supérieure ou égale à p log2(p) (resp. (n − p) log2(n − p)). Par conséquent, la somme des hauteurs des feuilles de A est supérieure ou égale à n + p log2(p) + (n − p) log2(n − p). La fonction x log2(x) est convexe : 1 2 (p log2(p) + (n − p) log2(n − p)) ≥ n 2 log2(n 2 ). D’où : n + p log2(p) + (n − p) log2(n − p) ≥ n + n(log2(n) − 1) = n log2(n).
  • 33. 33/34 Un arbre binaire On construit itérativement un arbre binaire de la façon suivante : I La racine r contient les n! états initiaux de A correspondant aux permutations de {v1, v2 . . . , vn}. Pour toute paire d’états s0 6= s0 0 il existe une permutation σ 6= id telle que s0 0 = σ(s0). I Etant donné un sommet u de l’arbre contenant un sous-ensemble S d’états identiques à une permutation près, il y a deux possibilités : I soit l’exécution à partir de ces états se termine sans rencontrer une comparaison discriminante. Alors u est une feuille de l’arbre. I soit l’exécution à partir de ces états rencontre une comparaison discriminante. Alors u a deux fils contenant S et S⊥ les états atteints respectivement après un résultat positif ou négatif de la comparaison.
  • 34. 34/34 Analyse de l’arbre binaire Toutes les feuilles de l’arbre contiennent des singletons. Preuve. Considérons une feuille de l’arbre. Supposons que le sous-ensemble d’états associé n’est pas un singleton. Considérons s et σ(s) avec σ 6= id, deux états atteints après terminaison de A. Alors T n’est pas trié dans l’un des deux états. Soit une distribution uniforme sur les permutations de {1, . . . , n}. Alors le nombre moyen de comparaisons discriminantes de A est supérieur ou égal à log2(n!) = Θ(n log(n)). Preuve. Il y a n! feuilles dans cet arbre binaire.