SlideShare une entreprise Scribd logo
Plan 
• 1. Introduction 
• 2. Vue d’ensemble 
• 3. Sources discrètes & Entropie 
• 4. Canaux discrets & Capacité 
• 5. Codage de source 
• 6. Codage de canal 
• 7. Cryptographie 
• 8. Conclusion 
Dpt. Génie Electrique Théorie de l ’information T. Grenier 22 
5. Codage de source 
9Adapter la source au canal Ö l'alphabet 
Ö le débit 
9Utiliser la capacité du canal Ö maximiser I(X,Y) 
y Hyp : Source stationnaire, canaux sans perturbation 
Codeur 
de source 
Source 
initiale 
Source à 
entropie max 
Codeur de source Ö supprimer la redondance 
Dpt. Génie Electrique Théorie de l ’information T. Grenier 23
• Propriétés d'un codeur de source 
9Régularité : messages ≠ Ö codes ≠ 
9Déchiffrabilité : séparation des mots non ambiguë 
• Mot-code 
[S]=[s1,s2, …, sN] [X]=[x1 
,x2, …, xD] 
ª [C]=[c1,c2, …, cN] 
• Exemple 
Symbole Code A Code B Code C Code D 
s1 00 0 0 0 
s2 01 10 01 10 
s3 10 110 011 110 
s4 11 1110 0111 111 
Dpt. Génie Electrique Théorie de l ’information T. Grenier 24 
9Code à longueur variable / fixe 
9Code à décodage unique : mot-code Ù symbole unique 
9Code séparable : pas de signe de démarcation entre les mots 
9Code instantané ou irréductible : on détermine les mots-codes 
à mesure que l'on reçoit les lettres de l'alphabet du code. 
CNS : Aucun mot-code n'est le préfixe d'un autre ! 
y Arbre & codes 
binaires instantanés 
Dpt. Génie Electrique Théorie de l ’information T. Grenier 25
• Longueur moyenne d'un mot-code 
N 
Σ= 
l = 
p s l 
i i i 
1 
( ). 
• Limite de la longueur moyenne 
l ≥ H S = 
( ) l 
D 
min log 
H(S) = H(C) = l .H(X ) Ö 
• Capacité - Efficacité - Redondance 
C = Max(H(X )) = logD 
D H X 
log 
log − ( ) 
D 
ρ = 
H X 
log 
η = ( ) 
D 
H S 
.log 
η = ( ) 
l D E x Æ c o d e o p t. 
Dpt. Génie Electrique Théorie de l ’information T. Grenier 26 
• Codes optimaux absolus 
Codes dont l'efficacité est maximale : η= 1 
l l H S 
( ) 
D 
log 
min ª = = 
ª D li 1 
Condition nécessaire pour les codes 
N 
= Σ= 
1 
− 
i 
optimaux absolus 
Ö 
Dpt. Génie Electrique Théorie de l ’information T. Grenier 27
• Théorème des canaux sans bruit (codage de source) 
" Par un codage approprié (codage par groupe de n symboles de 
la source), l'information moyenne par lettre de l'alphabet du code 
peut être amenée aussi proche que l'on veut de la capacité du 
code, c'est-à-dire qu'il existe toujours un codage optimal 
absolu ." 
Rq1 : à n fixé, le code qui donne ηmax<1 est dit 'optimal' 
Rq2 : en pratique, on travaillait à n=1 
Dpt. Génie Electrique Théorie de l ’information T. Grenier 28 
• Codage de Shannon-Fano 
Algorithme de génération d'un codage optimal absolu, pour 
des sources divisibles récursivement (jusqu'à un symbole par 
ensemble) en deux sous-ensembles équiprobables. 
Symboles Proba 
Mots-codes 
Longueur 
sk p(sk) ck lk 
s1 0.25 0 00 2 
s2 0.25 0 1 01 2 
s3 0.125 0 100 3 
s4 0.125 0 1 101 3 
s5 0.0625 0 1100 4 
s6 0.0625 1 
0 1 1101 4 
s7 0.0625 1 
0 1110 4 
s8 0.0625 
1 1 1111 4 
Dpt. Génie Electrique Théorie de l ’information T. Grenier 29
• Codage binaire de Huffman (1952) 
- Algorithme de génération d'un codage optimal symbole par 
symbole. 
- Code à longueur variable Ö codes longs pour probas faibles 
• Algorithme 
c Extraction des probabilités 
d Création de l'arbre 
e Création de la table d'Huffman 
f Codage 
ÖOn transmet la table + les codes en binaire Ö 
n Lecture de la table d'Huffman 
o Création de l'arbre de décodage 
p Lecture séquentielle et décodage 
Dpt. Génie Electrique Théorie de l ’information T. Grenier 30 
Rq : code d'échappement 
= Huffman + fixe 
Dpt. Génie Electrique Théorie de l ’information T. Grenier 31
• Codage Arithmétique (1976) 
Š Huffman Ö 1 symbole = 1 mot-code 
Š Arithmétique Ö 1 flot de symboles = nbre en virgule flottante 
ˆ Codeur ˆ Decodeur 
m=0 ; M=1 ; 
Tant que !(fin de fichier) 
{ 
i = symbole suivant; 
soit [ai ; bi] associé à i ; 
s = M-m ; 
M = m + s.bi ; 
m = m + s.ai ; 
} 
Renvoyer m, le compacté du fichier 
N = nombre codé ; 
Faire 
{ 
trouver i / N ∈[ai ; bi[ ; 
sortir i ; 
s = bi - ai ; 
N = (N - ai) / s ; 
} 
Tant qu'il reste un symbole à lire 
Dpt. Génie Electrique Théorie de l ’information T. Grenier 32 
• Exemple 
si pi [ai ; bi[ Huffi 
9 0.1 [0.0 ; 0.1[ 111 
A 0.1 [0.1 ; 0.2[ 110 
E 0.1 [0.2 ; 0.3[ 101 
I 0.1 [0.3 ; 0.4[ 100 
B 0.1 [0.4; 0.5[ 0111 
G 0.1 [0.5 ; 0.6[ 0110 
L 0.2 [0.6 ; 0.8[ 00 
S 0.1 [0.8; 0.9[ 0100 
T 0.1 [0.9 ; 1.0[ 0101 
0.4372207712 = ? 
10111010 10100100 11011001 01 
01111000 00011101 10110010 11010100 
Dpt. Génie Electrique Théorie de l ’information T. Grenier 33
Arithmétique ≥ Huffman 
/ + de calcul Proba très élévée Æ1 bit 
Peu de symboles (È) 
Ø 
Run Length 
Codeurs statistiques 
- Dépendants de la qualité de la statistique 
- Statistique connue par le décodeur 
Dpt. Génie Electrique Théorie de l ’information T. Grenier 34 
• Codage par longueur de plage (Run length coding) 
ÖCoder le nombre de symboles identiques 
000001111100000000000000000 Ö 5w5b17w 
000000000001111100000000000 Ö 11w5b11w 
A B C C C C C C A B C A B C Ö A B !6C A B C A B C 
• CCITT, Fax groupe III 
ª Huffman sur les plages de 0 précédant les 1 
• JPEG 
ª Huffman sur les plages de 0 précédant les coeff. DCT 
Dpt. Génie Electrique Théorie de l ’information T. Grenier 35
• Table d'Huffman FAX III 
Dpt. Génie Electrique Théorie de l ’information T. Grenier 36 
• Codage de type dictionnaire (1977) 
Ö Coder une extension de la source de longueur variable 
1977 : LZ (Lempel & Ziv) Ö 1984 : LZW (Welch) 
9Dictionnaire de symboles incrémenté dynamiquement 
ª apprentissage 
9 Fichier codé = suite des adresses des mots du dico 
! Gérer l'incrément des bits d'adresse 
PKZIP, ARJ Õ LZW + Huffman 
Dpt. Génie Electrique Théorie de l ’information T. Grenier 37
ˆ Codeur LZW 
ID = {Ci,Wi} , P=∅ 
Tant que (symboles à coder) 
C = symbole suivant 
Si P⊕C ∈ ID 
P = P⊕C 
Sinon 
sortir WP 
P⊕C Æ ID 
P=C 
Fin si 
Fin tant que 
sortir WP 
ˆ Décodeur LZW 
ID = {Ci,Wi} 
cW = 1er code ; sortir s(cW) 
Tant que (codes à lire) 
pW = cW 
cW = code suivant 
Si (s(cW) ∈ ID) 
sortir s(cW) 
P = s(pW) 
C = 1er symbole de s(cW) 
P⊕C Æ ID 
Sinon 
P = s(pW) 
C = 1er symbole de s(pW) 
sortir s(P⊕C) 
P⊕C Æ ID 
Fin si 
ABBABABAC.... Fin tant que 
Dpt. Génie Electrique Théorie de l ’information T. Grenier 38 
• Conclusion sur le codage de source 
Utilisé en compression audio & vidéo (JPEG, MPEG ...) 
mais en étant associé à des algorithmes non réversibles 
(avec pertes) 
Supprime la redondance 
Ö Sensibilité au bruit 
Ö Codage de canal 
Dpt. Génie Electrique Théorie de l ’information T. Grenier 39

Contenu connexe

Tendances

chap1 transmission-generalités
chap1 transmission-generalitéschap1 transmission-generalités
chap1 transmission-generalités
BAKKOURY Jamila
 
Modulation FM_Phase.pdf
Modulation FM_Phase.pdfModulation FM_Phase.pdf
Modulation FM_Phase.pdf
HassnTAI
 
Tp 2 transmission de donné modulation analogique
Tp 2 transmission de donné modulation analogiqueTp 2 transmission de donné modulation analogique
Tp 2 transmission de donné modulation analogiquehamdinho
 
chap5 modulations
chap5 modulationschap5 modulations
chap5 modulations
BAKKOURY Jamila
 
Modulation Analogique
Modulation Analogique Modulation Analogique
Modulation Analogique
SAHELAicha
 
Convolutional codes
Convolutional codesConvolutional codes
Convolutional codes
Abdullaziz Tagawy
 
Chapitre ii circuits combinatoires
Chapitre ii circuits combinatoiresChapitre ii circuits combinatoires
Chapitre ii circuits combinatoiresSana Aroussi
 
Codes Convolutifs
Codes ConvolutifsCodes Convolutifs
Codes Convolutifs
Anouar Loukili
 
chap3 transmission_numerique-en-bd_b
chap3 transmission_numerique-en-bd_bchap3 transmission_numerique-en-bd_b
chap3 transmission_numerique-en-bd_b
BAKKOURY Jamila
 
Traitement de signal -chapitre 1
Traitement de signal -chapitre 1Traitement de signal -chapitre 1
Traitement de signal -chapitre 1
Samir Tabib
 
Projet de communication numérique Réalisation d'une chaîne de transmission nu...
Projet de communication numérique Réalisation d'une chaîne de transmission nu...Projet de communication numérique Réalisation d'une chaîne de transmission nu...
Projet de communication numérique Réalisation d'une chaîne de transmission nu...
Yassine Nasser
 
C6 Réseaux : Introduction au routage
C6 Réseaux : Introduction au routageC6 Réseaux : Introduction au routage
C6 Réseaux : Introduction au routage
PRONETIS
 
La technique de transmission OFDM
La technique de transmission OFDMLa technique de transmission OFDM
La technique de transmission OFDM
Chiheb Ouaghlani
 
Le grafcet cours & exercices corrigés
Le grafcet cours & exercices corrigésLe grafcet cours & exercices corrigés
Le grafcet cours & exercices corrigéstoumed
 
States machines (1)
States machines (1)States machines (1)
States machines (1)
omar bllaouhamou
 
Tuto ToIP (Trunk SIP, IAX, Trunk CME - Asterisk)
Tuto ToIP (Trunk SIP, IAX, Trunk CME - Asterisk) Tuto ToIP (Trunk SIP, IAX, Trunk CME - Asterisk)
Tuto ToIP (Trunk SIP, IAX, Trunk CME - Asterisk)
Dimitri LEMBOKOLO
 
Automatisation d'une maison intelligente via une application android
Automatisation d'une maison intelligente via une application androidAutomatisation d'une maison intelligente via une application android
Automatisation d'une maison intelligente via une application android
Abderrahim Bouharaoua
 
Réseaux de transmission des données
Réseaux de transmission des donnéesRéseaux de transmission des données
Réseaux de transmission des données
Abdeljalil BENIICHE
 
Tp voip
Tp voipTp voip
Tp voip
amalouwarda
 

Tendances (20)

chap1 transmission-generalités
chap1 transmission-generalitéschap1 transmission-generalités
chap1 transmission-generalités
 
Modulation FM_Phase.pdf
Modulation FM_Phase.pdfModulation FM_Phase.pdf
Modulation FM_Phase.pdf
 
Cours1
Cours1Cours1
Cours1
 
Tp 2 transmission de donné modulation analogique
Tp 2 transmission de donné modulation analogiqueTp 2 transmission de donné modulation analogique
Tp 2 transmission de donné modulation analogique
 
chap5 modulations
chap5 modulationschap5 modulations
chap5 modulations
 
Modulation Analogique
Modulation Analogique Modulation Analogique
Modulation Analogique
 
Convolutional codes
Convolutional codesConvolutional codes
Convolutional codes
 
Chapitre ii circuits combinatoires
Chapitre ii circuits combinatoiresChapitre ii circuits combinatoires
Chapitre ii circuits combinatoires
 
Codes Convolutifs
Codes ConvolutifsCodes Convolutifs
Codes Convolutifs
 
chap3 transmission_numerique-en-bd_b
chap3 transmission_numerique-en-bd_bchap3 transmission_numerique-en-bd_b
chap3 transmission_numerique-en-bd_b
 
Traitement de signal -chapitre 1
Traitement de signal -chapitre 1Traitement de signal -chapitre 1
Traitement de signal -chapitre 1
 
Projet de communication numérique Réalisation d'une chaîne de transmission nu...
Projet de communication numérique Réalisation d'une chaîne de transmission nu...Projet de communication numérique Réalisation d'une chaîne de transmission nu...
Projet de communication numérique Réalisation d'une chaîne de transmission nu...
 
C6 Réseaux : Introduction au routage
C6 Réseaux : Introduction au routageC6 Réseaux : Introduction au routage
C6 Réseaux : Introduction au routage
 
La technique de transmission OFDM
La technique de transmission OFDMLa technique de transmission OFDM
La technique de transmission OFDM
 
Le grafcet cours & exercices corrigés
Le grafcet cours & exercices corrigésLe grafcet cours & exercices corrigés
Le grafcet cours & exercices corrigés
 
States machines (1)
States machines (1)States machines (1)
States machines (1)
 
Tuto ToIP (Trunk SIP, IAX, Trunk CME - Asterisk)
Tuto ToIP (Trunk SIP, IAX, Trunk CME - Asterisk) Tuto ToIP (Trunk SIP, IAX, Trunk CME - Asterisk)
Tuto ToIP (Trunk SIP, IAX, Trunk CME - Asterisk)
 
Automatisation d'une maison intelligente via une application android
Automatisation d'une maison intelligente via une application androidAutomatisation d'une maison intelligente via une application android
Automatisation d'une maison intelligente via une application android
 
Réseaux de transmission des données
Réseaux de transmission des donnéesRéseaux de transmission des données
Réseaux de transmission des données
 
Tp voip
Tp voipTp voip
Tp voip
 

En vedette

Data compression introduction
Data compression introductionData compression introduction
Data compression introduction
Rahul Khanwani
 
Data compression
Data compressionData compression
Data compression
VIKAS SINGH BHADOURIA
 
Info1 cours 3-codage-m iv5
Info1  cours 3-codage-m iv5Info1  cours 3-codage-m iv5
Info1 cours 3-codage-m iv5
linuxscout
 
Cours sur les systèmes de compression
Cours sur les systèmes de compressionCours sur les systèmes de compression
Cours sur les systèmes de compression
CHILDZ Laurent
 
Ebook matlab
Ebook matlabEbook matlab
Ebook matlabN NASRI
 
Compression
Compression Compression
Compression
Immunotec Inc
 

En vedette (7)

Cours5 cdmm
Cours5 cdmmCours5 cdmm
Cours5 cdmm
 
Data compression introduction
Data compression introductionData compression introduction
Data compression introduction
 
Data compression
Data compressionData compression
Data compression
 
Info1 cours 3-codage-m iv5
Info1  cours 3-codage-m iv5Info1  cours 3-codage-m iv5
Info1 cours 3-codage-m iv5
 
Cours sur les systèmes de compression
Cours sur les systèmes de compressionCours sur les systèmes de compression
Cours sur les systèmes de compression
 
Ebook matlab
Ebook matlabEbook matlab
Ebook matlab
 
Compression
Compression Compression
Compression
 

Similaire à 2 codage source

1 entropie-capacite theorie de l'information
1 entropie-capacite theorie de l'information1 entropie-capacite theorie de l'information
1 entropie-capacite theorie de l'information
Abdou Obado
 
Les mathématiques au service du transport de l’information
Les mathématiques au service du transport de l’informationLes mathématiques au service du transport de l’information
Les mathématiques au service du transport de l’information
Dany-Jack Mercier
 
3-Codage_Canal.ppt
3-Codage_Canal.ppt3-Codage_Canal.ppt
3-Codage_Canal.ppt
moulayLakhdarAbdelmo
 
dokumen.tips_cours-3-chiffrement-par-bloc-cole-normale-ferradi-1997-le-des-co...
dokumen.tips_cours-3-chiffrement-par-bloc-cole-normale-ferradi-1997-le-des-co...dokumen.tips_cours-3-chiffrement-par-bloc-cole-normale-ferradi-1997-le-des-co...
dokumen.tips_cours-3-chiffrement-par-bloc-cole-normale-ferradi-1997-le-des-co...
SamiraElMargae1
 
Théorie de l'information
Théorie de l'informationThéorie de l'information
Théorie de l'information
RichardTerrat1
 
Codage
CodageCodage
Codage
bamamoor
 
chap4 codes-en-ligne
chap4 codes-en-lignechap4 codes-en-ligne
chap4 codes-en-ligne
BAKKOURY Jamila
 
Numeration et codage_de_linfo
Numeration et codage_de_linfoNumeration et codage_de_linfo
Numeration et codage_de_linfoyarsenv47
 
Electronique-Numérique-TD-7.pdf
Electronique-Numérique-TD-7.pdfElectronique-Numérique-TD-7.pdf
Electronique-Numérique-TD-7.pdf
Yassine Sabri
 
Inf_theory_lect2.pdf
Inf_theory_lect2.pdfInf_theory_lect2.pdf
Inf_theory_lect2.pdf
kohay75604
 
Sthack 2015 - Aris "@aris_ada" Adamantiadis - DUAL_EC_DRBG : Une histoire de ...
Sthack 2015 - Aris "@aris_ada" Adamantiadis - DUAL_EC_DRBG : Une histoire de ...Sthack 2015 - Aris "@aris_ada" Adamantiadis - DUAL_EC_DRBG : Une histoire de ...
Sthack 2015 - Aris "@aris_ada" Adamantiadis - DUAL_EC_DRBG : Une histoire de ...
StHack
 
Analyse des chaînes ADN par l'algorithme de Cocke-Younger-Kasami
Analyse des chaînes ADN par l'algorithme de Cocke-Younger-KasamiAnalyse des chaînes ADN par l'algorithme de Cocke-Younger-Kasami
Analyse des chaînes ADN par l'algorithme de Cocke-Younger-Kasami
Loghin Dumitru
 
Sécurité des réseaux informatiques
Sécurité des réseaux informatiquesSécurité des réseaux informatiques
Sécurité des réseaux informatiques
RichardTerrat1
 
Seance 4- Programmation en langage C
Seance 4- Programmation en langage CSeance 4- Programmation en langage C
Seance 4- Programmation en langage C
Fahad Golra
 
seminaires_crytage_vision compression video
seminaires_crytage_vision compression videoseminaires_crytage_vision compression video
seminaires_crytage_vision compression video
KibeyaHassan1
 
Cours programmation en langage C.pdf
Cours  programmation  en  langage  C.pdfCours  programmation  en  langage  C.pdf
Cours programmation en langage C.pdf
khalidmoussaid4
 
Chap2 physique
Chap2 physiqueChap2 physique
Chap2 physiqueEns Kouba
 
D226 chapitre 6
D226 chapitre 6D226 chapitre 6
D226 chapitre 6WanisAMER
 

Similaire à 2 codage source (20)

1 entropie-capacite theorie de l'information
1 entropie-capacite theorie de l'information1 entropie-capacite theorie de l'information
1 entropie-capacite theorie de l'information
 
Les mathématiques au service du transport de l’information
Les mathématiques au service du transport de l’informationLes mathématiques au service du transport de l’information
Les mathématiques au service du transport de l’information
 
3-Codage_Canal.ppt
3-Codage_Canal.ppt3-Codage_Canal.ppt
3-Codage_Canal.ppt
 
dokumen.tips_cours-3-chiffrement-par-bloc-cole-normale-ferradi-1997-le-des-co...
dokumen.tips_cours-3-chiffrement-par-bloc-cole-normale-ferradi-1997-le-des-co...dokumen.tips_cours-3-chiffrement-par-bloc-cole-normale-ferradi-1997-le-des-co...
dokumen.tips_cours-3-chiffrement-par-bloc-cole-normale-ferradi-1997-le-des-co...
 
Théorie de l'information
Théorie de l'informationThéorie de l'information
Théorie de l'information
 
Video
VideoVideo
Video
 
Codage
CodageCodage
Codage
 
chap4 codes-en-ligne
chap4 codes-en-lignechap4 codes-en-ligne
chap4 codes-en-ligne
 
Numeration et codage_de_linfo
Numeration et codage_de_linfoNumeration et codage_de_linfo
Numeration et codage_de_linfo
 
Electronique-Numérique-TD-7.pdf
Electronique-Numérique-TD-7.pdfElectronique-Numérique-TD-7.pdf
Electronique-Numérique-TD-7.pdf
 
Inf_theory_lect2.pdf
Inf_theory_lect2.pdfInf_theory_lect2.pdf
Inf_theory_lect2.pdf
 
Sthack 2015 - Aris "@aris_ada" Adamantiadis - DUAL_EC_DRBG : Une histoire de ...
Sthack 2015 - Aris "@aris_ada" Adamantiadis - DUAL_EC_DRBG : Une histoire de ...Sthack 2015 - Aris "@aris_ada" Adamantiadis - DUAL_EC_DRBG : Une histoire de ...
Sthack 2015 - Aris "@aris_ada" Adamantiadis - DUAL_EC_DRBG : Une histoire de ...
 
Analyse des chaînes ADN par l'algorithme de Cocke-Younger-Kasami
Analyse des chaînes ADN par l'algorithme de Cocke-Younger-KasamiAnalyse des chaînes ADN par l'algorithme de Cocke-Younger-Kasami
Analyse des chaînes ADN par l'algorithme de Cocke-Younger-Kasami
 
Théo inf
Théo infThéo inf
Théo inf
 
Sécurité des réseaux informatiques
Sécurité des réseaux informatiquesSécurité des réseaux informatiques
Sécurité des réseaux informatiques
 
Seance 4- Programmation en langage C
Seance 4- Programmation en langage CSeance 4- Programmation en langage C
Seance 4- Programmation en langage C
 
seminaires_crytage_vision compression video
seminaires_crytage_vision compression videoseminaires_crytage_vision compression video
seminaires_crytage_vision compression video
 
Cours programmation en langage C.pdf
Cours  programmation  en  langage  C.pdfCours  programmation  en  langage  C.pdf
Cours programmation en langage C.pdf
 
Chap2 physique
Chap2 physiqueChap2 physique
Chap2 physique
 
D226 chapitre 6
D226 chapitre 6D226 chapitre 6
D226 chapitre 6
 

Plus de Abdou Obado

Vdocuments.mx guide de-mise-en-place-des-reseaux-dacces-ftth
Vdocuments.mx guide de-mise-en-place-des-reseaux-dacces-ftthVdocuments.mx guide de-mise-en-place-des-reseaux-dacces-ftth
Vdocuments.mx guide de-mise-en-place-des-reseaux-dacces-ftth
Abdou Obado
 
Second lessons in english language for class five
Second lessons in english language for class fiveSecond lessons in english language for class five
Second lessons in english language for class five
Abdou Obado
 
Evaluation ce3
Evaluation ce3Evaluation ce3
Evaluation ce3
Abdou Obado
 
English language lessons for class five (1)
English language lessons for class five (1)English language lessons for class five (1)
English language lessons for class five (1)
Abdou Obado
 
51602253 bts-power-control
51602253 bts-power-control51602253 bts-power-control
51602253 bts-power-control
Abdou Obado
 
2 g&3g planning & optimization
2 g&3g planning & optimization 2 g&3g planning & optimization
2 g&3g planning & optimization
Abdou Obado
 

Plus de Abdou Obado (6)

Vdocuments.mx guide de-mise-en-place-des-reseaux-dacces-ftth
Vdocuments.mx guide de-mise-en-place-des-reseaux-dacces-ftthVdocuments.mx guide de-mise-en-place-des-reseaux-dacces-ftth
Vdocuments.mx guide de-mise-en-place-des-reseaux-dacces-ftth
 
Second lessons in english language for class five
Second lessons in english language for class fiveSecond lessons in english language for class five
Second lessons in english language for class five
 
Evaluation ce3
Evaluation ce3Evaluation ce3
Evaluation ce3
 
English language lessons for class five (1)
English language lessons for class five (1)English language lessons for class five (1)
English language lessons for class five (1)
 
51602253 bts-power-control
51602253 bts-power-control51602253 bts-power-control
51602253 bts-power-control
 
2 g&3g planning & optimization
2 g&3g planning & optimization 2 g&3g planning & optimization
2 g&3g planning & optimization
 

Dernier

Formation Intelligence Artificielle pour dirigeants- IT6-DIGITALIX 24_opt OK_...
Formation Intelligence Artificielle pour dirigeants- IT6-DIGITALIX 24_opt OK_...Formation Intelligence Artificielle pour dirigeants- IT6-DIGITALIX 24_opt OK_...
Formation Intelligence Artificielle pour dirigeants- IT6-DIGITALIX 24_opt OK_...
cristionobedi
 
Newsletter SPW Agriculture en province du Luxembourg du 12-06-24
Newsletter SPW Agriculture en province du Luxembourg du 12-06-24Newsletter SPW Agriculture en province du Luxembourg du 12-06-24
Newsletter SPW Agriculture en province du Luxembourg du 12-06-24
BenotGeorges3
 
Cycle de Formation Théâtrale 2024 / 2025
Cycle de Formation Théâtrale 2024 / 2025Cycle de Formation Théâtrale 2024 / 2025
Cycle de Formation Théâtrale 2024 / 2025
Billy DEYLORD
 
Burkina Faso library newsletter May 2024
Burkina Faso library newsletter May 2024Burkina Faso library newsletter May 2024
Burkina Faso library newsletter May 2024
Friends of African Village Libraries
 
Formation M2i - Onboarding réussi - les clés pour intégrer efficacement vos n...
Formation M2i - Onboarding réussi - les clés pour intégrer efficacement vos n...Formation M2i - Onboarding réussi - les clés pour intégrer efficacement vos n...
Formation M2i - Onboarding réussi - les clés pour intégrer efficacement vos n...
M2i Formation
 
Iris van Herpen. pptx
Iris            van        Herpen.     pptxIris            van        Herpen.     pptx
Iris van Herpen. pptx
Txaruka
 
Iris van Herpen. pptx
Iris         van        Herpen.      pptxIris         van        Herpen.      pptx
Iris van Herpen. pptx
Txaruka
 
Iris van Herpen. pptx
Iris         van         Herpen.      pptxIris         van         Herpen.      pptx
Iris van Herpen. pptx
Txaruka
 

Dernier (8)

Formation Intelligence Artificielle pour dirigeants- IT6-DIGITALIX 24_opt OK_...
Formation Intelligence Artificielle pour dirigeants- IT6-DIGITALIX 24_opt OK_...Formation Intelligence Artificielle pour dirigeants- IT6-DIGITALIX 24_opt OK_...
Formation Intelligence Artificielle pour dirigeants- IT6-DIGITALIX 24_opt OK_...
 
Newsletter SPW Agriculture en province du Luxembourg du 12-06-24
Newsletter SPW Agriculture en province du Luxembourg du 12-06-24Newsletter SPW Agriculture en province du Luxembourg du 12-06-24
Newsletter SPW Agriculture en province du Luxembourg du 12-06-24
 
Cycle de Formation Théâtrale 2024 / 2025
Cycle de Formation Théâtrale 2024 / 2025Cycle de Formation Théâtrale 2024 / 2025
Cycle de Formation Théâtrale 2024 / 2025
 
Burkina Faso library newsletter May 2024
Burkina Faso library newsletter May 2024Burkina Faso library newsletter May 2024
Burkina Faso library newsletter May 2024
 
Formation M2i - Onboarding réussi - les clés pour intégrer efficacement vos n...
Formation M2i - Onboarding réussi - les clés pour intégrer efficacement vos n...Formation M2i - Onboarding réussi - les clés pour intégrer efficacement vos n...
Formation M2i - Onboarding réussi - les clés pour intégrer efficacement vos n...
 
Iris van Herpen. pptx
Iris            van        Herpen.     pptxIris            van        Herpen.     pptx
Iris van Herpen. pptx
 
Iris van Herpen. pptx
Iris         van        Herpen.      pptxIris         van        Herpen.      pptx
Iris van Herpen. pptx
 
Iris van Herpen. pptx
Iris         van         Herpen.      pptxIris         van         Herpen.      pptx
Iris van Herpen. pptx
 

2 codage source

  • 1. Plan • 1. Introduction • 2. Vue d’ensemble • 3. Sources discrètes & Entropie • 4. Canaux discrets & Capacité • 5. Codage de source • 6. Codage de canal • 7. Cryptographie • 8. Conclusion Dpt. Génie Electrique Théorie de l ’information T. Grenier 22 5. Codage de source 9Adapter la source au canal Ö l'alphabet Ö le débit 9Utiliser la capacité du canal Ö maximiser I(X,Y) y Hyp : Source stationnaire, canaux sans perturbation Codeur de source Source initiale Source à entropie max Codeur de source Ö supprimer la redondance Dpt. Génie Electrique Théorie de l ’information T. Grenier 23
  • 2. • Propriétés d'un codeur de source 9Régularité : messages ≠ Ö codes ≠ 9Déchiffrabilité : séparation des mots non ambiguë • Mot-code [S]=[s1,s2, …, sN] [X]=[x1 ,x2, …, xD] ª [C]=[c1,c2, …, cN] • Exemple Symbole Code A Code B Code C Code D s1 00 0 0 0 s2 01 10 01 10 s3 10 110 011 110 s4 11 1110 0111 111 Dpt. Génie Electrique Théorie de l ’information T. Grenier 24 9Code à longueur variable / fixe 9Code à décodage unique : mot-code Ù symbole unique 9Code séparable : pas de signe de démarcation entre les mots 9Code instantané ou irréductible : on détermine les mots-codes à mesure que l'on reçoit les lettres de l'alphabet du code. CNS : Aucun mot-code n'est le préfixe d'un autre ! y Arbre & codes binaires instantanés Dpt. Génie Electrique Théorie de l ’information T. Grenier 25
  • 3. • Longueur moyenne d'un mot-code N Σ= l = p s l i i i 1 ( ). • Limite de la longueur moyenne l ≥ H S = ( ) l D min log H(S) = H(C) = l .H(X ) Ö • Capacité - Efficacité - Redondance C = Max(H(X )) = logD D H X log log − ( ) D ρ = H X log η = ( ) D H S .log η = ( ) l D E x Æ c o d e o p t. Dpt. Génie Electrique Théorie de l ’information T. Grenier 26 • Codes optimaux absolus Codes dont l'efficacité est maximale : η= 1 l l H S ( ) D log min ª = = ª D li 1 Condition nécessaire pour les codes N = Σ= 1 − i optimaux absolus Ö Dpt. Génie Electrique Théorie de l ’information T. Grenier 27
  • 4. • Théorème des canaux sans bruit (codage de source) " Par un codage approprié (codage par groupe de n symboles de la source), l'information moyenne par lettre de l'alphabet du code peut être amenée aussi proche que l'on veut de la capacité du code, c'est-à-dire qu'il existe toujours un codage optimal absolu ." Rq1 : à n fixé, le code qui donne ηmax<1 est dit 'optimal' Rq2 : en pratique, on travaillait à n=1 Dpt. Génie Electrique Théorie de l ’information T. Grenier 28 • Codage de Shannon-Fano Algorithme de génération d'un codage optimal absolu, pour des sources divisibles récursivement (jusqu'à un symbole par ensemble) en deux sous-ensembles équiprobables. Symboles Proba Mots-codes Longueur sk p(sk) ck lk s1 0.25 0 00 2 s2 0.25 0 1 01 2 s3 0.125 0 100 3 s4 0.125 0 1 101 3 s5 0.0625 0 1100 4 s6 0.0625 1 0 1 1101 4 s7 0.0625 1 0 1110 4 s8 0.0625 1 1 1111 4 Dpt. Génie Electrique Théorie de l ’information T. Grenier 29
  • 5. • Codage binaire de Huffman (1952) - Algorithme de génération d'un codage optimal symbole par symbole. - Code à longueur variable Ö codes longs pour probas faibles • Algorithme c Extraction des probabilités d Création de l'arbre e Création de la table d'Huffman f Codage ÖOn transmet la table + les codes en binaire Ö n Lecture de la table d'Huffman o Création de l'arbre de décodage p Lecture séquentielle et décodage Dpt. Génie Electrique Théorie de l ’information T. Grenier 30 Rq : code d'échappement = Huffman + fixe Dpt. Génie Electrique Théorie de l ’information T. Grenier 31
  • 6. • Codage Arithmétique (1976) Š Huffman Ö 1 symbole = 1 mot-code Š Arithmétique Ö 1 flot de symboles = nbre en virgule flottante ˆ Codeur ˆ Decodeur m=0 ; M=1 ; Tant que !(fin de fichier) { i = symbole suivant; soit [ai ; bi] associé à i ; s = M-m ; M = m + s.bi ; m = m + s.ai ; } Renvoyer m, le compacté du fichier N = nombre codé ; Faire { trouver i / N ∈[ai ; bi[ ; sortir i ; s = bi - ai ; N = (N - ai) / s ; } Tant qu'il reste un symbole à lire Dpt. Génie Electrique Théorie de l ’information T. Grenier 32 • Exemple si pi [ai ; bi[ Huffi 9 0.1 [0.0 ; 0.1[ 111 A 0.1 [0.1 ; 0.2[ 110 E 0.1 [0.2 ; 0.3[ 101 I 0.1 [0.3 ; 0.4[ 100 B 0.1 [0.4; 0.5[ 0111 G 0.1 [0.5 ; 0.6[ 0110 L 0.2 [0.6 ; 0.8[ 00 S 0.1 [0.8; 0.9[ 0100 T 0.1 [0.9 ; 1.0[ 0101 0.4372207712 = ? 10111010 10100100 11011001 01 01111000 00011101 10110010 11010100 Dpt. Génie Electrique Théorie de l ’information T. Grenier 33
  • 7. Arithmétique ≥ Huffman / + de calcul Proba très élévée Æ1 bit Peu de symboles (È) Ø Run Length Codeurs statistiques - Dépendants de la qualité de la statistique - Statistique connue par le décodeur Dpt. Génie Electrique Théorie de l ’information T. Grenier 34 • Codage par longueur de plage (Run length coding) ÖCoder le nombre de symboles identiques 000001111100000000000000000 Ö 5w5b17w 000000000001111100000000000 Ö 11w5b11w A B C C C C C C A B C A B C Ö A B !6C A B C A B C • CCITT, Fax groupe III ª Huffman sur les plages de 0 précédant les 1 • JPEG ª Huffman sur les plages de 0 précédant les coeff. DCT Dpt. Génie Electrique Théorie de l ’information T. Grenier 35
  • 8. • Table d'Huffman FAX III Dpt. Génie Electrique Théorie de l ’information T. Grenier 36 • Codage de type dictionnaire (1977) Ö Coder une extension de la source de longueur variable 1977 : LZ (Lempel & Ziv) Ö 1984 : LZW (Welch) 9Dictionnaire de symboles incrémenté dynamiquement ª apprentissage 9 Fichier codé = suite des adresses des mots du dico ! Gérer l'incrément des bits d'adresse PKZIP, ARJ Õ LZW + Huffman Dpt. Génie Electrique Théorie de l ’information T. Grenier 37
  • 9. ˆ Codeur LZW ID = {Ci,Wi} , P=∅ Tant que (symboles à coder) C = symbole suivant Si P⊕C ∈ ID P = P⊕C Sinon sortir WP P⊕C Æ ID P=C Fin si Fin tant que sortir WP ˆ Décodeur LZW ID = {Ci,Wi} cW = 1er code ; sortir s(cW) Tant que (codes à lire) pW = cW cW = code suivant Si (s(cW) ∈ ID) sortir s(cW) P = s(pW) C = 1er symbole de s(cW) P⊕C Æ ID Sinon P = s(pW) C = 1er symbole de s(pW) sortir s(P⊕C) P⊕C Æ ID Fin si ABBABABAC.... Fin tant que Dpt. Génie Electrique Théorie de l ’information T. Grenier 38 • Conclusion sur le codage de source Utilisé en compression audio & vidéo (JPEG, MPEG ...) mais en étant associé à des algorithmes non réversibles (avec pertes) Supprime la redondance Ö Sensibilité au bruit Ö Codage de canal Dpt. Génie Electrique Théorie de l ’information T. Grenier 39