SlideShare une entreprise Scribd logo
`         ´
Arthur CHARPENTIER - Moddeles de previsions (ACT6420 - Automne 2012)




                                 Mod`les de pr´vision
                                     e         e
                                 Partie 1 - r´gression
                                             e

                                         Arthur Charpentier
                                       charpentier.arthur@uqam.ca

                                  http ://freakonometrics.blog.free.fr/




                                              Automne 2012




                                                                          1
`         ´
    Arthur CHARPENTIER - Moddeles de previsions (ACT6420 - Automne 2012)




                                                Plan du cours
•    Motivation et introduction aux mod`les de r´gression
                                             e  e
•    Le mod`le lin´aire simple
              e      e
◦    R´sultats g´n´raux
      e          e e
◦    Approche matricielle
•    Le mod`le lin´aire multiple
              e      e
◦    R´sultats g´n´raux
      e          e e
◦    Tests, choix de mod`le, diagnostique
                        e
•    Aller plus loin
◦    Les mod`les non lin´aires param´triques
              e         e            e
◦    Les mod`les non lin´aires nonparam´triques
              e         e                e




                                                                           2
`         ´
Arthur CHARPENTIER - Moddeles de previsions (ACT6420 - Automne 2012)




                                  Un peu de terminologie
 L’´tude de la transmission g´n´tique de
   e                         e e
 certaines caract´ristiques a int´ress´
                 e               e    e
 Galton en 1870 puis Pearson en 1896. Galton a
 propos´ d´tudier la taille d’un enfant en
       e e
 fonction de la taille (moyenne) de ses parents,
 a
 ` partir de 928 observations.




                                                                       3
`         ´
Arthur CHARPENTIER - Moddeles de previsions (ACT6420 - Automne 2012)




                                                                       4
`         ´
Arthur CHARPENTIER - Moddeles de previsions (ACT6420 - Automne 2012)




                                                                       5
`         ´
 Arthur CHARPENTIER - Moddeles de previsions (ACT6420 - Automne 2012)




                                   74
                                                                                             q           q   q        q
                                                                              q              q           q   q        q   q


                                                 q              q             q              q           q   q        q   q
                                   72




                                                 q              q             q              q           q   q        q
     Taille de l'enfant (inches)




                                                 q        q     q             q              q           q   q        q
                                   70




                                        q    q   q        q     q             q              q           q   q        q


                                        q        q        q     q             q              q           q   q        q
                                   68




                                        q    q   q        q     q             q              q           q   q


                                        q    q   q        q     q             q              q           q   q
                                   66




                                        q    q   q        q     q             q              q           q   q


                                        q    q   q        q     q             q              q
                                   64




                                        q    q   q        q     q             q              q           q


                                             q            q     q
                                   62




                                        q    q   q                            q                          q



                                        64           66               68                            70           72

                                                              Taille moyenne des parents (inches)




Un enfant de parents grands est en moyenne grand, mais moins que ses parents.
Un enfant de parents petits est en moyenne petits, mais moins que ses parents.
=⇒ “I have called this peculiarity by the name of regression”, au sens r´gression
                                                                        e
vers la moyenne.

                                                                                                                              6
`         ´
 Arthur CHARPENTIER - Moddeles de previsions (ACT6420 - Automne 2012)




                                                                              Un peu de terminologie
Pearson a propos´ d’´tudier le lien entre la taille d’un homme et celle de son
                 e e
p`re. La conclusion est la mˆme, il y a r´gression vers la moyenne.
 e                          e            e


                                                                                                                                                          q             q

                                                                                                                                                    q               q                                  q
                                                                                                                                                                                                   q
                                                                                                                                                                                                  q            q
                                                                                                                                        q       q       q                                                  q q
                               75




                                                                                                                                                          q                          q
                                                                                                                    q                   qq           q                                          q      q
                                                                                   q                                                            q
                                                                                                                                                q                               qq                                         q
                                                                                                   q                                           q q  q                 qq q            q
                                                                                                                                                                                 qqq q q           q q
                                                                                                                                                                                               q q q                               q
                                                                                                                                           q
                                                                                                                                           q             q
                                                                                                                                                        q q q qq qq                     qq
                                                                                                                                 q           q q
                                                                                                                                              q            q                q q            qq q       q qq q
                                                                                                                                                       q                     q               qq
                                                                                                    q
                                                                                                    q                         q q qq q q
                                                                                                                                      q
                                                                                                                                          q
                                                                                                                                           q
                                                                                                                                                      qq q
                                                                                                                                                        q           q q  q qq q q q q               q
                                                                                                                                                                                                   q q
                                                                                                                                                                                                   qq q
                                                                                                                                                                                    qq q
                                                                                                                                          q q q q            qq q q q q q
     Taille du fils (inches)




                                                                                                                       q
                                                                                                           q               q q qq    q     q q q           q q qq qqq q q q q
                                                                                                                                                               q                                q qq
                                                                                                                                                                                               q qq                        qq
                                                                                              q qq q           q qqq q        q         q q qq q q q q qq q q q q
                                                                                                                                            q q
                                                                                                                                        q q qqq q qq q                 q q
                                                                                                                                                                    qq q       q
                                                                                                                                                                               q q                qq q
                                                                                                   q               qq q       qq                           q q
                                                                                                                                                            q           qq
                                                                                                                                                                     qq q      q q     qq
                                                                                                                                                                                        q
                                                                                                                                                                                               qq q
                                                                                                                                                                                                           q
                                                                                                                                                                                                           q
                                                                                            q            q
                                                                                                       qq qqqq qq   qq       q qq qqqqq q q q q q
                                                                                                                                   q q q
                                                                                                                                      qq
                                                                                                                                                 qq
                                                                                                                                                    q q q q q                q
                                                                                                                                                                                  q
                                                                                                                                                                                     q
                                                                                                                                                                                     qq q
                                                                                                                                                                                         q      q q q q    q           q
                                                                                     q          q                         qq q q
                                                                                                                             q     q    q q q q q qq q qq q q q qq
                                                                                                                                        q               q                    q
                                                                                                                                                                q q q qq q q q q q q q             q         q     q
                               70




                                                                                                       q         q
                                                                                                q q q q q qqqqq q q
                                                                                                               qq q               q q q qqq qq q q qqq q qq
                                                                                                                                   q           q q             qq     q                          qq                q                   q
                                                                                                                  q q q q qq q q qq                                                q qq q
                                                                                                                                                                                 q q
                                                                                                                                                                                  q                          q
                                                                              qq  q q q         qq
                                                                                                   q q
                                                                                                   q       qq qqqq q
                                                                                                                                        q         q qqq qqq q q qq q q q q
                                                                                                                                                   q q q                 qq            q
                                                                                                                                                                                       q                q
                                                            q                               q                q qqq q q q q q q q q qqq q qqq q qq
                                                                                                                  q
                                                                                                                   q q     q     q qq q qqqq
                                                                                                                                           q       qq
                                                                                                                                                    q q
                                                                                                                                                                  q
                                                                                                                                                     q q q q q q q qq q q
                                                                                                                                                                  q      q        qq        q
                                                                                                                                                                                            q q q     q                        q
                                                                              qq  q    q    q qq qq q q q
                                                                                                      q q
                                                                                                                   q      q qq q q
                                                                                                                             q q qq q           q qqq q qq q q q q q qq
                                                                                                                                                 q qqq q
                                                                                                                                         q q q q q qq
                                                                                                                                         q q                  q
                                                                                                                                                              q q q   q                 qq     q q
                                                                                 q       qq    q qq q q
                                                                                                   q
                                                                                                  q q            qq q q
                                                                                                              qq qqq q qq qq q
                                                                                                                            qqq q q q q q q q q qq qq q q q q
                                                                                                              qq q qq q q q qq q q qqq qq q q qq qq qq q
                                                                                                                                           qq q q                                      q      q qqq
                                                             q                  q q  q      q
                                                                                           q qq      q q                        qq
                                                                                                                                qq q             q qq q q q                   q       q
                                                                                                                                                                                     q q
                                                                                                                                                                                                    q     q q
                                                                 qq       q     q       q qq                  q q q q q q qq qqqq q q q q qq q qq q q
                                                                                                                                q                                     q q q
                                                                                                                                                              q q q q qq q q
                                                                                                                                                                                           q       q
                                                                       q q q q                      q q q q q q qq q qqq
                                                                                                  q qq q       q                      q         qq      q           q       q                           q
                                             q                                           q q
                                                                                           q qqq q q
                                                                                                     qq      q q qq        q
                                                                                                            qq qqqq q q q q q qq q q q q qq q qq q q q q q q q
                                                                                                                                    q     q q    q             q q q
                                                             q q           q
                                                                            q   q          qq   qq q q          q q qq q q qq q qq q
                                                                                                                qq
                                                                                                                    qq
                                                                                                                     q               q
                                                                                                                                  q q q q
                                                                                                                                     q         q q q
                                                                                                                                               qq                 q
                                                                                                                                                              q q q q          q                 q
                                                                                   qq
                                                                                    qq    q q qq q q q q q qqq q qq q qqqq q q q q
                                                                                          q q qq q               q q q q q           q q
                                                                                                                                     q            q
                                                                                                                                                 qq
                                                                                                                                                 q             q                 q q q       q
                                                                       q                           qq q        q      q qq q q     q      q
                                                 q                      q      q         qq q
                                                                                       qq q         q q q qq          qq q q              qq
                                                                                                                                           q       q q q q
                                                                                                                                                      q    q
                                    q
                                                           q                  q qq q            q qqq q q qq q q q q
                                                                                                q                                         qq                     q       qq
                               65




                                                            q      q                           q q      qq q q           q q q       q    qq q
                                        qq                             q          q                       q qq       q q q q q                             q                          q
                                                                                                       q               qq                         q                                        q
                                        q
                                                             q
                                                                         q q q
                                                                                  q    q q q   q qq q q      q
                                                                                                             q                  q
                                                                                                                                                       q
                                                                          q                                                             q                                     q
                                                                   q
                                                                    q                   qq q       q qq
                                                                                                        q      qq       q q     q
                                                                            q        q                                q                  q q
                                                                      q                          q
                                                                                                                 q            q q
                                                         q                                  q                                                                   q     q
                                                                                 q                        q                                 q
                                                                                                           q               q
                                                                              q                                   qq               q                                     q
                                                     q
                               60




                                                                                                                q                           q
                                                                                                           q
                                                                                     q
                                                                                              q



                                             60                                                          65                                                         70                                                         75

                                                                                                                     Taille du père (inches)




                                                         r´gression = ´tudes de corr´lations
                                                          e           e             e
                                                                                                                                                                                                                                           7
`         ´
 Arthur CHARPENTIER - Moddeles de previsions (ACT6420 - Automne 2012)




                                                                            Un peu de terminologie
Remarque cela ne signifie pas que les fils sont plus “moyens” que leurs p`res : il
                                                                          e
ne s’agit que d’une notion de corr´lation, de d´pendance, en aucun cas de lois
                                  e            e
marginales




                                                          q                                                                                                q
                                                                                                                                                               q
                                                      q
                                                              q                                                                                    q
                             q                   q                                                                                                                     q
                                                                                q                                                                                q
                                                         qq             q                                                                     q        q    q      q
                              q
                              q q                   qq                                                                                               q q q
                                                                                                                                                      q          q q
      75




                                                                                              75
                                                                   q                                                                                q        q
                               q                                                                                                                               q q
                         q          q q
                                     q q
                                            q
                                                 q        q q qq q        q
                                                                                                                                                  q q      qq q
                                                                                                                                                           qq
                                   q            q qq
                                                 q qq q                                                                                           qqqqqqq q q
                                                                                                                                                     q q
                                  qq        qqq q     q                                                                                              q q
                                                                                                                                                  q qqq
                             q q      q qq qqqq q
                                               q         q qq                 q                                                                    qq
                                                                                                                                                  q qq q q qq
                                                                                                                                                     q
                                                                                                                                                             qq
                                                                                                                                          q q q q qq q qqq q q
                                             q q q q q           qq q q q
                                  q qq
                                 q qq q   q      q q
                                                q q qq qq q q
                                                           q                                                                         q          q q q qq q
                                                                                                                                            q qqq q qq q q q
                                                                                                                                                      q
                                                           q
                           qq q qq q q q q q qqq qq q q qq q
                                     qq q q q q q q q q q           q     q                                                                          q q q q
                                                                                                                                             qqq q q q q q
                                       q                                                                                                 qq q q qq q qq q
                                                                                                                                               qq q q q
                                                                                                                                               qq
                           qq         qq q q qqq qq qq q
                                        q           q    q q                                                                                 qqqq q q q qq
                                                                                                                                               qq qq q q
                                                                                                                                               qq
                                                                                                                                               qq q    q
                     q q         q     qq q q q
                                         qq q q
                                                     q
                                                     q    q q q
                                                              q q        q                                                               qqq q qq qq
                                                                                                                                          q
                                                                                                                                 q q q q qqq qq q qq
                            q q q
                                q        qq qq q qqqq qq q q
                                            qq       qq
                                                     q      qq q
                                                               q                 q                                                  q q qqqqq q q q q
                                                                                                                                          q qqq q q
                                                                                                                                              qq
                                                                                                                                qqqqqq q qqqq q qqq
                q          q q qqq q qqq q qq qqq q q
                                           q     q qq qq
                            q q qq q qqq q qq qq q q q
                                                  q q q
                                       q q q q qq qq q q
                                                 q q q                qq q q
                                                                            q
                                                                            qq                                                      q q q qq qq q
                                                                                                                                          q q qq q
                                                                                                                                                 q q
                                           q                                                                                          q q qq q q qq q q
                                                                                                                                  q q q qqqqq qq q
                                                                                                                            qq qqqqq qq q qqq qqq q q
                                                                                                                                                q q
                                                                                                                                              qq q
                      qq
                            q
                                    q qqqq q q q q q q q q
                                         q q q q qq
                                            q
                                 q q qq q qqq q q qq q qqq qq
                                              q     qq
                                                    q
                                                             q                  q                                                q qqq q qqqqq q q q q
                                                                                                                                  q q       qqq q q q
                                                                                                                                              q q
                                q q
                         q qqq q q q qq q q q q q qq qq q q q q
                             q q q qq q q qq q q qq qq q q                                                                         q q qqq q qq q q
                                                                                                                                          q q
      70




                                                                                              70
                               qq                    q q
                                                     q qq q q                                                                         q q q
                                          q
                                         q q        q q                 q                                                     q q qqqqqqqq q qq q
                                                                                                                                  qqqq q q qq q q q
                                                                                                                                  q qq q qqq q
                  qq      q q q
                        q q q q qq qq qq q qq q qqq qqqqq q qq
                              q q qq q q qq q qq
                                            qq q q q
                                                                                 q   q                                             q q qqq q q q
                                                                                                                               q qqqqqqqqqqq qq q
                                                                                                                                      qq q q
                                                                                                                                        qq
                          q      q q qqqq q q q qq q q qqq q q q
                                      q qqq q q qq qq q                                                                       qq q q q qq q
                                                                                                                                qqqqq q q q q
                                                                                                                               qqq q q q q q q qq
                                                                                                                                     qq
                                 q qq qq qqq qqqqq q qqq q q qq
                                                qq
                                  q q q q qqqqqqq qq qq q
                                         q q qq q qq
                                                q        q
                                                       q q qq
                                                                         q     q                                       q qqqqq qqqqqq qq q q q q
                                                                                                                        q              q
                                                                                                                            q qq q qqqqqqq q q
                                                                                                                                   qqq q q q q
                        q q        q
                                      q q qq qqq q q q
                                   qq qqq qq q qqq q q q qq qqq qq       q                                                         q q q
                                                                                                                           qq q qqqqqqqqq q q
                                                                                                                                    q q
                        q q                    q
                                     qqqq qq qqqq q q q q q       q   q                                                     q q qq q qq
                                                                                                                           q qqqqqqq q qqq q
                                                                                                                           q q q qqq q qq
           q                     q q q q qq q
                                                q
                              qqqq q q q qqqq qqq q q q q qq
                                 q q            q q q  q                                                                 qq qqqqqqqqq qq qq
                                                                                                                           q     q
                                                                                                                           q q qq qqq q
                                                                                                                         q qqq qqq qq qq q qqq
                         q      qq q qq qq                            q       q           q                            q         qqqqq q q q
                                                                                                                              qq q q qqq
                                                                                                                                      qq
                                q q q q qqq qq q q q qq q
                                 q       qq qq qqq  qq q qq
                                                      qq      q
                                                              q
                                                              q         q                                            q       q qq qq q
                                                                                                                                q
                                                                                                                          q q qqqqqq qq          q
                         qq     q qq qq q q qq q qqqqq q q q
                                 q q q          q     q
                      q q q qqqq qqq q qqqq qq qq q qq q q                               q                               q qqq qqq q q
                                                                                                                            qq q q    q
                                                                                                                   q qq qqqqqqqqqqq q q q q
                                                                                                                       qq qq qqq q q q q
                                q qqq q qq qqq  qq q
                                q q qq q q q q qq q q
                                     qq                       q
                                                              q
                                                                                                                     q q qq qqq qq q qq
                                                                                                                                 q q
                                                                                                                 q q qqq qqqqqqqq q q q
                           q q q qqq q q q q qq q qq q qq q q q
                                                  q q
                                                 qq qq     q                                                        q q qqq q q q qq
                                                                                                                     q q q qqq q qq q
                             qqq q q
                                q     q q q qq                        q                                             q qqqqqqq qqq qq q
                                                                                                                         qqq q q q q q q
                                                                                                                           qq qq
                                q q qq q q q q qqq q q q q
                                                   qq     q
                               q q qq qq q q qq qqqq q q qq q
                               q          q                    q qq
                                                               q                                                    q q qq q q q q q qq
                                                                                                                q qqqq qq qqqq q qq
                                                                                                                  q qqq q q qq qqq
                                                                                                                       q
                          q             q q q q qqq q q
                               q q q q qq q q q q q
                                                q q          q                                                     q qqqqqqq
                                                                                                                    q q q q
                                                                                                                       qq
                                                                                                                   q q q qqq            q      q
                               qq q q
                                                                       q                                    q qq qqq qq q q qqq q
                                                                                                                       q
                                                                                                                  q q qq q
                                                                                                                              q      q
                                                                                                                                    qq
                       q             q
                                     q
                                                q
                                                q q q q qqq q
                                              qq qq q q q q
                                                 q              q    qq                                           q q qqqq q
                                                                                                                  q q qq q
                                                                                                               q q q q qqq q q
                                                                                                                         q q
      65




                                                                                              65
                               q     qq
                              q
                              q qq q
                                  q              q q
                                              q q q qq q          q
                                                                  q                                         qqq q q q qqqqq
                                     q q  qq q q q q
                                                  q q             q q q                                        qqq qq q
                                                                                                                  q qq q
                                                                                                                       qq        q q
                          q                    q qq q qq q
                                                q           q
                                                            q                                              q q qqq qq q
               q      q                   q
                                          q      q q qq q
                                                  qq                     q                                     q
                                                                                                        q q qq q q q qqq
                                                                                                              q q       q q
                                                                                                                        q
                      q                                  q q              q                               q qq q q
                                q           q q qqq qq      q          q                           q      q q q qq q q
                                                                                                               qq q  q
                                                                                                                 qq
                                        q      q
                                               qq
                                                q          q                                          q q    q
                                q                                                                            q q
                                                                 q                                        q          q
                              qq
                              q                                                                       q qq      q
                                             q                                                               q
                        q                                                                            q
      60




                                                                                              60




                                                       q
                                                   q                                                                q




               60                   65                        70               75                    60                  65                 70                 75




                                                                                                                                                                           8
`         ´
 Arthur CHARPENTIER - Moddeles de previsions (ACT6420 - Automne 2012)




                          de l’esp´rance ` l’esp´rance conditionnelle
                                  e      a      e
Pr´dire le poids Y , sans aucune autre information
  e
               0.05




                      q    q q q   q q q q q q q q q q q q q q q q q q q q q q q q q   q q q q q q q q q q q q q   q q q q   q   q q     q q q   q
               0.04
               0.03
     densité

               0.02
               0.01
               0.00




                      40                                    60                                      80                                 100       120

                                                                                             Poids (kg)




                                                                                                                                                       9
`         ´
 Arthur CHARPENTIER - Moddeles de previsions (ACT6420 - Automne 2012)




                          de l’esp´rance ` l’esp´rance conditionnelle
                                  e      a      e
On peut aussi regarder la loi de Y , pour en d´duire des quantiles (e.g. ob´sit´)
                                              e                            e e
               0.05




                      q    q q q   q q q q q q q q q q q q q q q q q q q q q q q q q   q q q q q q q q q q q q q   q q q q   q   q q     q q q   q
               0.04
               0.03
     densité

               0.02
               0.01
               0.00




                      40                                    60                                      80                                 100       120

                                                                                             Poids (kg)




                                                                                                                                                       10
`         ´
 Arthur CHARPENTIER - Moddeles de previsions (ACT6420 - Automne 2012)




                       de l’esp´rance ` l’esp´rance conditionnelle
                               e      a      e
On peut aussi regarder la loi de Y , derri`re se cache un m´lange (par sexe)
                                          e                e
               0.05
               0.04
               0.03
     densité

               0.02
               0.01
               0.00




                      40              60                       80       100   120

                                                          Poids (kg)




                                                                                    11
`         ´
 Arthur CHARPENTIER - Moddeles de previsions (ACT6420 - Automne 2012)




                        de l’esp´rance ` l’esp´rance conditionnelle
                                e      a      e
Estimation de la loi de Y |X = 175
                  120
                  100
     Poids (kg)

                  80




                                                                       q
                  60
                  40




                        150         160                170                 180   190

                                                         Taille (cm)




                                                                                       12
`         ´
 Arthur CHARPENTIER - Moddeles de previsions (ACT6420 - Automne 2012)




                        de l’esp´rance ` l’esp´rance conditionnelle
                                e      a      e
Estimation de la loi de Y |X = 185
                  120
                  100




                                                                                 q
     Poids (kg)

                  80




                                                                       q
                  60
                  40




                        150         160                170                 180       190

                                                         Taille (cm)




                                                                                           13
`         ´
 Arthur CHARPENTIER - Moddeles de previsions (ACT6420 - Automne 2012)




                        de l’esp´rance ` l’esp´rance conditionnelle
                                e      a      e
Estimation de la loi de Y |X = 165
                  120
                  100




                                                                                 q
     Poids (kg)

                  80




                                                                       q
                  60




                                              q
                  40




                        150         160                170                 180       190

                                                         Taille (cm)




                                                                                           14
`         ´
 Arthur CHARPENTIER - Moddeles de previsions (ACT6420 - Automne 2012)




                        de l’esp´rance ` l’esp´rance conditionnelle
                                e      a      e
Pour plusieurs valeur de x, il possible d’estimer une loi de Y |X = x
                  120
                  100
     Poids (kg)

                  80
                  60
                  40




                        150         160                170              180   190

                                                         Taille (cm)




                                                                                    15
`         ´
 Arthur CHARPENTIER - Moddeles de previsions (ACT6420 - Automne 2012)




                        de l’esp´rance ` l’esp´rance conditionnelle
                                e      a      e
Une explication de la nonlin´arit´, l’h´t´rog´n´it´ hommes/femmes
                            e    e     ee e e e
                  120
                  100
     Poids (kg)

                  80
                  60
                  40




                        150         160                170              180   190

                                                         Taille (cm)




                                                                                    16
`         ´
 Arthur CHARPENTIER - Moddeles de previsions (ACT6420 - Automne 2012)




                            de l’esp´rance ` l’esp´rance conditionnelle
                                    e      a      e
Une relation plus quadratique que lin´aire ?
                                     e
                  120




                                                                                                                                                       q




                                                                                                                                                                            q
                                                                                                                                                                            q
                  100




                                                                                                                                                                    q

                                                                                                                                                                        q                   q         q
                                                                                                                                                                                    q
                                                                                                                          q                                 q                           q
                                                                                                                                              q                         q   q
                                                                                                                                                                            q               q
     Poids (kg)




                                                                                                                                                  q                 q   q                             q
                                                                                                                                      q   q            q    q   q       q
                                                                                                                                  q           q
                  80




                                                                                                                          q           q   q   q   q
                                                                                                                          q                   q                 q   q
                                                                            q                   q       q
                                                                                                        q    q        q                       q                     q                                     q
                                                                                                        q                         q                    q            q
                                                                                            q                             q       q       q   q        q
                                                                                        q       q       q         q   q       q
                                                                                                                              q           q   q        q        q   q           q
                                                                                            q                q            q       q               q
                                                                                    q   q   q
                                                                                            q       q             q
                                                                                                                  q   q           q   q
                                                                                                                                      q   q   q                                     q
                                                                   q            q   q   q   q   q   q   q    q                    q           q
                                                                                                                                              q
                                                                                        q                    q                    q
                  60




                                                      q       q             q       q       q   q            q        q
                                                                                                                      q       q                                 q
                                                                        q   q   q           q
                                                                                            q   q   q   q                 q
                                              q                    q
                                                                   q    q   q
                                                                            q   q   q   q
                                                                                        q   q       q        q                q
                                                          q        q    q
                                                                        q   q   q   q
                                                                                    q   q               q
                                                                                                        q         q           q       q
                                  q               q       q   q         q       q
                                                                                q   q                   q
                        q                                 q        q    q                   q           q         q
                             q        q                                     q   q
                                                                                q
                                                      q
                                                      q                         q
                                          q
                  40




                                                      q



                            150                                   160                                       170                                       180                                       190

                                                                                                                 Taille (cm)




                                                                                                                                                                                                              17
`         ´
 Arthur CHARPENTIER - Moddeles de previsions (ACT6420 - Automne 2012)




                      Esp´rance conditionelle et projection
                         e
Faire une pr´diction de Y ` X fix´ c’est projeter Y sur l’ensemble des variables
             e            a       e
al´atoires engendr´es par X [...]
  e               e




                                                                             18
`         ´
 Arthur CHARPENTIER - Moddeles de previsions (ACT6420 - Automne 2012)




                      Esp´rance conditionelle et projection
                         e
[...] on peut se restreindre ` un sous-ensemble, celui des transformations affines
                             a
engendr´es par X [...]
          e




                                                                              19
`         ´
 Arthur CHARPENTIER - Moddeles de previsions (ACT6420 - Automne 2012)




                      Esp´rance conditionelle et projection
                         e
[...] ou on se restreint ` un sous-ensemble de ce sous-ensemble, les constantes.
                         a




                                                                                   20
`         ´
 Arthur CHARPENTIER - Moddeles de previsions (ACT6420 - Automne 2012)




                                                                                      Un peu de motivation ?
Le prestige (Y ) expliqu´ par le salaire (X), cf. Blishen & McRoberts (1976),
                        e
´tude du “prestige” de 102 m´tiers au Canada.
e                             e


                                                                                                                                                                                               PHYSICIANS   q
                                                                                                               UNIVERSITY.TEACHERS     q
                                                                                                                                                                     LAWYERS
                                                                                                                                                                               q
                80




                                                                                                                                       ARCHITECTS
                                                                                                                               q                    q
                                                                                                 q
                                                                       q q                                qq                       q
                                                                                                                           q   q       q                         q                         GENERAL.MANAGERS     q
                                                                         q                                                                              q       OSTEOPATHS.CHIROPRACTORS
                                                                                                      q                                             q
                                                                   q
                                                                                                                   q
                                                                                 q                    q
                60




                                                                             q             q
                                                                                     q           q                     q
                                                                                     q                         q
     Prestige




                                                                                       q             q q
                                                                                                         q
                                                                        q                                      q
                                                           q
                                                               q                             q       qq        q
                                                                                                               q
                                                               q                           q          q
                                                           q
                                                       q                                qq                   q
                                         q        q                                    q q
                                                                                       q         q
                                                                                                      q
                                                                                                          q q
                40




                                                 qq            q          q q
                                                        q                  q
                                                                            q q
                                                                           qq qqq
                                                      q q
                                                       q                 q
                                                 q                 q
                                                                  q
                                                   q q           qq
                                                 q                q
                         q                   q             q      q q
                                                               q
                                     q   q
                                 q
                20




                                                 q     q q
                                                      q
                             q



                     0                                             5000                                                10000                            15000                      20000              25000

                                                                                                                                           Revenu




                                                                                                                                                                                                                    21
`         ´
 Arthur CHARPENTIER - Moddeles de previsions (ACT6420 - Automne 2012)




                                                                                      Un peu de motivation ?
Le prestige (Y ) expliqu´ par le salaire (X), cf. Blishen & McRoberts (1976),
                        e
´tude du “prestige” de 102 m´tiers au Canada.
e                             e


                                                                                                                                                                                               PHYSICIANS   q
                                                                                                               UNIVERSITY.TEACHERS     q
                                                                                                                                                                     LAWYERS
                                                                                                                                                                               q
                80




                                                                                                                                       ARCHITECTS
                                                                                                                               q                    q
                                                                                                 q
                                                                       q q                                qq                       q
                                                                                                                           q   q       q                         q                         GENERAL.MANAGERS     q
                                                                         q                                                                              q       OSTEOPATHS.CHIROPRACTORS
                                                                                                      q                                             q
                                                                   q
                                                                                                                   q
                                                                                 q                    q
                60




                                                                             q             q
                                                                                     q           q                     q
                                                                                     q                         q
     Prestige




                                                                                       q             q q
                                                                                                         q
                                                                        q                                      q
                                                           q
                                                               q                             q       qq        q
                                                                                                               q
                                                               q                           q          q
                                                           q
                                                       q                                qq                   q
                                         q        q                                    q q
                                                                                       q         q
                                                                                                      q
                                                                                                          q q
                40




                                                 qq            q          q q
                                                        q                  q
                                                                            q q
                                                                           qq qqq
                                                      q q
                                                       q                 q
                                                 q                 q
                                                                  q
                                                   q q           qq
                                                 q                q
                         q                   q             q      q q
                                                               q
                                     q   q
                                 q
                20




                                                 q     q q
                                                      q
                             q



                     0                                             5000                                                10000                            15000                      20000              25000

                                                                                                                                           Revenu




                                                                                                                                                                                                                    22
`         ´
Arthur CHARPENTIER - Moddeles de previsions (ACT6420 - Automne 2012)




                                                                                       Un peu de motivation ?


                                                                                                                                                                                  q
                                                                                                                                      q
                                                                                                                                                                   q
               80




                                                                                                                              q                    q
                                                                                                  q
                                                                     q q                                   qq                     q
                                                                                                                          q   q       q                        q                       q
                                                                         q                                                                             q
                                                                                                       q                                       q
                                                                     q
                                                                                                                  q
                                                                                  q                    q
               60




                                                                              q             q
                                                                                      q           q                   q
                                                                                      q                      q
    Prestige




                                                                                        q              q q
                                                                                                           q
                                                                         q                                   q
                                                             q
                                                                 q                            q       qq     q
                                                                                                             q
                                                                 q                          q           q
                                                             q
                                                         q                               qq                   q
                                        q           q                                   q q
                                                                                        q         q
                                                                                                       q
                                                                                                           q q
               40




                                                qq          q                q q
                                                          q                   q
                                                                               q q
                                                                              qq qqq
                                                        q q
                                                         q               q
                                                q                q
                                                                  q
                                                    q q          qq
                                                q                 q
                        q                   q                q    q q
                                                               q
                                    q   q
                                q
               20




                                                q        q q
                                                        q
                            q



                    0                                                5000                                             10000                            15000           20000   25000

                                                                                                                                          Revenu




                                                                                                                                                                                           23
`         ´
Arthur CHARPENTIER - Moddeles de previsions (ACT6420 - Automne 2012)




                                                                                       Un peu de motivation ?


                                                                                                                                                                                  q
                                                                                                                                      q
                                                                                                                                                                   q
               80




                                                                                                                              q                    q
                                                                                                  q
                                                                     q q                                   qq                     q
                                                                                                                          q   q       q                        q                       q
                                                                         q                                                                             q
                                                                                                       q                                       q
                                                                     q
                                                                                                                  q
                                                                                  q                    q
               60




                                                                              q             q
                                                                                      q           q                   q
                                                                                      q                      q
    Prestige




                                                                                        q              q q
                                                                                                           q
                                                                         q                                   q
                                                             q
                                                                 q                            q       qq     q
                                                                                                             q
                                                                 q                          q           q
                                                             q
                                                         q                               qq                   q
                                        q           q                                   q q
                                                                                        q         q
                                                                                                       q
                                                                                                           q q
               40




                                                qq          q                q q
                                                          q                   q
                                                                               q q
                                                                              qq qqq
                                                        q q
                                                         q               q
                                                q                q
                                                                  q
                                                    q q          qq
                                                q                 q
                        q                   q                q    q q
                                                               q
                                    q   q
                                q
               20




                                                q        q q
                                                        q
                            q



                    0                                                5000                                             10000                            15000           20000   25000

                                                                                                                                          Revenu




                                                                                                                                                                                           24
`         ´
 Arthur CHARPENTIER - Moddeles de previsions (ACT6420 - Automne 2012)




                         Lien avec le cours de statistique ?
• Cours de statistique ‘descriptive’
On dispose d’un ´chantillon {y1 , · · · , yn }, de variables r´elles, yi ∈ R.
                e                                             e
On peut d´finir la moyenne, ou la variance (empirique)
         e
                           n
      y1 + · · · + yn   1
• y=                  =       yi
            n           n i=1
              n
   2  1
• s =              [yi − y]2
      n      i=1




                                                                                25
`         ´
 Arthur CHARPENTIER - Moddeles de previsions (ACT6420 - Automne 2012)




                         Lien avec le cours de statistique ?
• Cours de statistique math´matique
                           e
On dispose d’un ´chantillon {y1 , · · · , yn }, vu comme des r´alisation de variables
                    e                                             e
al´atoires {Y1 (ω), · · · , Yn (ω)}, ω ∈ Ω, i.e. yi = Yi (ω) ∈ R. On a maintenant des
  e
variables al´atoires sous-jacentes, Yi . Les moyennes et variances empiriques sont
            e
alors des r´alisations des variables al´atoires
           e                              e
                                 n
        Y1 + · · · + Yn       1
• Y =                     =         Yi
              n              n i=1
               n
   2  1
• S =               [Yi − Y ]2
      n       i=1
i.e. y = Y (ω) et s2 = S 2 (ω). En statistique math´matique, on utilise des
                                                   e
propri´t´s de ces variables al´atoires pour en d´duire des propri´t´s sur telle ou
       ee                       e                e               ee
telle statistique.



                                                                                  26
`         ´
 Arthur CHARPENTIER - Moddeles de previsions (ACT6420 - Automne 2012)




                                                              P
La loi des grands nombres garantit que Y → E(Y ) si on suppose que les Xi sont
des variables ind´pendantes, de mˆme esp´rance et de mˆme variance (finies, loi
                 e                 e     e             e
faible des grands nombres), i.e. ∀ε > 0.

                                        Y1 + Y2 + · · · + Yn
                         lim P                               − E(Y )        ε    =0
                       n→+∞                     n

On a aussi le th´or`me central limite, qui garantit que
                e e
√               L
  n(Y − E(Y )) → N (0, Var(Y )) si on suppose que les Xi sont des variables
ind´pendantes, de mˆme esp´rance et de mˆme variance (finies, loi faible des
   e                e       e               e
grands nombres), i.e.

                                      √ Y n − E(Y )
                                lim P  n            ≤z                  = Φ(z)
                               n→∞         Var(Y )

o` Φ(·) est la fonction de r´partition de la loi N (0, 1).
 u                          e


                                                                                      27
`         ´
 Arthur CHARPENTIER - Moddeles de previsions (ACT6420 - Automne 2012)




                         Lien avec le cours de statistique ?
• Cours d’inf´rence (param´trique)
             e            e
On dispose d’un ´chantillon {y1 , · · · , yn }, vu comme des r´alisation de variables
                  e                                               e
al´atoires {Y1 (ω), · · · , Yn (ω)}, o` les variables al´atoires sous-jacentes, Yi , sont
  e                                   u                 e
suppos´es ind´pendantes, et identiquement distribu´es, de loi
       e       e                                           e
F ∈ F = {Fθ , θ ∈ Θ}. Aussi, F = Fθ0 , mais θ0 est inconnu.
Remarque θ est g´n´rallement un param`tre dans Rk , mais pour simplifier, on
                  e e                e
supposera θ ∈ Θ ⊂ R.
Un estimateur θ est une fonction des observations. Attention, parfois
• θ = s(y1 , · · · , yn ) est un r´el, e.g. θ = y
                                  e
• θ = s(Y1 , · · · , Yn ) est une variable al´atoire, e.g. θ = Y
                                               e
Pour estimer θ, on dispose de deux m´thodes standards
                                              e
• la m´thode des moments
      e
• la m´thode du maximum de vraisemblance
      e

                                                                                      28
`         ´
 Arthur CHARPENTIER - Moddeles de previsions (ACT6420 - Automne 2012)




• La m´thode des moments
      e
On suppose que si Y ∼ Fθ , E(Y ) = g(θ) o` g(·) est bijective. Dans ce cas,
                                           u
θ = g −1 (E(Y )). Un estimateur naturel est alors

                                                  θ = g −1 (Y ).

On notera que l’on a (a priori) aucune information sur la qualit´ de l’estimateur,
                                                                e
e.g. l’estimateur n’a aucune raison d’ˆtre sans biais,
                                      e

                        E(θ) = E[g −1 (Y )]=g −1 (E[Y ]) = g −1 (E(Y )) = θ

Par contre, si g est suffisement r´guli`re, on a des propri´t´s asymptotiques,
                                e    e                   ee

                                        E(θ) → θ lorsque n → ∞.




                                                                               29
Act6420 uqam-part1
Act6420 uqam-part1
Act6420 uqam-part1
Act6420 uqam-part1
Act6420 uqam-part1
Act6420 uqam-part1
Act6420 uqam-part1
Act6420 uqam-part1
Act6420 uqam-part1
Act6420 uqam-part1
Act6420 uqam-part1
Act6420 uqam-part1
Act6420 uqam-part1
Act6420 uqam-part1
Act6420 uqam-part1
Act6420 uqam-part1
Act6420 uqam-part1
Act6420 uqam-part1
Act6420 uqam-part1
Act6420 uqam-part1
Act6420 uqam-part1
Act6420 uqam-part1
Act6420 uqam-part1
Act6420 uqam-part1
Act6420 uqam-part1
Act6420 uqam-part1
Act6420 uqam-part1
Act6420 uqam-part1
Act6420 uqam-part1
Act6420 uqam-part1
Act6420 uqam-part1
Act6420 uqam-part1
Act6420 uqam-part1
Act6420 uqam-part1
Act6420 uqam-part1
Act6420 uqam-part1
Act6420 uqam-part1
Act6420 uqam-part1
Act6420 uqam-part1
Act6420 uqam-part1
Act6420 uqam-part1
Act6420 uqam-part1
Act6420 uqam-part1
Act6420 uqam-part1
Act6420 uqam-part1
Act6420 uqam-part1
Act6420 uqam-part1
Act6420 uqam-part1
Act6420 uqam-part1
Act6420 uqam-part1
Act6420 uqam-part1
Act6420 uqam-part1
Act6420 uqam-part1
Act6420 uqam-part1
Act6420 uqam-part1
Act6420 uqam-part1
Act6420 uqam-part1
Act6420 uqam-part1
Act6420 uqam-part1
Act6420 uqam-part1
Act6420 uqam-part1
Act6420 uqam-part1
Act6420 uqam-part1
Act6420 uqam-part1
Act6420 uqam-part1
Act6420 uqam-part1
Act6420 uqam-part1
Act6420 uqam-part1
Act6420 uqam-part1
Act6420 uqam-part1
Act6420 uqam-part1

Contenu connexe

En vedette

Eviews 7
Eviews 7Eviews 7
Testing for Extreme Volatility Transmission
Testing for Extreme Volatility Transmission Testing for Extreme Volatility Transmission
Testing for Extreme Volatility Transmission
Arthur Charpentier
 
GP Chapitre 2 : Les méthodes de prévision
GP Chapitre 2 : Les méthodes de prévision GP Chapitre 2 : Les méthodes de prévision
GP Chapitre 2 : Les méthodes de prévision ibtissam el hassani
 
Chp3 - Modélisation Multidimensionnelle
Chp3 - Modélisation MultidimensionnelleChp3 - Modélisation Multidimensionnelle
Chp3 - Modélisation Multidimensionnelle
Lilia Sfaxi
 
HdR
HdRHdR
Mathematiques _resumes_du_cours
Mathematiques  _resumes_du_coursMathematiques  _resumes_du_cours
Mathematiques _resumes_du_coursahmed jafour
 
Chp2 - Les Entrepôts de Données
Chp2 - Les Entrepôts de DonnéesChp2 - Les Entrepôts de Données
Chp2 - Les Entrepôts de Données
Lilia Sfaxi
 
PFE : ITIL - Gestion de parc informatique
PFE : ITIL - Gestion de parc informatiquePFE : ITIL - Gestion de parc informatique
PFE : ITIL - Gestion de parc informatique
chammem
 
DEMARCHE AUDIT INFORMATIQUE DANS UNE BANQUE - RAPPORT DE STAGE
DEMARCHE AUDIT INFORMATIQUE DANS UNE BANQUE - RAPPORT DE STAGEDEMARCHE AUDIT INFORMATIQUE DANS UNE BANQUE - RAPPORT DE STAGE
DEMARCHE AUDIT INFORMATIQUE DANS UNE BANQUE - RAPPORT DE STAGE
hpfumtchum
 
Cours econometrie-uqam-st-2-v2
Cours econometrie-uqam-st-2-v2Cours econometrie-uqam-st-2-v2
Cours econometrie-uqam-st-2-v2Arthur Charpentier
 

En vedette (18)

Cours add-r1-part3
Cours add-r1-part3Cours add-r1-part3
Cours add-r1-part3
 
Cours econometrie-uqam-st-3
Cours econometrie-uqam-st-3Cours econometrie-uqam-st-3
Cours econometrie-uqam-st-3
 
Eviews 7
Eviews 7Eviews 7
Eviews 7
 
Exercices act2121-session8
Exercices act2121-session8Exercices act2121-session8
Exercices act2121-session8
 
Slides 2040-5
Slides 2040-5Slides 2040-5
Slides 2040-5
 
Slides 2040-3-a2013
Slides 2040-3-a2013Slides 2040-3-a2013
Slides 2040-3-a2013
 
Ch02 seance01-diapos
Ch02 seance01-diaposCh02 seance01-diapos
Ch02 seance01-diapos
 
Slides 2040-4
Slides 2040-4Slides 2040-4
Slides 2040-4
 
Slides act6420-e2014-partie-1
Slides act6420-e2014-partie-1Slides act6420-e2014-partie-1
Slides act6420-e2014-partie-1
 
Testing for Extreme Volatility Transmission
Testing for Extreme Volatility Transmission Testing for Extreme Volatility Transmission
Testing for Extreme Volatility Transmission
 
GP Chapitre 2 : Les méthodes de prévision
GP Chapitre 2 : Les méthodes de prévision GP Chapitre 2 : Les méthodes de prévision
GP Chapitre 2 : Les méthodes de prévision
 
Chp3 - Modélisation Multidimensionnelle
Chp3 - Modélisation MultidimensionnelleChp3 - Modélisation Multidimensionnelle
Chp3 - Modélisation Multidimensionnelle
 
HdR
HdRHdR
HdR
 
Mathematiques _resumes_du_cours
Mathematiques  _resumes_du_coursMathematiques  _resumes_du_cours
Mathematiques _resumes_du_cours
 
Chp2 - Les Entrepôts de Données
Chp2 - Les Entrepôts de DonnéesChp2 - Les Entrepôts de Données
Chp2 - Les Entrepôts de Données
 
PFE : ITIL - Gestion de parc informatique
PFE : ITIL - Gestion de parc informatiquePFE : ITIL - Gestion de parc informatique
PFE : ITIL - Gestion de parc informatique
 
DEMARCHE AUDIT INFORMATIQUE DANS UNE BANQUE - RAPPORT DE STAGE
DEMARCHE AUDIT INFORMATIQUE DANS UNE BANQUE - RAPPORT DE STAGEDEMARCHE AUDIT INFORMATIQUE DANS UNE BANQUE - RAPPORT DE STAGE
DEMARCHE AUDIT INFORMATIQUE DANS UNE BANQUE - RAPPORT DE STAGE
 
Cours econometrie-uqam-st-2-v2
Cours econometrie-uqam-st-2-v2Cours econometrie-uqam-st-2-v2
Cours econometrie-uqam-st-2-v2
 

Plus de Arthur Charpentier

Family History and Life Insurance
Family History and Life InsuranceFamily History and Life Insurance
Family History and Life Insurance
Arthur Charpentier
 
ACT6100 introduction
ACT6100 introductionACT6100 introduction
ACT6100 introduction
Arthur Charpentier
 
Family History and Life Insurance (UConn actuarial seminar)
Family History and Life Insurance (UConn actuarial seminar)Family History and Life Insurance (UConn actuarial seminar)
Family History and Life Insurance (UConn actuarial seminar)
Arthur Charpentier
 
Control epidemics
Control epidemics Control epidemics
Control epidemics
Arthur Charpentier
 
STT5100 Automne 2020, introduction
STT5100 Automne 2020, introductionSTT5100 Automne 2020, introduction
STT5100 Automne 2020, introduction
Arthur Charpentier
 
Family History and Life Insurance
Family History and Life InsuranceFamily History and Life Insurance
Family History and Life Insurance
Arthur Charpentier
 
Machine Learning in Actuarial Science & Insurance
Machine Learning in Actuarial Science & InsuranceMachine Learning in Actuarial Science & Insurance
Machine Learning in Actuarial Science & Insurance
Arthur Charpentier
 
Reinforcement Learning in Economics and Finance
Reinforcement Learning in Economics and FinanceReinforcement Learning in Economics and Finance
Reinforcement Learning in Economics and Finance
Arthur Charpentier
 
Optimal Control and COVID-19
Optimal Control and COVID-19Optimal Control and COVID-19
Optimal Control and COVID-19
Arthur Charpentier
 
Slides OICA 2020
Slides OICA 2020Slides OICA 2020
Slides OICA 2020
Arthur Charpentier
 
Lausanne 2019 #3
Lausanne 2019 #3Lausanne 2019 #3
Lausanne 2019 #3
Arthur Charpentier
 
Lausanne 2019 #4
Lausanne 2019 #4Lausanne 2019 #4
Lausanne 2019 #4
Arthur Charpentier
 
Lausanne 2019 #2
Lausanne 2019 #2Lausanne 2019 #2
Lausanne 2019 #2
Arthur Charpentier
 
Lausanne 2019 #1
Lausanne 2019 #1Lausanne 2019 #1
Lausanne 2019 #1
Arthur Charpentier
 
Side 2019 #10
Side 2019 #10Side 2019 #10
Side 2019 #10
Arthur Charpentier
 
Side 2019 #11
Side 2019 #11Side 2019 #11
Side 2019 #11
Arthur Charpentier
 
Side 2019 #12
Side 2019 #12Side 2019 #12
Side 2019 #12
Arthur Charpentier
 
Side 2019 #9
Side 2019 #9Side 2019 #9
Side 2019 #9
Arthur Charpentier
 
Side 2019 #8
Side 2019 #8Side 2019 #8
Side 2019 #8
Arthur Charpentier
 
Side 2019 #7
Side 2019 #7Side 2019 #7
Side 2019 #7
Arthur Charpentier
 

Plus de Arthur Charpentier (20)

Family History and Life Insurance
Family History and Life InsuranceFamily History and Life Insurance
Family History and Life Insurance
 
ACT6100 introduction
ACT6100 introductionACT6100 introduction
ACT6100 introduction
 
Family History and Life Insurance (UConn actuarial seminar)
Family History and Life Insurance (UConn actuarial seminar)Family History and Life Insurance (UConn actuarial seminar)
Family History and Life Insurance (UConn actuarial seminar)
 
Control epidemics
Control epidemics Control epidemics
Control epidemics
 
STT5100 Automne 2020, introduction
STT5100 Automne 2020, introductionSTT5100 Automne 2020, introduction
STT5100 Automne 2020, introduction
 
Family History and Life Insurance
Family History and Life InsuranceFamily History and Life Insurance
Family History and Life Insurance
 
Machine Learning in Actuarial Science & Insurance
Machine Learning in Actuarial Science & InsuranceMachine Learning in Actuarial Science & Insurance
Machine Learning in Actuarial Science & Insurance
 
Reinforcement Learning in Economics and Finance
Reinforcement Learning in Economics and FinanceReinforcement Learning in Economics and Finance
Reinforcement Learning in Economics and Finance
 
Optimal Control and COVID-19
Optimal Control and COVID-19Optimal Control and COVID-19
Optimal Control and COVID-19
 
Slides OICA 2020
Slides OICA 2020Slides OICA 2020
Slides OICA 2020
 
Lausanne 2019 #3
Lausanne 2019 #3Lausanne 2019 #3
Lausanne 2019 #3
 
Lausanne 2019 #4
Lausanne 2019 #4Lausanne 2019 #4
Lausanne 2019 #4
 
Lausanne 2019 #2
Lausanne 2019 #2Lausanne 2019 #2
Lausanne 2019 #2
 
Lausanne 2019 #1
Lausanne 2019 #1Lausanne 2019 #1
Lausanne 2019 #1
 
Side 2019 #10
Side 2019 #10Side 2019 #10
Side 2019 #10
 
Side 2019 #11
Side 2019 #11Side 2019 #11
Side 2019 #11
 
Side 2019 #12
Side 2019 #12Side 2019 #12
Side 2019 #12
 
Side 2019 #9
Side 2019 #9Side 2019 #9
Side 2019 #9
 
Side 2019 #8
Side 2019 #8Side 2019 #8
Side 2019 #8
 
Side 2019 #7
Side 2019 #7Side 2019 #7
Side 2019 #7
 

Act6420 uqam-part1

  • 1. ` ´ Arthur CHARPENTIER - Moddeles de previsions (ACT6420 - Automne 2012) Mod`les de pr´vision e e Partie 1 - r´gression e Arthur Charpentier charpentier.arthur@uqam.ca http ://freakonometrics.blog.free.fr/ Automne 2012 1
  • 2. ` ´ Arthur CHARPENTIER - Moddeles de previsions (ACT6420 - Automne 2012) Plan du cours • Motivation et introduction aux mod`les de r´gression e e • Le mod`le lin´aire simple e e ◦ R´sultats g´n´raux e e e ◦ Approche matricielle • Le mod`le lin´aire multiple e e ◦ R´sultats g´n´raux e e e ◦ Tests, choix de mod`le, diagnostique e • Aller plus loin ◦ Les mod`les non lin´aires param´triques e e e ◦ Les mod`les non lin´aires nonparam´triques e e e 2
  • 3. ` ´ Arthur CHARPENTIER - Moddeles de previsions (ACT6420 - Automne 2012) Un peu de terminologie L’´tude de la transmission g´n´tique de e e e certaines caract´ristiques a int´ress´ e e e Galton en 1870 puis Pearson en 1896. Galton a propos´ d´tudier la taille d’un enfant en e e fonction de la taille (moyenne) de ses parents, a ` partir de 928 observations. 3
  • 4. ` ´ Arthur CHARPENTIER - Moddeles de previsions (ACT6420 - Automne 2012) 4
  • 5. ` ´ Arthur CHARPENTIER - Moddeles de previsions (ACT6420 - Automne 2012) 5
  • 6. ` ´ Arthur CHARPENTIER - Moddeles de previsions (ACT6420 - Automne 2012) 74 q q q q q q q q q q q q q q q q q q 72 q q q q q q q Taille de l'enfant (inches) q q q q q q q q 70 q q q q q q q q q q q q q q q q q q q 68 q q q q q q q q q q q q q q q q q q 66 q q q q q q q q q q q q q q q q 64 q q q q q q q q q q q 62 q q q q q 64 66 68 70 72 Taille moyenne des parents (inches) Un enfant de parents grands est en moyenne grand, mais moins que ses parents. Un enfant de parents petits est en moyenne petits, mais moins que ses parents. =⇒ “I have called this peculiarity by the name of regression”, au sens r´gression e vers la moyenne. 6
  • 7. ` ´ Arthur CHARPENTIER - Moddeles de previsions (ACT6420 - Automne 2012) Un peu de terminologie Pearson a propos´ d’´tudier le lien entre la taille d’un homme et celle de son e e p`re. La conclusion est la mˆme, il y a r´gression vers la moyenne. e e e q q q q q q q q q q q q q 75 q q q qq q q q q q q qq q q q q q qq q q qqq q q q q q q q q q q q q q q qq qq qq q q q q q q q qq q q qq q q q qq q q q q qq q q q q q qq q q q q q qq q q q q q q q qq q qq q q q q q qq q q q q q Taille du fils (inches) q q q q qq q q q q q q qq qqq q q q q q q qq q qq qq q qq q q qqq q q q q qq q q q q qq q q q q q q q q qqq q qq q q q qq q q q q qq q q qq q qq q q q qq qq q q q qq q qq q q q q q qq qqqq qq qq q qq qqqqq q q q q q q q q qq qq q q q q q q q q qq q q q q q q q q q q qq q q q q q q q q q qq q qq q q q qq q q q q q q qq q q q q q q q q q q 70 q q q q q q q qqqqq q q qq q q q q qqq qq q q qqq q qq q q q qq q qq q q q q q q qq q q qq q qq q q q q q qq q q q qq q q q qq qqqq q q q qqq qqq q q qq q q q q q q q qq q q q q q q qqq q q q q q q q q qqq q qqq q qq q q q q q qq q qqqq q qq q q q q q q q q q q qq q q q q qq q q q q q q qq q q q qq qq q q q q q q q qq q q q q qq q q qqq q qq q q q q q qq q qqq q q q q q q qq q q q q q q q qq q q q qq q qq q q q q q qq q q qq qqq q qq qq q qqq q q q q q q q q qq qq q q q q qq q qq q q q qq q q qqq qq q q qq qq qq q qq q q q q qqq q q q q q q qq q q qq qq q q qq q q q q q q q q q q qq q q q qq q q q q q q qq qqqq q q q q qq q qq q q q q q q q q q q qq q q q q q q q q q q q q q q qq q qqq q qq q q q qq q q q q q q q q qqq q q qq q q qq q qq qqqq q q q q q qq q q q q qq q qq q q q q q q q q q q q q q q q q q q q qq qq q q q q qq q q qq q qq q qq qq q q q q q q q q q q qq q q q q q q q qq qq q q qq q q q q q qqq q qq q qqqq q q q q q q qq q q q q q q q q q q qq q q q q q q q qq q q q qq q q q q q q q qq q qq q q q q qq qq q q qq q q q q q q q q q q qq q q qqq q q qq q q q q q qq q qq 65 q q q q qq q q q q q q qq q qq q q q qq q q q q q q q q qq q q q q q q q q q q q q qq q q q q q q q q q q q qq q q qq q qq q q q q q q q q q q q q q q q q q q q q q q q qq q q q 60 q q q q q 60 65 70 75 Taille du père (inches) r´gression = ´tudes de corr´lations e e e 7
  • 8. ` ´ Arthur CHARPENTIER - Moddeles de previsions (ACT6420 - Automne 2012) Un peu de terminologie Remarque cela ne signifie pas que les fils sont plus “moyens” que leurs p`res : il e ne s’agit que d’une notion de corr´lation, de d´pendance, en aucun cas de lois e e marginales q q q q q q q q q q q qq q q q q q q q q qq q q q q q q 75 75 q q q q q q q q q q q q q q q qq q q q q qq q qq q q qq q qq q qqqqqqq q q q q qq qqq q q q q q qqq q q q qq qqqq q q q qq q qq q qq q q qq q qq q q q q qq q qqq q q q q q q q qq q q q q qq q qq q q q q q q qq qq q q q q q q q qq q q qqq q qq q q q q q qq q qq q q q q q qqq qq q q qq q qq q q q q q q q q q q q q q q q qqq q q q q q q qq q q qq q qq q qq q q q qq qq qq q q qqq qq qq q q q q q qqqq q q q qq qq qq q q qq qq q q q q q qq q q q qq q q q q q q q q q q qqq q qq qq q q q q q qqq qq q qq q q q q qq qq q qqqq qq q q qq qq q qq q q q q q qqqqq q q q q q qqq q q qq qqqqqq q qqqq q qqq q q q qqq q qqq q qq qqq q q q q qq qq q q qq q qqq q qq qq q q q q q q q q q q qq qq q q q q q qq q q q qq q q q qq qq q q q qq q q q q q q qq q q qq q q q q q qqqqq qq q qq qqqqq qq q qqq qqq q q q q qq q qq q q qqqq q q q q q q q q q q q q qq q q q qq q qqq q q qq q qqq qq q qq q q q q qqq q qqqqq q q q q q q qqq q q q q q q q q qqq q q q qq q q q q q qq qq q q q q q q q qq q q qq q q qq qq q q q q qqq q qq q q q q 70 70 qq q q q qq q q q q q q q q q q q q q qqqqqqqq q qq q qqqq q q qq q q q q qq q qqq q qq q q q q q q q qq qq qq q qq q qqq qqqqq q qq q q qq q q qq q qq qq q q q q q q q qqq q q q q qqqqqqqqqqq qq q qq q q qq q q q qqqq q q q qq q q qqq q q q q qqq q q qq qq q qq q q q qq q qqqqq q q q q qqq q q q q q q qq qq q qq qq qqq qqqqq q qqq q q qq qq q q q q qqqqqqq qq qq q q q qq q qq q q q q qq q q q qqqqq qqqqqq qq q q q q q q q qq q qqqqqqq q q qqq q q q q q q q q q qq qqq q q q qq qqq qq q qqq q q q qq qqq qq q q q q qq q qqqqqqqqq q q q q q q q qqqq qq qqqq q q q q q q q q q qq q qq q qqqqqqq q qqq q q q q qqq q qq q q q q q qq q q qqqq q q q qqqq qqq q q q q qq q q q q q q qq qqqqqqqqq qq qq q q q q qq qqq q q qqq qqq qq qq q qqq q qq q qq qq q q q q qqqqq q q q qq q q qqq qq q q q q qqq qq q q q qq q q qq qq qqq qq q qq qq q q q q q q qq qq q q q q qqqqqq qq q qq q qq qq q q qq q qqqqq q q q q q q q q q q q qqqq qqq q qqqq qq qq q qq q q q q qqq qqq q q qq q q q q qq qqqqqqqqqqq q q q q qq qq qqq q q q q q qqq q qq qqq qq q q q qq q q q q qq q q qq q q q q qq qqq qq q qq q q q q qqq qqqqqqqq q q q q q q qqq q q q q qq q qq q qq q q q q q qq qq q q q qqq q q q qq q q q qqq q qq q qqq q q q q q q qq q q qqqqqqq qqq qq q qqq q q q q q q qq qq q q qq q q q q qqq q q q q qq q q q qq qq q q qq qqqq q q qq q q q q qq q q q qq q q q q q qq q qqqq qq qqqq q qq q qqq q q qq qqq q q q q q q qqq q q q q q q qq q q q q q q q q q qqqqqqq q q q q qq q q q qqq q q qq q q q q qq qqq qq q q qqq q q q q qq q q q qq q q q q q q q q qqq q qq qq q q q q q q qq q q qqqq q q q qq q q q q q qqq q q q q 65 65 q qq q q qq q q q q q q q qq q q q qqq q q q qqqqq q q qq q q q q q q q q q qqq qq q q qq q qq q q q q qq q qq q q q q q q qqq qq q q q q q q q qq q qq q q q q qq q q q qqq q q q q q q q q q q qq q q q q q qqq qq q q q q q q qq q q qq q q qq q q qq q q q q q q q q q q q qq q q qq q q q q q 60 60 q q q 60 65 70 75 60 65 70 75 8
  • 9. ` ´ Arthur CHARPENTIER - Moddeles de previsions (ACT6420 - Automne 2012) de l’esp´rance ` l’esp´rance conditionnelle e a e Pr´dire le poids Y , sans aucune autre information e 0.05 q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q 0.04 0.03 densité 0.02 0.01 0.00 40 60 80 100 120 Poids (kg) 9
  • 10. ` ´ Arthur CHARPENTIER - Moddeles de previsions (ACT6420 - Automne 2012) de l’esp´rance ` l’esp´rance conditionnelle e a e On peut aussi regarder la loi de Y , pour en d´duire des quantiles (e.g. ob´sit´) e e e 0.05 q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q 0.04 0.03 densité 0.02 0.01 0.00 40 60 80 100 120 Poids (kg) 10
  • 11. ` ´ Arthur CHARPENTIER - Moddeles de previsions (ACT6420 - Automne 2012) de l’esp´rance ` l’esp´rance conditionnelle e a e On peut aussi regarder la loi de Y , derri`re se cache un m´lange (par sexe) e e 0.05 0.04 0.03 densité 0.02 0.01 0.00 40 60 80 100 120 Poids (kg) 11
  • 12. ` ´ Arthur CHARPENTIER - Moddeles de previsions (ACT6420 - Automne 2012) de l’esp´rance ` l’esp´rance conditionnelle e a e Estimation de la loi de Y |X = 175 120 100 Poids (kg) 80 q 60 40 150 160 170 180 190 Taille (cm) 12
  • 13. ` ´ Arthur CHARPENTIER - Moddeles de previsions (ACT6420 - Automne 2012) de l’esp´rance ` l’esp´rance conditionnelle e a e Estimation de la loi de Y |X = 185 120 100 q Poids (kg) 80 q 60 40 150 160 170 180 190 Taille (cm) 13
  • 14. ` ´ Arthur CHARPENTIER - Moddeles de previsions (ACT6420 - Automne 2012) de l’esp´rance ` l’esp´rance conditionnelle e a e Estimation de la loi de Y |X = 165 120 100 q Poids (kg) 80 q 60 q 40 150 160 170 180 190 Taille (cm) 14
  • 15. ` ´ Arthur CHARPENTIER - Moddeles de previsions (ACT6420 - Automne 2012) de l’esp´rance ` l’esp´rance conditionnelle e a e Pour plusieurs valeur de x, il possible d’estimer une loi de Y |X = x 120 100 Poids (kg) 80 60 40 150 160 170 180 190 Taille (cm) 15
  • 16. ` ´ Arthur CHARPENTIER - Moddeles de previsions (ACT6420 - Automne 2012) de l’esp´rance ` l’esp´rance conditionnelle e a e Une explication de la nonlin´arit´, l’h´t´rog´n´it´ hommes/femmes e e ee e e e 120 100 Poids (kg) 80 60 40 150 160 170 180 190 Taille (cm) 16
  • 17. ` ´ Arthur CHARPENTIER - Moddeles de previsions (ACT6420 - Automne 2012) de l’esp´rance ` l’esp´rance conditionnelle e a e Une relation plus quadratique que lin´aire ? e 120 q q q 100 q q q q q q q q q q q q q Poids (kg) q q q q q q q q q q q q 80 q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q 60 q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q q 40 q 150 160 170 180 190 Taille (cm) 17
  • 18. ` ´ Arthur CHARPENTIER - Moddeles de previsions (ACT6420 - Automne 2012) Esp´rance conditionelle et projection e Faire une pr´diction de Y ` X fix´ c’est projeter Y sur l’ensemble des variables e a e al´atoires engendr´es par X [...] e e 18
  • 19. ` ´ Arthur CHARPENTIER - Moddeles de previsions (ACT6420 - Automne 2012) Esp´rance conditionelle et projection e [...] on peut se restreindre ` un sous-ensemble, celui des transformations affines a engendr´es par X [...] e 19
  • 20. ` ´ Arthur CHARPENTIER - Moddeles de previsions (ACT6420 - Automne 2012) Esp´rance conditionelle et projection e [...] ou on se restreint ` un sous-ensemble de ce sous-ensemble, les constantes. a 20
  • 21. ` ´ Arthur CHARPENTIER - Moddeles de previsions (ACT6420 - Automne 2012) Un peu de motivation ? Le prestige (Y ) expliqu´ par le salaire (X), cf. Blishen & McRoberts (1976), e ´tude du “prestige” de 102 m´tiers au Canada. e e PHYSICIANS q UNIVERSITY.TEACHERS q LAWYERS q 80 ARCHITECTS q q q q q qq q q q q q GENERAL.MANAGERS q q q OSTEOPATHS.CHIROPRACTORS q q q q q q 60 q q q q q q q Prestige q q q q q q q q q qq q q q q q q q qq q q q q q q q q q q 40 qq q q q q q q q qq qqq q q q q q q q q q qq q q q q q q q q q q q 20 q q q q q 0 5000 10000 15000 20000 25000 Revenu 21
  • 22. ` ´ Arthur CHARPENTIER - Moddeles de previsions (ACT6420 - Automne 2012) Un peu de motivation ? Le prestige (Y ) expliqu´ par le salaire (X), cf. Blishen & McRoberts (1976), e ´tude du “prestige” de 102 m´tiers au Canada. e e PHYSICIANS q UNIVERSITY.TEACHERS q LAWYERS q 80 ARCHITECTS q q q q q qq q q q q q GENERAL.MANAGERS q q q OSTEOPATHS.CHIROPRACTORS q q q q q q 60 q q q q q q q Prestige q q q q q q q q q qq q q q q q q q qq q q q q q q q q q q 40 qq q q q q q q q qq qqq q q q q q q q q q qq q q q q q q q q q q q 20 q q q q q 0 5000 10000 15000 20000 25000 Revenu 22
  • 23. ` ´ Arthur CHARPENTIER - Moddeles de previsions (ACT6420 - Automne 2012) Un peu de motivation ? q q q 80 q q q q q qq q q q q q q q q q q q q q q 60 q q q q q q q Prestige q q q q q q q q q qq q q q q q q q qq q q q q q q q q q q 40 qq q q q q q q q qq qqq q q q q q q q q q qq q q q q q q q q q q q 20 q q q q q 0 5000 10000 15000 20000 25000 Revenu 23
  • 24. ` ´ Arthur CHARPENTIER - Moddeles de previsions (ACT6420 - Automne 2012) Un peu de motivation ? q q q 80 q q q q q qq q q q q q q q q q q q q q q 60 q q q q q q q Prestige q q q q q q q q q qq q q q q q q q qq q q q q q q q q q q 40 qq q q q q q q q qq qqq q q q q q q q q q qq q q q q q q q q q q q 20 q q q q q 0 5000 10000 15000 20000 25000 Revenu 24
  • 25. ` ´ Arthur CHARPENTIER - Moddeles de previsions (ACT6420 - Automne 2012) Lien avec le cours de statistique ? • Cours de statistique ‘descriptive’ On dispose d’un ´chantillon {y1 , · · · , yn }, de variables r´elles, yi ∈ R. e e On peut d´finir la moyenne, ou la variance (empirique) e n y1 + · · · + yn 1 • y= = yi n n i=1 n 2 1 • s = [yi − y]2 n i=1 25
  • 26. ` ´ Arthur CHARPENTIER - Moddeles de previsions (ACT6420 - Automne 2012) Lien avec le cours de statistique ? • Cours de statistique math´matique e On dispose d’un ´chantillon {y1 , · · · , yn }, vu comme des r´alisation de variables e e al´atoires {Y1 (ω), · · · , Yn (ω)}, ω ∈ Ω, i.e. yi = Yi (ω) ∈ R. On a maintenant des e variables al´atoires sous-jacentes, Yi . Les moyennes et variances empiriques sont e alors des r´alisations des variables al´atoires e e n Y1 + · · · + Yn 1 • Y = = Yi n n i=1 n 2 1 • S = [Yi − Y ]2 n i=1 i.e. y = Y (ω) et s2 = S 2 (ω). En statistique math´matique, on utilise des e propri´t´s de ces variables al´atoires pour en d´duire des propri´t´s sur telle ou ee e e ee telle statistique. 26
  • 27. ` ´ Arthur CHARPENTIER - Moddeles de previsions (ACT6420 - Automne 2012) P La loi des grands nombres garantit que Y → E(Y ) si on suppose que les Xi sont des variables ind´pendantes, de mˆme esp´rance et de mˆme variance (finies, loi e e e e faible des grands nombres), i.e. ∀ε > 0. Y1 + Y2 + · · · + Yn lim P − E(Y ) ε =0 n→+∞ n On a aussi le th´or`me central limite, qui garantit que e e √ L n(Y − E(Y )) → N (0, Var(Y )) si on suppose que les Xi sont des variables ind´pendantes, de mˆme esp´rance et de mˆme variance (finies, loi faible des e e e e grands nombres), i.e. √ Y n − E(Y ) lim P n ≤z = Φ(z) n→∞ Var(Y ) o` Φ(·) est la fonction de r´partition de la loi N (0, 1). u e 27
  • 28. ` ´ Arthur CHARPENTIER - Moddeles de previsions (ACT6420 - Automne 2012) Lien avec le cours de statistique ? • Cours d’inf´rence (param´trique) e e On dispose d’un ´chantillon {y1 , · · · , yn }, vu comme des r´alisation de variables e e al´atoires {Y1 (ω), · · · , Yn (ω)}, o` les variables al´atoires sous-jacentes, Yi , sont e u e suppos´es ind´pendantes, et identiquement distribu´es, de loi e e e F ∈ F = {Fθ , θ ∈ Θ}. Aussi, F = Fθ0 , mais θ0 est inconnu. Remarque θ est g´n´rallement un param`tre dans Rk , mais pour simplifier, on e e e supposera θ ∈ Θ ⊂ R. Un estimateur θ est une fonction des observations. Attention, parfois • θ = s(y1 , · · · , yn ) est un r´el, e.g. θ = y e • θ = s(Y1 , · · · , Yn ) est une variable al´atoire, e.g. θ = Y e Pour estimer θ, on dispose de deux m´thodes standards e • la m´thode des moments e • la m´thode du maximum de vraisemblance e 28
  • 29. ` ´ Arthur CHARPENTIER - Moddeles de previsions (ACT6420 - Automne 2012) • La m´thode des moments e On suppose que si Y ∼ Fθ , E(Y ) = g(θ) o` g(·) est bijective. Dans ce cas, u θ = g −1 (E(Y )). Un estimateur naturel est alors θ = g −1 (Y ). On notera que l’on a (a priori) aucune information sur la qualit´ de l’estimateur, e e.g. l’estimateur n’a aucune raison d’ˆtre sans biais, e E(θ) = E[g −1 (Y )]=g −1 (E[Y ]) = g −1 (E(Y )) = θ Par contre, si g est suffisement r´guli`re, on a des propri´t´s asymptotiques, e e ee E(θ) → θ lorsque n → ∞. 29