Statistique bayésienne


Objectif

Ce cours présente les motivations de l’analyse statistique bayésienne, à la fois par rapport à la théorie de la décision et ses différentes notions d’optimalité (minimaxité, admissibilité, invariance) et en termes d’utilisation de l’information a priori disponible. Il considère ensuite les méthodes de modélisation a priori et de calcul des estimateurs de Bayes en estimation ponctuelle et pour les tests d’hypothèses. Les divers concepts seront illustrés dans le cadre des modèles linéaires généralisés, afin de montrer l’applicabilité et la pertinence de l’approche bayésienne. Le cours cherche à approfondir un point particulier par séance, les bases devant être acquises par une lecture préalable du chapître correspondant.

 

Plan

  1. Première partie :
    – Introduction : les principes Bayésiens
    – Determination de lois a priori : lois subjectives, lois conjuguées, lois non-informatives, a-priori hierarchiques et analyse bayésienne empirique.
    – Estimation ponctuelle.
    – Tests et Régions de confi ance.
    – Proprietés asymptotiques des approches Bayésiennes.
    – Choix et comparaison de modèles.
    – Analyse de modèles : régression linéaire, modèles de mélanges, modèles non-linéaire
    (modèles de choix binaire, modèles de durée), variables instrumentales, modèles dyna-
    miques.
    – Introduction à l’inference Bayésienne nonparamétrique (echantillonage multinomial,
    distribution de Dirichlet, processus de Dirichlet, bootstrap bayésien).
    – Proprietés asymptotiques des approches Bayésienne nonparamétriques.
  2. Deuxième partie :
    – De la régression linéaire paramétrique aux processus gaussiens, existence et garanties
    pratiques pour les processus gaussiens, inférence et choix de modèle pour les processus
    gaussiens, applications en apprentissage.
    –  Des modèles de mélange paramétriques aux processus de Dirichlet, existence et garan-
    ties pratiques pour les processus de Dirichlet, inférence pour les processus de Dirichlet,
    applications en apprentissage.

 

Références

“The Bayesian Choice : from Decision-Theoretic Motivations to Computational Imple-
mentation”, C. Robert, Springer-Verlag, New York (2001).

“Statistical Decision Theory and Bayesian Analysis”, J. Berger, Springer-Verlag, New
York (1985).

“Bayesian nonparametrics”, Hjort et al. eds., Cambridge University Press, (2010).