Estimation non paramétrique


Objectif

Dans un problème statistique en grande dimension nous avons recours principalement à des méthodes non paramétriques, c'est-à-dire qui permettent que la dimension du modèle augmente avec le nombre de données disponibles.

L'objet de ce cours est de donner un aperçu de quelques méthodes d'estimation non paramétrique et leur usage pour les tests statistiques et les intervalles de confiance (quantification de l'incertitude). Le choix des paramètres de réglages est fait de manière adaptative aux données, pour un choix très général de la loi sous-jacente aux données.

Les méthodes seront illustrées sur des modèles issus des applications, comme des modèles de mélange de populations (clustering), modèles graphiques ou modèles qui assurent la confidentialité des données.

 A l’issue de ce cours, les étudiants doivent être capable de 

-Proposer des estimateurs et des tests dans divers modèles non paramétriques ou en grande dimension

-Etablir des résultats quantitatifs concernant les estimateurs et les tests non paramétriques

Plan

Les thèmes suivants seront abordés :

  • Estimateurs à noyaux et par projection d'une densité. Validation croisée. Vitesses de convergence et optimalité.
  • Estimation non-paramétrique de la fonction de régression. Estimateurs par polynômes locaux, par projection (bases de Fourier, bases d'ondelettes). Vitesses de convergence et adaptation.
  • Estimation de fonctionnelles et tests non paramétriques. Vitesses de convergence et de tests, principes des intervalles de confiance non paramétriques.

Références

L. Devroye: A Course in Density Estimation. Birkhauser, Boston, 1987.

E. Giné, R. Nickl: Mathematical Foundations of Infinite-Dimensional Statistical Models, Cambridge University Press, 2015
A.Nemirovski: Topics in non-parametric statistics. Ecole d'Eté de Probabilités de Saint-Flour XXVIII – 1998. Lecture Notes in Mathematics, v.1738. Springer, 2000.
A.B.Tsybakov: Introduction to Nonparametric Estimation. Springer, New York, 2009.
L. Wasserman: All of Nonparametric Statistics. Springer, New York, 2006.