Différents problèmes liés à l'estimation de l'entropie de Shannon d'une loi, d'un processus de Markov

• Main Author: Regnault, Philippe
• Language: FRE
• Published: Université de Caen 2011
• Subjects: [MATH:MATH_ST] Mathematics/Statistics; [STAT:TH] Statistics/Statistics Theory; Estimation par plug-in; entropie de Shannon; processus de Markov; principe de grandes déviations; files d'attente
• Online Access: http://tel.archives-ouvertes.fr/tel-00673694; http://tel.archives-ouvertes.fr/docs/00/67/36/94/PDF/Regnault-Ph_these.pdf

On étudie à la fois l'estimation de l'entropie de Shannon d'une probabilité à partir d'observations indépendantes ou markoviennes, et l'estimation du taux d'entropie d'un processus markovien de sauts d'espace d'état fini, à partir d'observations continues ou discrètes. Plusieurs problèmes connexes sont traités. Certains apparaissent en amont de l'estimation, comme l'étude de la géométrie de la divergence de Kullback-Leibler en lien avec la transformation escorte. D'autres apparaissent comme des applications des résultats d'estimation obtenus. On construit ainsi des tests sur le niveau d'entropie d'une probabilité, à partir d'un principe de grandes déviations pour la suite des estimateurs empiriques de l'entropie d'une suite de variables indépendantes. On étudie également diverses propriétés en lien avec l'estimation de l'entropie et du taux d'entropie de files d'attente modélisées par des processus markoviens de naissance et de mort.