Apports de l'analyse bayesienne aux methodes d'apprentissage des perceptrons multi-couches
Institution:
École normale supérieure (Lyon ; 1987-2009)Disciplines:
Directors:
Abstract EN:
Pas de résumé disponible.
Abstract FR:
Ce memoire de these est consacre a l'etude theorique et experimentale des apports de l'approche bayesienne dans les methodes d'apprentissage des perceptrons multicouches. Plus precisement, nous avons etudie le formalisme et les methodes introduites dans le domaine des reseaux de neurones par david mackay (1992). Nous nous sommes interesses en particulier a certains aspects theoriques et methodologiques de ce cadre qui sont contestes par beaucoup de specialistes connexionnistes ou bayesiens. Par ailleurs, la place occupee par la methode de d. Mackay parmi les diverses techniques bayesiennes etant encore peu connue des connexionnistes, on a voulu ici contribuer a combler cette lacune. Un dernier aspect du travail est l'application de ces methodologies a des problemes reels. La these (i) a examine plusieurs aspects des techniques bayesiennes appliquees aux perceptrons multicouches ; (ii) a montre comment les techniques de d. Mackay permettent d'eviter le phenomene d'overfitting et de classer diverses architectures de perceptrons multicouches (iii) a compare les performances des reseaux bayesiens avec celles de certains classifieurs bien connus en statistique ; (iv) a montre des difficultes numerique qui empechent souvent d'experimenter la methode sur les problemes plus complexes ; (v) a essaye de tracer de nouvelles directions de recherche