Abstract FR:

La resolution des taches cognitives de haut niveau exige la construction et la manipulation de representations d'entites a structure complexe. Nous voulons savoir si les reseaux connexionnistes sont compatibles avec ces exigences, et dans quelle mesure une technique de representation adequate peut etre developpee par un reseau durant l'apprentissage. Nous avons etudie les representations internes obtenues apres apprentissage supervise dans des perceptrons multi-couches, des reseaux recurrents et des memoires auto-associatives recursives (raam). Nous avons choisi pour ces reseaux des taches dont la resolution exige l'utilisation de representations d'entites externes complexes. Nous avons employe differentes techniques d'analyse, notamment l'analyse discriminante, afin d'essayer de rendre explicite une structure interne des representations et de mettre cette structure en rapport avec la structure des entites representees. Les resultats montrent que les representations developpees par apprentissage dans les reseaux possedent effectivement une structure interne, qui peut traduire de maniere fiable la structure des entites. Pour les perceptrons multi-couches et les reseaux recurrents, en l'absence de correlations parasites dans le corpus d'apprentissage, un processus de traduction fidele peut etre developpe meme a partir d'un corpus d'apprentissage reduit. Nous remarquons que ces resultats peuvent etre etendus a d'autres modeles existants dans la litterature. Nous trouvons que les representations developpees par apprentissage que nous avons etudiees s'apparentent, pour des entites a structure non hierarchique, aux representations definies formellement par smolensky en faisant appel au produit tensoriel. Enfin, nous proposons un cadre formel (exploitant la compression recursive de produits tensoriels) pour la definition et l'evaluation de representations vectorielles d'entites hierarchiques, representations dont la construction et la manipulation sont compatibles avec le connexionnisme