Abstract FR:

Dans le premier chapitre nous etudions la decomposition de l'espace l 2(v), ou v est une algebre de jordan simple reelle, sous l'action du groupe conforme de v. Pour cela nous definissons la representation harmonique d'une algebre de kantor-kcher-tits g associee a une representation d'une algebre de jordan simple reelle v dans un espace pseudo-euclidien e. Nous introduisons une famille d'operateurs integraux f v , associes a des fonctions -homogenes de degre (v,), pseudo-harmoniques sur e, et nous etablissons l'equivalence de la representation harmonique et d'une certaine representation derivee de la serie principale degeneree du groupe conforme g de l'algebre de jordan v. Lorsque v = m(n,r) la demonstration utilise une generalisation de l'identite de hecke qui exprime la transformee de fourier du produit de la fonction de gauss par un polynome harmonique homogene. Dans le cas general nous la formulons sous forme d'hypothese. Nous utilisons cette construction afin d'etablir la decomposition de l'espace de fonctions de carre integrable sur une algebre de jordan simple des matrices reelles carrees m(n,r) sous l'action du revetement d'ordre deux de son groupe conforme g = sl(2n,r)/i. La deuxieme partie est consacree a l'etude de l'espace des fonctions holomorphes de carre integrable definies sur un semi-groupe complexe d'olshanski groupe de lie simple, hermitien et non-compact, (c) = g exp(ic), ou c est un certain cone convexe, ferme et ad g-invariant dans g = lie(g). En utilisant la puissance tensorielle de la representation harmonique de segal-shale-weil et le principe de la dualite de howe nous decomposons la representation reguliere du groupe sp(n,r) sp(n,r) dans cet espace en somme directe de sous-espaces invariants irreductibles. Dans la derniere section nous calculons la transformee de laplace spherique de la fonction caracteristique du cone i(c) et nous obtenons ainsi une formule combinatoire exprimant la norme l 2 du coefficient matriciel associe au vecteur de plus haut poids.