Abstract FR:

Le premier chapitre est consacre a une generalisation des fonctions spheriques d'un espace symetrique ordonne. Etant donne un systeme de racines reduit dont le groupe de weyl admet un sous-groupe parabolique, et un systeme de multiplicites complexes, on definit des solutions particulieres du systeme hypergeometrique, appelees fonctions hypergeometriques de deuxieme espece, dont on etudie les proprietes de monodromie. On montre notamment que leur valeur au bord, en un certain sens, est egale a la fonction hypergeometrique. Dans le reste de la these, nous etudions la dualite entre un espace symetrique ordonne g/h et son dual riemannien compact u/k au moyen de la transformation de stieltjes, definie comme le produit de la transformation de laplace spherique sur g/h et de la transformation de fourier spherique inverse sur u/k. Nous calculons son noyau integral dans le cas des espaces symetriques ordonnes de rang un, de ceux de type olshanski et pour certains espaces de type cayley, et en deduisons qu'elle possede un inverse a gauche qui s'exprime par le biais d'une application de valeur au bord. En particulier, dans ce cas, les series de fourier spheriques sur u/k dont les coefficients peuvent etre interpoles par une fonction analytique convenable se prolongent en une fonction meromorphe sur l'espace symetrique complexifie. Les resultats du premier chapitre donnent des proprietes du noyau integral ci-dessus dans le cas general. Finalement, lorsque g/h est de type cayley, nous exprimons la dimension formelle des representations de la serie discrete holomorphe relative a l'aide de la formule de weyl relative aux representations unitaires k-spheriques de u, et en deduisons un lien entre le noyau integral ci-dessus et le noyau de cauchy-szego de l'espace de hardy associe a g/h.