Abstract FR:

La these traite les transitions de phase dans des systemes de spins avec interaction en competition par la simulation monte carlo (mc) avec la technique de l'histogramme. Les exposants critiques ont ete calcules a partir des lois d'echelle en taille finie. La premiere partie est consacree aux effets de la frustration dans le modele xy. L'etude des diagrammes de phase et la nature des transitions ont ete menees successivement sur le reseau triangulaire antiferromagnetique (3d), le reseau en damier (3d) et le reseau carre (2d). Parmi les resultats obtenus, on note, suivant le parametre de frustration, la mise en evidence des phases reentrantes paramagnetiques et des phases partiellement ordonnees pour le reseau en damier. Pour le modele xy completement frustre a 2d, la nature de la transition de phase a fait l'objet de plusieurs etudes analytiques et numeriques. Les resultats que nous avons obtenus montrent qu'il existe une seule transition contrairement au scenario qui prevoit deux transitions distinctes discute dans la litterature. De plus, les valeurs des exposants critiques, associes a la symetrie z 2, suggerent que la transition est dans le modele couple d'ising-xy. La deuxieme partie concerne un modele a spins d'ising sur des atomes en interaction elastique et magnetique. L'interet de ce modele est l'etude de l'effet du couplage magnetoelastique sur le comportement critique du systeme en fonction de l'intensite relative des forces magnetique et elastique. A forte interaction elastique, on retrouve la classe d'universalite d'ising, mais a faible interaction elastique, les calculs des histogrammes mc montrent que la transition est associee a des spins xy. Quand les interactions sont comparables, une nouvelle phase est obtenue, elle est due essentiellement a des contractions des paires de spins antiferromagnetiques.