Abstract FR:

Cette these presente un travail sur des systemes complexes de spins par des simulations monte carlo et des calculs analytiques. Il y a deux raisons principales: premierement, ces systemes correspondent a des materiaux magnetiques dont les applications sont multiples; deuxiemement, les systemes reels transformables en langage de spins peuvent etre traites par ces modeles. L'interet des etudes des systemes de spins n'est pas donc limite uniquement au domaine du magnetisme mais s'etend dans un grand nombre de domaines. Dans la premiere partie, une etude sur la nature de la transition de phase dans des systemes frustres est presente. Cette etude a ete menee pour comprendre l'effet de la frustration sur les proprietes critiques, en particulier l'ordre de la transition, les exposants critiques et le diagramme de phase. Differentes techniques de simulation monte carlo ont ete utilisees, notamment la technique des histogrammes tres recemment developpee, une etude tres approfondie porte sur le systeme de spins vectoriels en interaction antiferromagnetique sur les reseaux triangulaires empiles. La deuxieme partie de la these concerne une etude sur les effets des fluctuations quantiques, d'abord dans des systemes frustres presentes dans la premiere partie, puis dans des systemes quasi bidimensionnels. La methode utilisee est la technique des fonctions de green. La theorie des ondes de spin a ete egalement employee pour une comparaison