Ce mémoire est consacré aux groupes d’automorphismes des arbres semi-homogènes (“bicolores”), appelés arbres de Bruhat-Tits selon la terminologie introduite par Ol’shanski. Un arbre sera dit de type \((q_1, q_2)\), si ses sommets sont numérotés par {1,2}, et si les voisins d’un sommet de numéro 1 (resp. 2) sont des sommets numéro 2 (resp. 1), et qu’il y en a \(q_1 + 1\) (resp. \(q_2 + 1)\). \((q_1\) et \(q_2\) ne sont pas tous deux égaux à 1). Un abre homogène dont chaque sommet est d’ordre des sommets est \(q + 1\), pourra être considéré soit comme un arbre semi-homogène de type \((q,q)\), s’il est numéroté, soit s’identifier aux sommets d’ordre \(q + 1\) dans un arbre de type \((q,1)\) obtenu en “ajoutant” un sommet au “milieu” de toute arête. Le groupe \({\mathcal G}\) des automorphismes d’un arbre \({\mathcal A}\) de Bruhat-Tits est transitif sur l’espace \(\Omega\) de ses bouts, et on montre que cette condition caractérise essentiellement les arbres de Bruhat-Tits, parmi les arbres numérotés “réguliers” (dont le nombre d’arêtes issues d’un sommet de numéro i dont l’autre sommet est de numéro \(j\) ne dépend que de \((i,j))\). On se donne un sous-groupe fermé \(G\) de \({\mathcal G}\), muni de la topologie de la convergence simple, et transitif sur toutes les sphères de rayon 1. Un tel groupe sera dit doublement transitif. Ce groupe \(G\) pourra coïncider avec \({\mathcal G} \), et pourra être aussi un groupe \(p\)-adique simple de rang un, opérant sur son immeuble de Bruhat-Tits qui est un arbre. On décrit pour \(G\) une structure voisine d’un groupe réductif de rang un sur un corps local, comme \(\text{PGL}_2 (\mathbb{Q}_p)\). Et pour cela, on choisit une géodésique \((x_n)\), avec \(x_0\) de numéro 1, dont on note \(\pm \infty\) les bouts. Soit \(B\) le fixateur de \(\infty\) dans \(G\), et \(N\) le sous-groupe distingué de \(B\) formé par les éléments qui fixent une demi-géodésique de \(\infty\). On note \(K\) le fixateur de \(x_0\) dans \(G\). Il existe un élément \(\tau \in B\) avec \(\tau (x_n) = x_{n + 2}\), et on a \(B = \tau^\mathbb{Z} N\), il existe un élément \(w \in K\) avec \(\tau (x_n) = x_{- n}\). Le fixateur \(I\) de l’arête \( [x_0, x_1]\) s’appelera sous-groupe d’Iwahori. Le groupe \(G\) possède des décompositions de Cartan, d’Iwasawa, et de Bruhat \[ G = K \tau^\mathbb{N} K = KB = K \tau^\mathbb{Z} N = B \cup BwB = I \tau^\mathbb{Z} I \cup Iw \tau^\mathbb{Z} I. \] De plus, la paire \((G,K)\) est une paire de Gelfand, ce qui implique que l’algèbre pour la convolution des fonctions bi-invariantes par \(K\), ou fonctions radiales, est une algèbre commutative.
On introduit des séries principales de représentations de \(G\), soit comme représentations induites par un caractère de \(B\) trivial sur \(N\). Si \(\lambda\) est la valeur en \(\tau\) de ce caractère, on note \(\pi^\lambda\) la représentation obtenue. Ces séries principales peuvent aussi être réalisées de façon équivalente dans des espaces de fonctions sur \(\Omega\), et on explicite l’équivalence. On considère la fonction \(c_{q_1, q_2} (\lambda) = {1 + {q^2 - 1 \over \sqrt {q_1 q_2}} \lambda^{-1} - {1 \over q_1} \lambda^{-2} \over 1 - \lambda^{- 2}}\) qui est ici l’analogue de la fonction \(c\) d’Harish-Chandra. Si \(c_{q_1, q_2} (\lambda) c_{q_1, q_2} (\lambda^{-1}) \neq 0,\) les représentations \(\pi^\lambda\) sont irréductibles, elles sont de longueur deux sinon: dans ce cas on retrouve comme composant une représentation analogue à la représentation de Steinberg si \(\lambda = \sqrt {q_1 q_2}^{\pm 1}\) et si \(\lambda = - \sqrt {{q_1 \over q_2}}^{\pm 1}\) et si \(q_1 < q_2\) il y a un composant de \(\pi^\lambda\) qui est de carré intégrable et possède une droite de vecteurs invariants par \(K\).
On ne pourra pas construire l’analogue des séries principales ramifiées, car si le groupe \(B\) est bien l’analogue d’un sous-groupe parabolique, le groupe \(N\) n’en est pas le radical unipotent dont il n’y a pas d’analogue combinatoire. Le point clef pour l’analyse harmonique de \(G/K\), est la transformation de Satake définie sur \({\mathcal C}_c (K \backslash G/K)\) qui est donnée par \(\widetilde f (\tau^p) = \delta^{{1 \over 2}} (\tau^p) \int_N f(\tau^pn) dn\), où \(\delta\) est le module de \(B\). C’est un homomorphisme d’algèbre, dont la transformé de Laplace est la transformée de Fourier sphérique. Elle se calcule en comparant les décompositions de Cartan et d’Iwasawa et est donné par \(\widetilde f |_{\tau^N} = (\delta^{{1 \over 2}} f)*C_{q_1, q_2}\), où \(*\) est la convolution usuelle, et \(C_{q_1, q_2}\) admet \(c_{q_1, q_2} (\lambda)\) comme transformée de Laplace. On en déduit la décomposition spectrale de \(L^2 (K \backslash G/K)\), puis celle de \(L^2 (G/K)\), et dans le cas d’un arbre homogène celle de \(L^2 (G/I)\), pour \(I\) le fixateur d’une arête.
Un chapitre est consacré à l’étude des intégrales d’entrelacement, que l’on diagonalise, ce qui permet de définir des séries complémentaires, et d’étudier des représentations uniformément bornées. Un autre chapitre est consacré aux problèmes d’irréductibilité des restrictions de ces représentations au groupe \(B\).