Une introduction aux systèmes dynamiques holomorphes

par Pascale Roesch et Jean-Yves Briend

Résumé :Nous nous proposons dans cet article de vous faire découvrir un domaine qui a connu de grands développements ces 20 dernières années: la théorie de l'itération des fractions rationnelles d'une variable complexe.

L'intérêt porté au sujet date du siècle dernier, avec la méthode de Newton pour la recherche des racines d'un polynôme, et la théorie des équations fonctionnelles. C'est en fait cette dernière qui a motivé les travaux fondateurs de Fatou et Julia. Pendant la majeure partie du dix-neuvième siècle, la théorie des équations fonctionnelles reste un domaine marginal, sans méthode propre et plutôt du ressort des curiosités. L'histoire commence quand en 1884 Koenigs démontre une série de résultats remarquables sur la linéarisation au voisinage d'un point fixe attractif d'une fonction analytique complexe. Ses travaux sont poursuivis dans diverses directions par Leau, Picard, Poincaré, Brouwer, Hadamard etc... Mais jusque-là, les résultats démontrés sont pour la plupart des théorèmes d'existence de solutions. C'est alors qu'entre 1916 et 1920 P. Fatou et G. Julia publient une série d'articles qui posent les bases modernes de cette théorie. Ils s'y interrogent sur le domaine de définition de ces solutions, en s'appuyant sur de nouveaux théorèmes de P. Montel sur les familles normales. Depuis une vingtaine d'années, suites aux expérimentations informatiques de B. Mandelbrot, ce sujet a connu un vaste développement, notamment sous la houlette de A. Douady, J.H. Hubbard et D. Sullivan. Nous allons ici présenter quelques résultats de cette théorie, en espérant ainsi vous ouvrir une porte vers ce vaste domaine.