CONCENTRATION AND NON-CONCENTRATION OF EIGENFUNCTIONS OF SECOND-ORDER ELLIPTIC OPERATORS IN LAYERED MEDIA

This work is concerned with operators of the type A = −c∆ acting in domains Ω := Ω ′ × (0, H) ⊆ R^d × R ^+. The diffusion coefficient c > 0 depends on one coordinate y ∈ (0, H) and is bounded but may be discontinuous. This corresponds to the physical model of "layered media", appearing in acoustics, elasticity, optical fibers... Dirichlet boundary conditions are assumed. In general, for each ε > 0, the set of eigenfunctions is divided into a disjoint union of three subsets : Fng (non-guided), Fg (guided) and Fres (residual). The residual set shrinks as ε → 0. The customary physical terminology of guided/non-guided is often replaced in the mathematical literature by concentrating/non-concentrating solutions, respectively. For guided waves, the assumption of "layered media" enables us to obtain rigorous estimates of their exponential decay away from concentration zones. The case of non-guided waves has attracted less attention in the literature. While it is not so closely connected to physical models, it leads to some very interesting questions concerning oscillatory solutions and their asymptotic properties. Classical asymptotic methods are available for c(y) ∈ C 2 but a lesser degree of regularity excludes such methods. The associated eigenfunctions (in Fng) are oscillatory. However, this fact by itself does not exclude the possibility of "flattening out" of the solution between two consecutive zeros, leading to concentration in the complementary segment. Here we show it cannot happen when c(y) is of bounded variation, by proving a "minimal amplitude hypothesis". However the validity of such results when c(y) is not of bounded variation (even if it is continuous) remains an open problem.; Dans ce papier nous considérons des opérateurs du type A = −c∆ agissant sur des ouverts Ω := Ω ′ × (0, H) ⊆ R^d × R^+, le coefficient de diffusion c > 0 dépendant de la seule coordonnée y ∈ (0, H). Il est borné mais peut être discontinu. Cette situation correspond au modèle physique des "milieux stratifiés" qui intervient en acoustique, en élasticité, dans les fibres optiques, ... Nous supposons la condition de Dirichlet homogène au bord de Ω. Pour chaque ε > 0, nous créons une partition de l'ensemble des fonctions propres en trois sous-ensembles : Fng (fonctions non guidées), Fg (fonctions guidées) et Fres (ensemble résiduel), ce dernier diminuant lorsque ε → 0. La terminologie classique guidée/non guidée est souvent remplacée en mathématiques par les expressions : solutions se concentrant, respectivement ne se concentrant pas. Pour les ondes guidées, le cadre des "milieux stratifiés" nous permet d'obtenir des estimations rigoureuses sur leur décroissance exponentielle loin des zones de concentration. La littérature s'est moins penchée sur le cas des ondes non guidées. Bien que semblant moins intéressante pour les modèles physiques, elle conduit à de très intéressantes questions concernant les solutions oscillantes et leurs propriétés asymptotiques. Des méthodes asymptotiques classiques sont disponibles lorsque (y) ∈ C^2 mais ne marchent pas avec une régularité moindre. Les fonctions de Fng sont oscillantes mais ceci n'exclue pas qu'elles puissent s'aplatir entre deux zéros consécutifs, conduisant à une concentration dans le segment complémentaire. Nous montrons ici que cela ne peut pas arriver quand c(y) est à variation bornée en vérifiant une "hypothèse d'amplitude minimale". Cependant la validité de tels résultats reste un problème ouvert quand c(y) n'est plus à variation bornée, même si ce coefficient est continu.