The concept of interlocked molecules is known from sixties and up to now catenanes and rotaxanes of up to 4 components were synthesized and still the number of components in-crease. These are relatively small molecules when in nature large catenanes are present in DNA molecules. Catenanes and rotaxanes are mechanically interlocked molecules composed of moving parts, held together, where one (or more of them) can move and/or positioning with respect to the other. This unique architecture makes them very interesting as possible candidates for molecular machine-type applications in the field of nonlinear optics particularly in photonics, optoelectronics and optical data storage. In this work we report the results of our studies of nonlinear optical properties of some selected catenanes and rotaxanes. The nonlinear properties were studied by different techniques. The results show important electronic contribution to the third order nonlinear susceptibility confirmed by theoretical calculations at the molecular level. Also, we report the results of nonlinear optical properties of functionalized DNA. The results show high enhancement of nonlinearity when the modified DNA was used. At the same time the best results were observed in holography experiments when DNA-CTMA was used as a matrix for doping of disperse red 1., La synthèse de caténanes et rotaxanes remonte aux années 60. Aujourd'hui la plupart de ces molécules enchevêtrées, synthétisées comportent jusqu'à 4 éléments et ce nombre continu de croître. Toutefois, ces molécules restent relativement petites, comparées `a celles trouvées dans la nature tels que les caténanes présents dans l'ADN. Les caténanes et rotaxanes sont des molécules mécaniquement assemblées, composées de pièces mobiles, liées, ou non (ou plus d'elles), pouvant se mouvoir et/ou se déplacer par rapport aux autres. Cette architecture unique les rend très intéressants et fait d'eux des candidats potentiels pour les machines moléculaires, ainsi que pour des applications dans le domaine de l'optique non linéaire, en particulier dans la photonique, l'optoélectronique et le stockage de données optique. Dans ce travail, nous exposons les résultats de nos recherches portant sur les propriétés optiques non-linéaires de quelques caténanes et rotaxanes. Ces propriétés non-linéaires ont été abordées par différentes techniques. Les résultats montrent une importante contribution électronique dans la susceptibilité non-linéaire de troisième ordre confirmée par des calculs théoriques au niveau moléculaire. Nous exposons également les résultats des propriétés optiques non linéaires de l'ADN fonctionnalisé. Ces résultats montrent une recrudescence des non linéarités quand l'ADN modifiée est utilisé. Par ailleurs, on a observé les meilleurs résultats dans des expériences d'holographie quand l'ADN-CTMA est utilisé comme matrice pour le dopage du disperse red 1.