Le but de ce travail de thèse est d’étudier les propriétés d’un plasma réactif ainsi que les caractéristiques structurales, optiques et électriques de couches minces d’oxynitrure de tantale (TaOxNy) élaborées par pulvérisation cathodique radiofréquence. L’élaboration de ce matériau ternaire par pulvérisation d’une cible de tantale au moyen d’un plasma contenant à la fois de l’argon, de l’oxygène et de l’azote est complexe en raison de phénomènes d’empoisonnement de la cible. L’analyse de la composition du plasma par spectroscopie d’émission optique et le suivi de l’évolution de certaines raies représentatives d’espèces excitées dans le milieu, nous ont permis de déterminer les conditions optimales au dépôt de films de types TaOxNy sur une large gamme de compositions. Grâce à une étude par diffraction des rayons X et spectroscopie de photoélectrons X, nous avons suivi les évolutions structurales de couches ayant subi ou non un recuit thermique. Nous avons montré de quoi étaient constituées les parties amorphes et cristallisées de ces films et déterminé la taille des domaines de cohérence. Enfin, les propriétés optiques (indice de réfraction, gap optique, paramètre d’Urbach) et diélectriques ont été corrélées à la structure des matériaux.