Les travaux de recherche menés dans cette thèse représentent une méthodologie de travail pour contribuer à l’étude du comportement dynamique non linéaire du système M – O – P en fraisage. Cette méthodologie est orientée selon les objectifs principaux relatifs à cette thèse. En effet, la recherche bibliographique réalisée a permis de donner un aperçu sur les travaux existants dans ce cadre et d’identifier les phénomènes vibratoires générés par la dynamique de coupe et les mécanismes d’instabilité mis enjeu. En fait, le processus de coupe génère, selon le cas, deux formes de vibrations : les vibrations forcées et les vibrations auto – entretenues. Dans une première approche, nous avons développé un modèle masse – ressort (à deux degrés de liberté) du système O – P pour étudier et analyser le comportement dynamique de la cellule élémentaire en fraisage. Ce modèle a permis d’examiner l’influence de la profondeur de passe sur la stabilité de la coupe. Cependant, ce modèle semble être insuffisant pour quantifier avec précision les vibrations en fraisage car les sources vibratoires générées par la dynamique de la machine ne peuvent être négligées. Dans une deuxième approche, nous avons modélisé le système globale Machine - Outil - Pièce. En effet, un modèle numérique basé sur la méthode de sous-structuration par éléments finis de l’ensemble M – O – P a été développé. Cette modélisation permet de tenir compte de l’effet de l’inertie des différents éléments tournants de la fraiseuse, de la structure de la machine et de la forme de l’outil. Nous avons ainsi réalisé des simulations du comportement dynamique global de l’opération du fraisage. L’influence de différents paramètres sur l’effort de coupe tels que l’avance, la profondeur de passe, les réponses dynamiques suivant les trois axes a été étudié. Cette étude a permis de conclure que ces paramètres sont fortement affectés par l’usinage. Pour compléter cette étude numérique, une étude expérimentale a été menée afin d’étudier l’influence de différents paramètres de coupe. En effet, la méthodologie expérimentale développée a mis en évidence les paramètres les plus importants qui influent sur le comportement dynamique globale du système M – O – P. Cette étude expérimentale a nécessité le développement d’un plan d’expérience complet pour pouvoir définir les paramètres d’entrées/sorties et organiser les essais à effectuer. L’analyse des résultats a permis de détecter l’influence de l’avance et de la profondeur de passe sur le niveau des vibrations générées. Le bilan de ces résultats a mis le point sur les niveaux extrêmes des variables provoquant le niveau vibratoire le plus élevé. De plus une confrontation entre les résultats expérimentaux et numériques a été effectuée et a montré une bonne concordance.