Ce manuscrit présente l’étude de transitions de phase quantiques dans l’oxyde BaCo2V2O8, un système antiferromagnétique quasi-unidimensionnel constitué de chaînes d’ions cobalt portant un spin effectif S = 1/2 caractérisé par une forte anisotropie de type Ising. Lors de ce travail, nous avons étudié les propriétés statiques et dynamiques de BaCo2V2O8 sous l’effet de différents paramètres physiques.Notre première étude a porté sur l’effet d’un champ magnétique transverse, i.e. appliqué perpendiculairement à l’axe Ising. Il a été proposé que lors de l’application d’un tel champ, un champ magnétique alterné effectif est induit perpendiculairement à l’axe d’anisotropie et au champ uniforme appliqué. La comparaison d'expériences de diffusion (élastique et inélastique) de neutrons et de calculs numériques nous a permis de montrer que ce champ alterné entre en compétition avec l’anisotropie. Ceci aboutit à une transition de phase originale, dite topologique, que l'on peut modéliser par une théorie quantique des champs nommée « modèle de double sine-Gordon » qui décrit la compétition entre deux excitations topologiques duales. Nous avons pu montrer que BaCo2V2O8 sous champ magnétique transverse était la première réalisation d'une telle théorie.La seconde étude était consacrée à BaCo2V2O8 sous champ magnétique longitudinal, i.e. un champ appliqué parallèlement à l’axe Ising. La dynamique de spins a été sondée grâce à la diffusion inélastique de neutrons et nous avons montré qu’au-dessus d’un champ critique de 4 T, celle-ci semble en accord avec le spectre des fluctuations de spin attendu pour un liquide de Tomonaga Luttinger (TLL). De plus, les calculs numériques ont confirmé que, du fait de l’anisotropie de type Ising dans ce système, la majorité du poids spectral du spectre en énergie est porté par les fluctuations de spins de type longitudinales. Ce résultat est la signature d'un comportement quantique sans analogue classique avec des fluctuations de basses énergies essentiellement longitudinales pilotant la physique du système. Enfin, c’est la première fois que la dynamique de spin dans des chaînes de type Ising a pu être sondée dans cette phase TLL.Les deux dernières études sont préliminaires. Le diagramme de phase de BaCo2V2O8 a été sondé par des mesures calorimétriques sous l’application d’une pression hydrostatique et d’un champ magnétique longitudinal. Afin d’obtenir des pressions allant jusqu’à 10 GPa, nous avons utilisé une cellule à enclumes de diamant. Nous avons effectué des mesures de chaleur spécifique qui nous ont permis de sonder l'effet de la pression sur le Hamiltonien de BaCo2V2O8 au travers de son diagramme de phase (H, P, T). Enfin, nous avons étudié l’effet de la substitution des ions magnétiques Co2+ par des impuretés non-magnétiques Mg2+. Les expériences de diffraction neutronique sous champ longitudinal ont montré que la température et le champ critiques diminuent proportionnellement à la concentration en impuretés. La dynamique de spins à champ magnétique nul a aussi été sondée et révèle l’apparition de modes non-dispersifs, provenant possiblement de l’effet de segmentation des chaînes par les impuretés.En conclusion, nos études expérimentales couplées à des calculs numériques nous ont permis de dévoiler une physique extrêmement riche dans ce composé modèle pour l'étude du magnétisme quantique et des transitions de phase quantiques.