Nace en Pamiers (Francia), el 12 de mayo de 1845. En 1854 comienza a estudiar en la Ecole de Musique Classique et Religieuse con Niedermeyer, Dietsch y Camille Saint-Saens hasta 1866, cuando obtiene en Rennes el puesto de Organista. Cuatro años después regresa a París, haciéndose cargo del órgano de varias iglesias, así como de la dirección del coro de la Madeleine. Ese año participó como combatiente en la guerra franco-prusiana. En 1871 funda con Saint-Saens, Lalo, Chabrier y otros la Société Nationale de Musique. Su fama como compositor se consolida, y en 1896 sucede a Jules Masssenet en la cátedra de composición del Conservatorio de París después de haber servido como inspector de Bellas Artes. Bajo su tutela se formaron músicos como Georg Enescu, Nadia Bulanger o Maurice Ravel.
Los década que se inicia en
1880 suponen una época de depresión, aunque en 1883 el matrimonio con Marie Fremiet le aportó la tranquilidad y dos hijos en el plazo de 6 años. Su carácter enamoradizo le hizo a finales de dicha década, establecer una relación paralela con Emma Bardac (futura esposa de Claude Debussy). En 1903 comienzan los primeros síntomas de sordera, lo que no es obstáculo para hacerse cargo en 1905 de la dirección del Conservatorio de París. El 4 de noviembre de 1924 moría en París a los 79 años de edad, dos años despúes de que la Sorbona le dedicara un homenaje musical sin precedentes. Entre sus distinciones destaca la Gran Cruz de la Legión de Honor (1920).Tras una primera etapa romántica, construye su propio lenguaje a través de la asimilación de la cultura del Parnasso. Sus obras están entonces llena de citas de Paul Verlaine. Está época ha sido denominada por los biógrafos con el calificativo de "lánguida". A partir de 1890 se abre al expresionismo, para posteriormente olvidarlo y volver a las raíces de la polifonía barroca. Siempre en su música lo armónico queda subordinado a lo melódico.
Su enemistad con Claude Debussy era uno de los temas preferidos de los foros musicales de la época, que culpaban de ella a Emma Bardac, la
amante común.