Anfänglich von Friedrich Wieck, Clara Schumann und Ignaz Moscheles auf dem Klavier unterrichtet, erhielt er bei seinen Leipzig-Besuchen Einblick in das dortige Musikleben. Geprägt vom verbreiteten musikalischen Konservatismus, interessierte er sich seit früher Jugend für das Werk Richard Wagners. Auch während seines 1848 begonnenen Jura-Studiums (Leipzig, Berlin) setzte Bülow seine Musikstudien fort.

Im Herbst 1850 folgte er Richard Wagner nach Zürich und wurde Franz Liszts Schüler in Weimar. Eine erste Anstellung fand er als Klavierlehrer am Berliner Stern‘schen Konservatorium. Privat unterrichtete Bülow Ellen Franz, die spätere Helene Freifrau von Heldburg, und Cosima Liszt, die er 1857 heiratete.

1864 berief ihn König Ludwig II. von Bayern nach München, wo er 1867 Hofkapellmeister wurde.

Noch während Cosima zwei Töchter Wagners gebar, setzte sich Bülow weiterhin unermüdlich für den Komponisten ein. Bülow dirigierte u. a. die Uraufführung des "Tristan" (10. Juni 1865) und der "Meistersinger von Nürnberg" (21. Juni 1868). Nach der Scheidung von seiner Frau begann Bülow ein rastloses Konzertleben, das er erst mit der Anstellung als Hofkapellmeister in Hannover vorübergehend aufgab.

Durch Vermittlung von Helene Freifrau von Heldburg 1880 als Intendant der Meininger Hofkapelle engagiert, machte er den Klangkörper zu einem international gefeierten Eliteorchester, das durch Orchester-Tourneen (Schweiz, Holland, Dänemark, England, Böhmen) in Europa berühmt wurde und bleibende Maßstäbe setzte.

Charakteristisch sind die Zentralfigur des Dirigenten, die Interpretations- und Probenkultur, Programmstruktur, Musteraufführungen und Gastspielreisen. Prägend wurde die im Herbst 1881 begonnene Zusammenarbeit mit Johannes Brahms, der dem Verehrer die Verbreitung und Bekanntmachung seiner großen Instrumental- und Vokalwerke verdankt. Symptomatisch für den Stellenwert des Orchesters ist der von dem Hofkapell-Gastspiel im Januar 1882 ausgehende Gründungsimpuls für das Berliner Philharmonische Orchester. Bülows Profil hatte entscheidenden Einfluss daran, dass Meiningen unter Herzog Georg II. zum Musenhof zwischen Weimar und Bayreuth avancierte.