Jako dirigent Rožděstvenskij debutoval už v roce 1951, od poloviny 70. let byl profesorem Moskevské konzervatoře. V sovětské éře popularizoval díla zahraničních skladatelů, která ruská veřejnost v té době prakticky neznala, mimo jiné Paula Hindemitha nebo Carla Orffa. Řídil premiéru baletu Igora Stravinského Svěcení jara nebo opery Benjamina Brittena Sen noci svatojánské.

Počátkem století působil jako umělecký ředitel moskevského Velkého divadla.
Rožděstvenskij ve své bohaté kariéře vystupoval na předních světových scénách, natočil sedm stovek gramofonových desek s díly Antonína Dvořáka, Ludwiga van Beethovena, Johannesa Brahmse, Sergeje Prokofjeva a mnoha dalších.

Byl hlavním dirigentem Symfonického orchestru BBC, Vídeňského symfonického orchestru, Královské filharmonie ve Stockholmu, deset let působil jako dirigent Velkého divadla v Moskvě.

Ruského dirigenta dobře znala i československá hudební veřejnost. Počátkem 50. let Rožděstvenskij v Praze krátce studoval. Na festivalu Pražské jaro poprvé dirigoval v roce 1962, závěrečné koncerty Pražského jara provedl v roce 1974 nebo v roce 2007. V Praze mimo jiné dirigoval díla Leoše Janáčka, Hectora Berlioze, Bohuslava Martinů nebo Dmitrije Šostakoviče.