Comenzó a aprender el piano en la escuela secundaria y luego viajó a San Petersburgo, entonces Leningrado, para estudiar en el Conservatorio de San Petersburgo, en donde decidió dedicarse a la dirección de orquesta, por lo que empezó a tomar clases con Ilya Musin.
En 1975 ganó el Concurso de Directores de Orquesta de la Unión Soviética. al año siguiente, ganó el Concurso de Directores de Orquesta Herbert von Karajan en Berlin, y en 1977 se convirtió en asistente del director Yuri Temirkánov, en la Ópera del Kirov, hoy Ópera del Mariinski, donde debutó dirigiendo Guerra y paz de Serguéi Prokófiev.
En 1991 dirigió por primera vez una compañía de ópera de Europa Occidental: la Ópera Estatal de Baviera en una función de Borís Godunov de Modest Mussorgski en Múnich. El mismo año realizó su debut estadounidense, dirigiendo Guerra y paz con la Ópera de San Francisco, y desde entonces ha dirigido tanto ópera como conciertos sinfónicos a lo largo del mundo.
Valery Gérgiev está asociado con numerosos festivales musicales, entre ellos el festival Noches Blancas en San Petersburgo.Fue director principal de la Orquesta Estatal de Armenia entre 1981 y 1985, luego asumió como director principal y artístico del Mariinski en 1988, y director absoluto de la compañía, por entonces renombrado Mariinski, nombrado por el gobierno ruso, en 1996.
En 1995 se convirtió en el director principal de la Orquesta Filarmónica de Róterdam, y en 1997, director invitado principal de la Ópera del Metropolitan en Nueva York. Gérgiev se destaca por su estilo de dirección apasionado, casi brusco. Es un director impulsivo que da lo mejor en obras de gran dramatismo.
En 2003 inició y dirigió en el Teatro Mariinski el primer ciclo completo de El Anillo del Nibelungo de Wagner en ser tocado en Rusia en 90 años. El diseño y el concepto de la producción reflejó muchos aspectos de la cultura osetia, y también dirigió esa producción en Cardiff en 2006, en Costa Mesa, California octubre de ese año, y en Nueva York en 2007.
En 2005 fue nombrado como el 15° director principal de la Orquesta Sinfónica de Londres, sustituyendo a Sir Colin Davis desde el 1 de enero de 2007. En 2006 fue premiado con el Polar Music Prize junto a Led Zeppelin y con el prestigioso Premio Musical Herbert von Karajan, otorgado por el Festspielhaus Baden-Baden.
En enero de 2013, fue nombrado director de la Orquesta Filarmónica de Munich, cargo que ejercerá desde 2015 hasta 2020.
Gérgiev se especializó en el repertorio de compositores rusos, tanto ópera como obras sinfónicas y ballets, entre ellas Tchaikovski, Borodín, Prokófiev y Shostakóvich. Dentro de sus discos de ópera, merecen destacarse la Jovánschina de Músorgski, Guerra y Paz de Prokófiev y Dama de Picas de Tchaikovski, y realizó grabaciones con la Orquesta del Kírov, con la Orquesta Filarmónica de Viena, y con la Orquesta Sinfónica de Londres.
A continuación, Valery Gérgiev junto a la Orquesta Mundial para la Paz, interpretando la Sinfonía Nº 5 de Gustav Mahler, en los Proms de la BBC 2010.