1956 yılında [[Sovyetler Birliği Komünist Partisi]] üyesi olan Rijkov, 1981 yılında SBKP Merkez Komitesi üyeliğine getirildi. 10 yıl süreyle bu görevde kaldı. 22 Kasım 1982'de SBKP Merkez Komite Sekreterliği ve Komitenin Ekonomi işlerinden sorumlu daire başkanlığına getirildi.
27 Eylül 1985'te Sovyetler Birliği Bakanlar Kurulu Başkanlığına getirilerek SSCB'nin zorlu döneminde hükümethükûmet başkanı olarak görev yaptı. Perestroykaya gidecek ekonomik reformları başlatanlar arasında yer aldı. Ancak hatalı uygulamalar 1988'den itibaren halkın gelir seviyesinde düşüşe ve gelir farklılıklarının belirginleşmesine sebep oldu. Gorbaçov'a piyasa sosyalizmi olarak adlandırdığı bir ekonomik sistem önerisinde bulundu ve iç piyasada rekabetin teşvik edilmesini savundu.
1991'de hükümethükûmet başkanlığından istifa etti ve ülkede yönetim sisteminin değişmesiyle Rusya Federatif Sovyet Sosyalist Cumhuriyeti başkanlık seçimlerine katıldı. Ancak seçimde ikinci olabildi. Başkan seçilen [[Yeltsin]] tarafından SSCB'nin dağıtılması girişimlerine karşı gelerek 12 Aralık 1991'de olağanüstü toplanan [[Yüksek Sovyet]] kongresinde kabul edilen bildiriyi imzaladı. Bildiriye göre [[1991 Sovyetler Birliği referandumu|17 Mart 1991 Referandumu]] dayanak gösterilerek Sovyetler Birliği'nin dağıtılması yönünde Minsk'te imzalanan anlaşma geçersiz kabul ediliyordu. Ancak 25 Aralık'ta [[Gorbaçov]]'un istifa etmesiyle durum Yeltsin'in lehine işledi.
