Sovyetler Birliği ilk kez 1952 yılında Olimpiyat Oyunlarına sporcu göndermiştir. O tarihten bu yana oyunlara 18 kez takım gönderdi. Takım, Yaz Olimpiyat Oyunlarına katıldığı dokuz seferin yedisinde, kazanılan toplam madalya sayısında birinci sırada yer aldı. Diğer iki oyunda ise ikinci sırada yer aldı. Takım, Kış Olimpiyat Oyunlarına gönderdiği dokuz takım içinde madalya sayısında yedi kez birinci, iki kez de ikinci sırada yer aldı.
SSCB Olimpiyat Komitesi 21 Nisan 1951 tarihinde kurulmuştur. IOC tarafından 7 Mayıs 1951 tarihinde kabul edildi.
Helsinki'de düzenlenen 1952 Yaz Olimpiyatları, Sovyet atletler için ilk Olimpiyat Oyunları olmuştur. 20 Temmuz 1952'de, ülkenin ilk Olimpiyat altın madalyası kadınlar disk atmada Nina Romashkova tarafından kazanıldı. Romashkova bu etkinlikte yeni Olimpiyat rekorunu kırdı. Cortina d'Ampezzo'da düzenlenen 1956 Kış Olimpiyatları Sovyet sporcuların ilk Kış Olimpiyat Oyunları oldu. Sovyetler Birliği için ilk Kış Olimpiyatı altın madalyası Lyubov Kozyreva tarafından kadınlar kros kayağı 10 km etkinliğinde kazanıldı.
SSCB, Moskova'da düzenlenen 1980 Yaz Olimpiyatları'nın ev sahibi ülkesiydi. Bu oyunlar Amerika Birleşik Devletleri ve diğer birçok ülke tarafından boykot edilmiştir. Bunun ardından SSCB, Los Angeles'taki 1984 Oyunlarının boykot edilmesine öncülük etti.
SSCB 26 Aralık 1991'de sona ermiştir. SSCB Olimpiyat Komitesi 12 Mart 1992'ye kadar sona ermedi.
1992 yılında, Sovyetler Birliği'nin bir parçası olan 15 ülkeden 12'si Birleşik Takım olarak Oyunlarda yer aldı. Barselona Oyunlarında Olimpiyat Bayrağını kullandılar. Birleşik Takım madalya sıralamasında birinci oldu. Birleşik Takım yılın başlarında Albertville Kış Oyunlarında da yarıştı. On iki ülkeden sadece yedisi katıldı. Bu oyunlarda madalya sıralamasında ikinci oldular.