1947'de Almanya'ya döndü ve profesyonel kariyerine Brahms'ın Ein Deutsches Requiem'inde hiç prova yapmadan bariton solo söyleyerek başladı. (Hasta olan bir şarkıcının yerine son anda katılmıştı.) Aynı yıl Leipzig'de ilk Lieder resitalini verdi.
Kariyerinin başlarından itibaren ünlü lirik sopranolar Elisabeth Schwarzkopf ve Irmgard Seefried ve kayıt yapımcısı Walter Legge ile birlikte çalışarak Franz Schubert ve Hugo Wolf'un liederlerinden oluşan çok popüler albümler hazırladı.
Fischer-Dieskau, 1948 sonbaharında Städtische Oper Berlin'de (Belediye Operası, Batı Berlin) baş lirik bariton oldu ve ilk opera performansını şef Ferenc Fricsay yönetiminde Verdi'nin Don Carlos eserindeki Posa rolüyle gerçekleştirdi. 1961'den sonra Deutsche Oper olarak bilinen bu şirket, 1978'de opera sahnesinden emekli olana kadar onun sanatsal evi olacaktı.
Fischer-Dieskau Viyana ve Münih'teki opera binalarında konuk sanatçı olarak sahneye çıktı. 1949'dan sonra Hollanda, İsviçre, Fransa ve İtalya'da konser turları yaptı. İlk olarak 1951'de Salzburg Festivali'nde Wilhelm Furtwängler yönetiminde Mahler'in Lieder eines fahrenden Gesellen (Bir Yolcunun Şarkıları) adlı eseriyle konser verdi. Artık dünyanın dört bir yanında sahneye çıkmaya başlamıştı: Royal Albert Hall, Londra, Boston, Massachusetts ve Bayreuth Festivali'nde.
Fischer-Dieskau opera sanatçısı olarak çoğunlukla Berlin'de ve Münih'teki Bavyera Devlet Operası'nda sahne aldı. Ayrıca Viyana Devlet Operası'nda, Londra'daki Covent Garden Kraliyet Opera Binası'nda, Hamburg Devlet Operası'nda, Japonya'da ve Edinburgh Festivali sırasında Edinburgh'daki King's Theatre'da konuk sanatçı olarak sahneye çıktı. Amerika Birleşik Devletleri'ndeki ilk turnesi 1955 yılında, 29 yaşındayken gerçekleşti. Oradaki resitallerinde kendisine Gerald Moore eşlik etti. Gerald Moore ile birçok Lieder kaydetti ve Moore 1967'de emekli olana kadar onunla birçok resital verdi. Ancak bundan sonra da kayıtlar yapmaya devam ettiler. Schubert'in Die schöne Müllerin ve Die Winterreise şarkı döngülerine yaptıkları kayıtlar çok beğenildi.
Fischer-Dieskau ayrıca Benjamin Britten, Samuel Barber, Hans Werner Henze, Karl Amadeus Hartmann, Ernst Krenek ve Witold Lutosławski gibi yaşayan bestecilerin birçok eserini seslendirdi.
Fischer-Dieskau ayrıca Verdi'nin Rigoletto'su ve Verdi'nin Don Carlos'undaki Rodrigo, Giacomo Puccini'nin Tosca'sındaki Scarpia gibi İtalyan operalarındaki birçok ünlü rolü de kaydetti. Operadan 1978 yılında emekli oldu.
Fischer-Dieskau'nun müzisyenliği ve tekniği her zaman mükemmeldi. Konser salonundan 1993 yılbaşı günü 67 yaşında emekli oldu ve zamanını şeflik yaparak, ders vererek (özellikle Lieder yorumlayarak), resim yaparak ve kitap yazarak geçirdi.