Hikâye, İspanya'nın Fransa ile savaşın sonuna yaklaştığı bir dönemde geçiyor. İki ülke arasında, İspanya tahtının varisi Don Carlos'un Fransa Kralı'nın kızı Elisabeth ile evlenmesi konusunda anlaşmaya varılmıştır.
Birinci Perde
Don Carlos evleneceği kızı görmek istiyor. Fransa'ya gider ve gizlice Elisabeth'in de katıldığı bir kraliyet avına katılır. Elisabeth ve hizmetçisi diğerlerinden ayrılır. Carlos onunla konuşur ve onu eve götürmeyi teklif eder. Prenses ona evleneceği prensi sorar. Carlos endişelenmesine gerek olmadığını çünkü prensin nazik ve ona aşık olduğunu söyler. Daha sonra Elisabeth'e prensin bir fotoğrafını gösterir ve Elisabeth tabii ki konuştuğu kişinin prens olduğunu anlar. Bir aşk düeti söylerler.
Daha sonra bazı İspanyol yetkililer gelir ve Elisabeth'e prensle evlenmemesine karar verildiğini, prensin babasıyla, İspanya kralıyla evleneceğini söylerler. İki aşık bu haber karşısında dehşete düşer. Kalabalık, savaşın durması için Elisabeth'e İspanya Kralı ile evlenmeyi kabul etmesi için yalvarır. Sonunda o da kabul eder.
İkinci Perde
Don Carlos sefalet içinde sessiz kalabilmek için bir manastıra gitmiştir. Büyükbabası V. Charles son günlerini bu manastırda geçirmişti. Bir keşiş onunla konuşur. Carlos keşişin büyükbabasına benzediğini düşünür.
Carlos, arkadaşı Rodrigue geldiğinde sevinçle dolar. Hala çok fazla savaşın olduğu Flanders'dan yeni dönmüştür. Carlos ona bir sır verir: babasıyla evlenen ve bu nedenle İspanya Kraliçesi olan Elisabeth'e aşık olduğunu söyler. Rodrigue ona zamanını Flandre'ın yoksul insanlarına yardım ederek geçirmesi gerektiğini söyler. Kral ve Kraliçe mezarın önünden geçerler.
Kraliçe kiliseden ayrıldıktan sonra hanımlarının kendisini beklediği bahçeye gider. Bir haberci ona Paris'teki annesinden bir mektup verir, ama aynı zamanda gizlice Carlos'tan bir mektup verir. Rodrigue, kraliçe mektupları okurken kraliçenin nedimesi Eboli ile sessizce konuşur. Rodrigue Kraliçe'den Carlos'un kendisiyle konuşmasına izin vermesi için Kral'ı ikna etmeye çalışmasını ister. Eboli Carlos'a aşıktır. Carlos'un Kraliçe'nin huzurundayken nasıl tedirgin olduğunu fark etmiştir ve bunun Carlos'un kendisini (Eboli'yi) sevmesinden kaynaklandığını düşünmektedir.
Carlos'a Elisabeth'le özel olarak görüşme şansı verilir. Ona sakince, Kral'ı kendisini Flanders'e göndermeye ikna edip edemeyeceğini sorar. Ancak Carlos pek de sakin değildir ve çok geçmeden kendisine karşı herhangi bir sevgi duygusu göstermediği için Elisabeth'e kızmaya başlar. Ona, artık Kraliçe olduğu için bunun onun görevi olduğunu söyler. Carlos bunu anlar ama ona hâlâ aşıktır. Onun ayaklarına kapanır. Onu yakalar ve ona olan aşkını ilan eder, ancak Kraliçe kendisini ondan ayırır ve Carlos umutsuzluk içinde koşarak uzaklaşır.
Krallar kiliseden çıkar. Karısı tek başına kaldığı için çok kızgındır. Hizmetçiye gitmesini söyler. Kraliçe onu teselli eder. Sonra o ve hanımları gider.
Rodrigue, Kral'dan hâlâ açlıktan ölmekte olan Flandre halkıyla savaşmayı bırakmasını ister. Kral onların sadık olmadıklarını ve cezalandırılmayı hak ettiklerini söyler. Rodrigue'ye Elisabeth ve Carlos arasında olanlardan korktuğunu söyler. Ona Engizisyon'dan haberdar olmasını söyler.
Üçüncü Perde
Madrid'deki sarayda maskeli bir balo düzenleniyor. Carlos Kraliçe'nin bahçesinde bekliyor. Herkes gibi maske takmış bir kadın bahçeye gelir. Carlos onu Kraliçe sanır ve onu ne kadar sevdiğini söyler. Kadın maskesini çıkardığında onun Eboni olduğunu fark eder. Onu Kraliçe'yi sevmekle suçlar. O anda Rodrigue gelir. Eboni'ye Carlos'un iyi olmadığını ve neden bahsettiğini anlamadığını söyler. Ancak Eboni kandırılmamıştır ve aşklarını mahvetmeyi planlamaktadır.
Oyunun ikinci sahnesi Madrid'de bir meydanda geçer. Bir auto-da-fé hazırlanmaktadır. İspanyol Engizisyonu döneminde bu, Roma Katolik kilisesi ile aynı fikirde olmayan herkesin yakılarak öldürüldüğü bir törendi. Rahipler içeri girer, onları yakılacak talihsiz insanlar takip eder. İnsanlar İspanya'nın ihtişamı hakkında şarkı söylerler. Kral Philippe ortaya çıkar ve Roma Katolik Kilisesi'nin düşmanı olan herkese karşı nasıl savaşacağını tekrarlar. Aralarında Carlos'un da bulunduğu altı kişi ortaya çıkar ve ayaklarına kapanarak askerlerinin Flaman halkını öldürmesini engellemesi için yalvarırlar. Kral buna kulak asmaz. Kalabalığın bir kısmı kralı desteklerken, diğerleri merhamet etmesi için ona yalvarmaktadır. Bunun üzerine Carlos babasından Flandre'ı onun adına yönetmesine izin vermesini ister. Kral buna izin vermez, çünkü bunun Carlos ve Flaman halkının kendisine karşı ayaklanması için bir fırsat olabileceğini fark eder. Carlos çaresizdir. Kılıcını çeker ve Flandre'ı kurtaracağını söyler. Kalabalık onun Kral'ın önünde böyle davrandığını görünce dehşete düşer. Kral askerlerine kılıcı Carlos'un elinden almalarını emreder ama kimse ona itaat etmez. Sonunda Rodrigue (bunun kendisi için kötü olacağını fark eder) sakince Carlos'tan kılıcı isteyerek durumu kurtarır. Carlos kılıcı verir ve Rodrigue de onu Kral'a teslim eder. Keşişler daha da ilerler ve cennetten gelen bir ses gelecek dünyada barış vaat eder.
ActIV
Kral kilisede yalnız. Harika bir aryada karısının onu sevmiyor gibi görünmesinden duyduğu üzüntüyü söyler. Büyük Engizisyoncu içeri girer. Çok yaşlı ve kördür. Kral ona oğlundan bahseder ve Engizitör'e Carlos'un affedilmesi mi yoksa ölüm cezasına çarptırılması mı gerektiğini sorar. Engizisyoncu öldürülmesi gerekenin Rodrigue olduğunu söyler. Kral karşı çıkmaya cesaret eder. Engizisyoncu Kral'a kalbini Tanrı'ya vermediğini söyler. Engizisyoncu gider.
Kraliçe aceleyle içeri girer ve Kral'dan odasında kaybolan bir mücevher tabutunu aramak için yardım ister. Kral ona mücevherlerin masanın üzerinde olduğunu gösterir. Ona açması gerektiğini söyler. O da açar. En üstte Carlos'un bir portresi vardır. Kral çok sinirlenir ve onu zina yapmakla suçlar. Kadın bayılır. Kral yardım için Eboli ve Rodrigue'yi çağırır. Kral şüphelendiği için üzgündür ama Eboli daha da üzgündür çünkü Carlos ve Elisabeth'i kıskandığı için tabutu o almıştır. Kral'a mücevher kutusuna bakmasını öneren de oydu. Rodrigue arkadaşını ancak Carlos'un yerine öldürülmeyi teklif ederek kurtarabileceğini düşünmektedir. Kral ve Rodrigue ayrılırlar. Eboni kendini, artık canlanmış olan Kraliçe'nin ayaklarına atar ve kralla yattığı için kendisinin de zina suçlusu olduğunu itiraf eder. Elisabeth sakinliğini korur ama Eboni'ye kendisinden sonsuza dek uzaklaşmasını ve bir rahibe manastırında yaşamasını söyler. Eboni yalnız kaldığında korkunç bir sefalet hissettiğini ifade eder. Rahibe manastırına gitmeden önce yapması gereken bir şey daha vardır: Carlos'u idam edilmekten kurtarmaya çalışmak.
Oyunun ikinci sahnesi Carlos'u hapishanede gösterir. Rodrigue onun yanına gelir. Carlos'a hitaben yazılmış Flamanca mektupların onun elinde bulunduğunu bilmektedir. Biri içeri girer ve Rodrigue'yi öldürür. Ölürken Carlos'a Kraliçe'nin ertesi gün onu rahibe manastırının dışında bekleyeceğini ve onu son kez göreceğini söyler. Rodrigue ölür.
Bazen 4. Perde burada sona erer, ancak bazı temsillerde Kral'ın kılıcı oğluna geri vermeye çalıştığı, ancak Carlos'un onu arkadaşını öldürmekle suçladığı bir sahne gösterilmeye devam eder. Aralarında Eboli'nin de bulunduğu bir grup insan hapishaneye girer ve Carlos'u serbest bırakması için Kral'a yakarır. Engizisyoncu ortaya çıkar. Kalabalığa öfkeyle, Tanrı'nın iradesine karşı gelerek kötü olduklarını söyler. Hepsine diz çökmelerini ve tövbe etmelerini söyler.
Kanun V
Elisabeth, V. Charles'ın mezarı önünde diz çöker ve Fransa'daki kayıp gençliğini anlatır (I. Perdedeki müziğin bir kısmı buraya geri gelir). Barış için dua eder. Elisabeth ve Carlos daha sonra son kez buluşurlar (operadaki üçüncü düetleri) ve daha mutlu zamanlar dilerler. Kral ve Engizisyoncu saklanmaktadır. Şimdi ortaya çıkarlar ve Carlos'u yakalarlar. Muhafızlara onu yakalamaları söylenir ama Carlos kendini savunur. Birden V. Charles'ın (ya da kılık değiştirmiş bir keşişin) sesi duyulur. Torununu güvenli bir manastıra götürür.