Oyun, Halo serisinin geri kalanıyla aynı kurgusal dünyada geçiyor. Oyunun büyük bir kısmı gelecekteki 2552 yılında, günümüzden 500 yıl sonra geçiyor. Hikayede insanlar ışıktan daha hızlı seyahat etmeyi geliştirmiş ve artık Güneş Sistemi'nin birçok gezegeninde ve uydusunda yaşamaktadır. İnsanlık ilk kez başka bir yıldızın etrafındaki bir gezegende yerleşim kurmaya çalışırken uzaylı Covenant ile karşılaşır. Mutabakat insanlığa dini savaş ilan etti. Halo 2'nin başlangıcında insanlar savaşı kaybetmektedir ve Covenant Dünya'yı yeni keşfetmiştir.
Oyunun başlığındaki Halo, oyundan uzun zaman önce Forerunners adlı gizemli bir ırk tarafından 'inşa edilen' bir dizi gezegenin adıdır. Halo'lar, Flood olarak bilinen başka bir uzaylı ırkına karşı son savunmadır. Tufan galaksideki her canlıyı yemek için kullanmak istemektedir. Halo'lar aslında dev süper silahlardır ve aktive edildiklerinde galaksideki tüm yaşamı öldürürler. Tufan'ı durdurmanın tek yolu bu, tüm yiyeceklerini öldürerek onları aç bırakmak. Mutabakat bunun farkında değildir ve sahte bir dini kehanetin parçası olarak Halo'ları ateşlemeye çalışmaktadır. İlk Halo oyunu olan Halo: Combat Evolved'da insanlar ve Master Chief, Covenant'ın Halo'lardan birini ateşlemesini engellemeyi başarır. Bu süreçte onlardan birini de yok ederler. Halo 2 başlamadan hemen önce Covenant, yalnızca Dünya yakınlarında bulunan bir portal aracılığıyla ulaşılabilen başka bir Halo keşfeder.
Arsa
Oyun, Elitlerin lideri olan bir uzaylının işkence görmesiyle açılıyor. Orijinal oyunda Master Chief'in ilk Halo'yu yok etmesini engelleyemediği için covenant tarafından işkence görmektedir. Elit komutanı, Mutabakat'ın bir başka parçası olan Brutes'un lideri tarafından damgalanır. Oyuncu daha sonra devasa Covenant filosu geldiğinde Dünya'nın yörüngesinde dönen bir uzay aracındaki Master Chief'in kontrolünü ele alır. Covenant, yeni Halo'ya ulaşmalarını sağlayacak portalı ele geçirmeye gelmiştir, böylece onu ateşleyebileceklerdir. Covenant, oyuncunun içinde bulunduğu gemiye biner ve onu ve insan filosundaki diğer gemileri devre dışı bırakmak için bombalar yerleştirmeye çalışır. Oyuncu bombaları etkisiz hale getirmek için Mutabakat güçleriyle savaşmalıdır. Bu tamamlandıktan sonra insan gemisi, az önce geçen Antlaşma amiral gemisini takip ederek yola çıkar. Bu arada, ara sahnede eski elit komutanın orijinal Halo'da Master Chief'i durdurmadaki başarısızlığını telafi etmek için Arbiter olarak bilinen dini bir savaşçıya dönüştürüldüğünü görüyoruz.
Başka bir ara sahnede Master Chief, Johnson ve Cortana'nın içinde bulunduğu bir insan gemisi, covenant gemisini yeni Halo'ya açılan portaldan takip eder. Oyuncu şimdi Mutabakat'ın yüzüğü ateşlemesini durdurmak için savaşırken Chief'in kontrolünü ele almalıdır. Sonunda oyuncu bir Antlaşma lideri olan Pişmanlık Peygamberi'ni öldürür ve Halo'nun ateşlenmesini durdurur. Ne yazık ki oyuncu Halo'yu ateşleme kontrolü olan İndeksi kurtaramadan, Gravemind olarak bilinen Flood'un lideri tarafından yakalanır. Bir ara sahnede yeni Arbiter'ın, Chief onu yok etmeden önce İndeksi kurtarması için Halo'ya gönderildiğini görürüz. Ancak oraya vardığında, kendisi ve takipçileri ihanete uğrar ve eski müttefikleri saldırmaya başlar. Burada oyuncu, ihanetten ve pusudan kaçmaya çalışan Arbiter ve takipçilerini kontrol etmelidir. Hakem de sonunda Gravemind tarafından yakalanır ve Master Chief ile buluşur. İkisi, Flood takipçileri artık High Charity adlı devasa bir Covenant gemisini ele geçirmiş olan Gravemind'dan kurtulur. Artık tekrar oyuncu tarafından kontrol edilen Arbiter ve Chief, Covenant'ın yüzüğü son bir kez ateşlemesini durdurmak için Halo kontrolüne doğru yarışırlar. Mutabakat'ı durdurmakta başarılı olurlar, ancak liderlerinin sonuncusu olan Hakikat Peygamberi bir uzay aracıyla zarar görmeden kaçar. Şeflerin yapay zeka yoldaşı Cortana Halo'da kalır ve herhangi bir Covenant geri dönerse onu yok edeceğine söz verir. Chief ve Arbiter'ın yolları, Chief'in kaçan bir Covenant gemisinde saklanması ve Arbiter ile takipçilerinin Tufan'dan kurtarmak amacıyla High Charity'ye dönmesiyle ayrılır.
