Mendelssohn'un ailesinin bol parası vardı. Ayrıca müzik, edebiyat, resim vb. ile çok ilgiliydiler. Büyükbabası Moses Mendelssohn Alman ulusal edebiyatında ünlüydü. Babası bir bankacıydı ve annesi Berlin'de birçok fabrikanın sahibi olan bir aileden geliyordu. Genç Felix ailesi tarafından evde eğitildi. Aile Yahudi olmasına rağmen ailesi Felix'i vaftiz ettirdi ve babası birkaç yıl sonra Hıristiyan oldu. Mendelssohn ailesi bu dönemde isimlerine Bartholdy adını ekledi.
Kısa süre sonra Felix, kendisine piyano öğreten Ludwig Berger de dahil olmak üzere özel öğretmenlerden ders almaya başladı. Ayrıca müzik teorisi ve kompozisyon da öğrendi. Dokuz yaşındayken bir konserde piyano çaldı ve müzikli küçük oyunlar (Almanca'da Singspiel olarak adlandırılır) bestelemeye başladı. 1821 yılında Weimar'da ünlü yazar Goethe ile tanışmaya götürüldü. Bu birkaç ziyaretin ilki olacaktı ve Goethe'nin düşünce tarzı ve Alman edebiyatı eserleri genç Mendelssohn üzerinde büyük bir etki yarattı. Bu dönemde Singspiel'ler, senfoniler ve oda müziği de dahil olmak üzere birçok eser besteledi. Babasıyla birlikte seyahat etti ve birçok ünlü müzisyenle tanıştı.
1825 yılında aile Berlin'e taşındı. Pazar sabahları büyük evlerinde düzenli konserler veriyorlardı. Özel konserlerine birçok zengin ve ünlü kişi davet ediliyordu. Ekim 1825'te en iyi eserlerinden biri olan String Octet'i (sekiz yaylı çalgı için bir parça) yazdı. İnsanların müziğini neredeyse unuttuğu Johann Sebastian Bach'ın (1685-1750) müziğini inceledi. Bach'ın St Matthew Passion eserinin müziğini buldu ve 1829'da bu eserin bir icrasını yönetti. Bu müzik tarihinde ünlü bir performans oldu, çünkü insanlar birdenbire Bach'ın ne kadar büyük olduğunu fark etti. Bach'ın müziği o zamandan beri bir daha asla unutulmadı.
Mendelssohn 1829 ile 1835 yılları arasında tüm Avrupa'yı dolaştı. Londra'yı birkaç kez ziyaret etti ve orada Beethoven'ın İmparator Konçertosu'nu da seslendirdi. İskoçya'ya gitti ve burada İç Hebridler'deki Fingal Mağarası'na yelken açtı. Bu ona The Hebrides adlı uvertürü yazması için ilham verdi. Geri dönerken posta arabası kaza yaptı ve dizini incitti. Berlin'e dönmeden önce bir süre besteci Thomas Attwood'un yanında kaldı. Daha sonra İtalya'ya gitti ve burada İtalyan Senfonisi'ni yazdı. İtalya'da Hector Berlioz ile tanıştı ve dönüş yolunda Chopin ile karşılaştı.
Bir süre Düsseldorf'ta kaldı ve burada Handel'in çeşitli oratoryolarının yanı sıra kendi müziğini de icra etti. Frankfurt am Main'da iki kızı olan bir ailenin yanında kaldı. Kızlardan biri olan Cécile Charlotte Sophia Jeanrenaud ile 1837'de evlendi. Mutlu bir evlilikleri ve beş çocukları oldu.
Felix genç eşiyle birlikte Leipzig'e yerleşti ve burada ünlü Leipzig Gewandhaus Orkestrası'nın şefi oldu. Bu Almanya'daki en yüksek müzik görevlerinden biriydi. Unutulmaya yüz tutmuş 18. yüzyıl bestecilerinin pek çok eserini yönetti. Ayrıca Schubert'in ölümünden dokuz yıl sonra Robert Schumann tarafından keşfedilen Schubert'in Do Majör Senfonisi'nin ilk seslendirilişini yaptı. Mendelssohn en ünlü müzisyenlerden bazılarının Leipzig'e gelmesini ve orkestra ile birlikte çalmasını sağladı: Clara Schumann, Franz Liszt, Anton Rubinstein, genç kemancı Joseph Joachim ve İsveçli soprano Jenny Lind. Mendelssohn orkestranın çalışını geliştirerek onları dünyanın en iyi orkestralarından biri haline getirdi. Ayrıca oyunculara iyi ödeme yapılmasını da sağladı.
Mendelssohn 1840'ların başında bir süre Berlin'de kaldı. Yeni kral, Prusya Kralı Friedrich Wilhelm IV, müziğe çok meraklıydı ve konserler için yeni planlar hakkında birçok fikri vardı. Mendelssohn'un bundan sorumlu olmasını istedi. Kral, Yunan oyunlarının sahnelenmesini istiyordu ve Mendelssohn'un Antigone'nin gösterileri için tesadüfi müzik yazması gerekiyordu.
Haziran 1842'de Mendelssohn, Kraliçe Victoria tarafından Londra'daki sarayında iki kez kabul edildi. Mendelssohn, İskoç Senfonisi'ni Kraliçe'ye ithaf ederek ona teşekkür etti. Leipzig'de şeflik yapmaya devam etti ve Berlioz'un müziğinin Almanya'da ünlenmesine yardımcı oldu. Leipzig'deki yeni Konservatuar'ın müdürü oldu. Berlin'de kral ondan Shakespeare'in A Midsummer Night's Dream adlı oyunu için tesadüfi müzik yapmasını istedi. Bu müziğin bir kısmını 17 yıl önce zaten yazmıştı ama şimdi bitirdi ve 1843'te seslendirdi.
Mendelssohn son yıllarında kötü sağlık koşullarından muzdaripti. Elinden geldiğince çalışmaya ve seyahat etmeye devam etti, ancak 1849'da geçirdiği felçten sonra 38 yaşında Leipzig'de öldü. Cenazesi özel bir trenle Berlin'e götürüldü ve burada kız kardeşi Fanny'nin mezarının yanına gömüldü.
