John Brown 9 Mayıs 1800'de Connecticut, Torrington'da doğdu. Owen Brown (1771-1856) ve Ruth Mills'in (1772-1808) sekiz çocuğundan dördüncüsü ve Kaptan John Brown'un (1728-1776) torunuydu. Brown'ın ataları 17. yüzyıl İngiliz Püritenleri idi.
Aile 1805 yılında Hudson, Ohio'ya taşındı.[] Owen Brown burada bir tabakhane açtı.[] Hudson'da kölelik karşıtı pek çok faaliyet vardı. Owen da bunun bir parçasıydı. Owen, Underground Railroad kaçaklarına güvenli bir ev sağladı.[] O dönemde Hudson'da bir lise yoktu, bu nedenle John kölelik karşıtı Elizur Wright'ın okulunda okudu. Elizur Wright, yakındaki Tallmadge'de yaşayan Elizur Wright'ın babasıydı. []
Ulysses S. Grant'ın babası Jesse R. Grant, Owen Brown'ın çırağıydı.
Brown 16 yaşındayken ailesini terk etti ve Plainfield, Massachusetts'e gitti. Bir hazırlık programına katıldı. Kısa bir süre sonra Connecticut, Litchfield'daki Morris Akademisi'ne gitti.
Brown 1820'de Dianthe Lusk ile evlendi. İlk çocukları John Jr. 13 ay sonra dünyaya geldi. 1825 yılında, daha güvenli bir yer arayan (kaçak köleler için) Brown ve ailesi New Richmond, Pennsylvania'ya taşındı. 200 dönümlük (81 hektar) bir arazi satın aldı. Bunun sekizde birini temizledi ve bir kulübe, bir ahır ve bir tabakhane inşa etti. Tabakhanede kaçan köleleri saklamak için gizli bir oda vardı. John Brown Tabakhanesi 1978 yılında Ulusal Tarihi Yerler Siciline kaydedilmiştir. "1825'ten 1835'e kadar tarihteki yerini belirleyen [Yeraltı] Demiryolunun önemli bir durağıydı." Bu dönemde "Brown tahminen 2.500 kölenin kaçmasına yardımcı olmuştur."
1829'da bazı beyaz aileler Brown'dan bölgede her yıl avlanan Amerikan yerlilerini bölgeden uzaklaştırmak için yardım istedi. Brown onlara şöyle dedi: "[Böyle] alçakça bir hareketle hiçbir ilgim yok. Silahımı alıp sizi bu ülkeden uzaklaştırmaya yardım etmeyi [tercih ederim]." Brown hayatı boyunca Kızılderili komşularıyla barışçıl ilişkiler içinde oldu. Bazen onlarla birlikte av gezilerine çıkıyor ve onları evinde yemeğe davet ediyordu.
1831 yılında oğullarından biri öldü. Brown hastalandı ve işleri kötü gitmeye başladı. Bu durum Brown'ı çok borçlu hale getirdi. 1832 yazında, yeni doğan oğlunun ölümünden kısa bir süre sonra karısı Dianthe öldü. Geriye kalan tek ailesi çocukları John Jr, Jason, Owen ve Ruth'tu. (Çocuklarından diğer üçü yetişkin olmadan önce öldü.) Brown 14 Haziran 1833'te 16 yaşındaki Mary Ann Day (15 Nisan 1817 - 1 Mayıs 1884) ile evlendi. Mary Ann Day Washington County, New York'luydu. Çiftin 13 çocuğu oldu; John Brown öldüğünde hayatta olanlar Salmon, Annie, Sarah ve Ellen'dı.
Brown 1836'da ailesini Franklin Mills, Ohio'ya (şimdiki adıyla Kent) taşıdı. Orada, bölgede arazi satın almak için borç para aldı. Cuyahoga Nehri boyunca bir tabakhane inşa etti ve işletti. Ortağı Zenas Kent'ti.
1837 yılında Elijah P. Lovejoy'un öldürüldüğünü öğrendiğinde Brown söz verdi: "Burada, Tanrı'nın huzurunda, [etrafımda şahitler varken], [bundan böyle] hayatımı köleliğin yok edilmesine adıyorum!"
Hristiyanlığa güçlü bir şekilde inanıyordu. Hıristiyanların, derilerinin rengi ne olursa olsun insanlara aynı şekilde davranması gerektiğine inanıyordu. O dönemde Amerika'daki birçok beyaz Hıristiyan buna katılmıyordu.
