Sony faaliyetlerine Tokyo'daki bir mağazada başladı. O dönemde, 1946'da, mağaza bombalar nedeniyle hasar gördü. Bir mühendis ve bir fizikçi, 20 çalışanı olacak bir şirket kurmak için yaklaşık 1.600 dolar sermaye yatırdı. Mühendisin adı Masaru Ibuka ve fizikçinin adı Akio Morita idi. Yeni şirketlerinde çalışan insanlar elektrikli ekipmanları tamir ediyordu. Daha sonra kendi ürünlerini yaratmaya başladılar.
Şirket, 1954 yılında transistör üretimine izin veren lisansı aldığında başarıya ulaştı. Transistörler Amerika Birleşik Devletleri'nde zaten üretilmiş olmasına rağmen, radyo üretiminde kullanılmıyordu. Sony ilk transistörlü radyosunu 1954 yılının Mayıs ayında üretti.
O dönemden itibaren Sony elektronik alanında liderlik etmeye başladı. Devrim niteliğindeki cihazları arasında 1968'de üretilen Trinitron Renkli Televizyon; 1971'de üretilen renkli video kaset ve 1975'te üretilen dünyanın ikinci ev video sistemi. Sony'nin diğer devrimsel buluşları arasında şunlar yer almaktadır: 1979 - Walkman; 1981 - Elektronik kamera; 1982 - CD çalar; 1983 - Video kamera ve liste diğer birçok cihazla devam ediyor. En popüler Sony ürünlerinden biri 1995 yılında üretilen Sony PlayStation'dır. Onun yardımıyla Sony video oyunlarında lider oldu.
Sony, 45 yıl içinde 20 işçi çalıştıran küçük bir firmadan yaklaşık 100.000 işçi çalıştıran çok uluslu bir şirkete dönüştü. Şirket, Amerika şubesini 1960 yılında, İngiltere şubesini ise 1968 yılında kurdu. Son yıllarda şirket yazılım ve donanım alanında liderliğe odaklandı. Sony, 1988 yılında CBS Records'u satın alarak Sony Music Entertainment'ı kurdu. Bir yıl sonra şirket Columbia Pictures'ı satın alarak Sony Pictures Entertainment'ı oluşturdu.
Sony daha sonra BMG ile güçlerini birleştirerek "Sony BMG "yi kurdu. BMG Music Publishing 2007 yılında Universal'a satıldı. Sony, 2008 yılında BMG'nin tüm plak şirketlerini satın alarak "BMG" ismine son verdi.