1894 Sorbonne kongresinde, Atina'daki program için geniş bir spor listesi önerildi. Düzenlenecek spor etkinliklerine ilişkin ilk resmi duyurularda futbol ve kriket gibi sporlara yer verildi, ancak bu planlar hiçbir zaman nihai hale getirilmedi ve bu sporlar Oyunlar için nihai listede yer almadı. Kürek ve yat yarışları planlanmıştı, ancak planlanan yarışma gününde havanın kötü olması nedeniyle iptal edilmek zorunda kalındı.
Atletizm
Atletizm etkinlikleri, spor dalları arasında en uluslararası alana sahip olanıydı. En önemli etkinlik, ilk kez uluslararası yarışmada düzenlenen maratondu. Spyridon Louis Yunanistan'ın tek atletizm şampiyonu ve ulusal kahramanıydı. Yunanistan'ın disk ve gülle atma yarışlarını kazanması beklense de, en iyi Yunan atletler her iki yarışta da Amerikalı Robert Garrett'ın hemen arkasında yer aldı.
Çok az sayıda üst düzey uluslararası yarışmacı yarışmayı tercih ettiği için dünya rekoru kırılamadı. Buna ek olarak, pistin virajları çok dardı ve koşu etkinliklerinde hızlı zamanları zorlaştırıyordu. Buna rağmen, Birleşik Devletler'den Thomas Burke 100 metre yarışını 12.0 saniyede ve 400 metre yarışını 54.2 saniyede kazandı. jürinin kafasını karıştıran "çömelerek başlama" (dizini toprağa koyma) yöntemini kullanan tek kişiydi. Sonunda, "rahatsız pozisyonundan" başlamasına izin verildi.
Bisiklet
Bisiklet yarışmaları için Uluslararası Bisiklet Birliği'nin kuralları kullanılmıştır. Pist bisikleti yarışları yeni inşa edilen Neo Phaliron Velodromunda gerçekleştirilmiştir. Atina'dan Marathon'a gidiş ve dönüş (87 kilometre) olmak üzere sadece bir yol etkinliği düzenlendi.
Pist yarışlarında en iyi bisikletçi, bir turluk zamana karşı yarışını, sprint yarışını ve 10.000 metreyi kazanan Fransız Paul Masson oldu. Masson, 100 kilometre yarışında vatandaşı Léon Flameng'in pacemaker'ı olarak yarışa katıldı. Flameng, düştükten ve Yunan rakibi Georgios Kolettis'in mekanik bir sorunu çözmesini beklemek için durduktan sonra etkinliği kazandı. Sadece iki bisikletçinin tamamladığı 12 saatlik yarışı Avusturyalı eskrimci Adolf Schmal kazanırken, yol yarışı etkinliğini Aristidis Konstantinidis kazandı.
Eskrim
Eskrim etkinlikleri, Evangelis Zappas'ın antik Olimpiyat Oyunlarını yeniden canlandırmak için verdiği parayla inşa edilen ve daha önce kullanılmayan Zappeion'da yapıldı. Olimpiyatlarda sadece amatörlerin katılmasına izin verilen diğer sporların aksine, profesyonellerin ayrı bir etkinlikte de olsa eskrimde yarışmasına izin verildi. Bu profesyoneller de tıpkı amatörler gibi centilmen sporcular olarak kabul ediliyordu.
Dört etkinlik planlanmıştı, ancak épée etkinliği bilinmeyen nedenlerle iptal edildi. Flöre müsabakasını, finalde vatandaşı Henri Callot'yu yenen Fransız Eugène-Henri Gravelotte kazandı. Diğer iki etkinlik olan kılıç ve ustalar flöre Yunan eskrimciler tarafından kazanıldı. Son etkinliği kazanan Leonidas Pyrgos, modern çağın ilk Yunan Olimpiyat şampiyonu oldu.
Jimnastik
Jimnastik Panathinaiko Stadyumu'nun iç sahasındaydı. Almanya, her iki takım etkinliği de dahil olmak üzere sekiz etkinliğin beşini kazanan 11 kişilik bir takım gönderdi. Yatay çubuktaki takım etkinliğinde Alman takımı rakipsizdi. Üç Alman bireysel şampiyonluk elde etti: Hermann Weingärtner yatay barda, Alfred Flatow paralel barda ve güreşte de başarıyla yarışan Carl Schuhmann da tonozda birinci oldu. İsviçreli jimnastikçi Louis Zutter kulplu beygiri kazanırken, Yunanlı Ioannis Mitropoulos ve Nikolaos Andriakopoulos sırasıyla halkalarda ve ipe tırmanma etkinliklerinde zafere ulaştı.
Atış
Kallithea'daki bir poligonda düzenlenen atış yarışması, ikisi tüfek ve üçü tabanca ile olmak üzere beş etkinlikten oluşuyordu. İlk etkinlik olan askeri tüfeği, tüm atışlarında hedefi vuran tek yarışmacı olan Pantelis Karasevdas kazandı. İkinci etkinlik olan askeri tabanca etkinliğini ise iki Amerikalı kardeş kazandı: John ve Sumner Paine aynı yarışmayı birinci ve ikinci bitiren ilk kardeşler oldular. Ev sahiplerini utandırmamak için kardeşler bir sonraki tabanca etkinliği olan serbest tabancada sadece bir tanesinin yarışmasına karar verdiler. Sumner Paine bu etkinliği kazandı.
Paine kardeşler 25 metre tabanca etkinliğinde yarışamadılar çünkü etkinlik jürisi silahlarının gerekli kalibrede olmadığına karar verdi. Onların yokluğunda Ioannis Phrangoudis kazandı. Son etkinlik olan serbest tüfek aynı gün başladı. Ancak hava karardığı için tamamlanamayan etkinlik ertesi sabah Georgios Orphanidis'in şampiyon olmasıyla sonuçlandı.
Yüzme
Yüzme yarışması açık denizde gerçekleştirilmiştir. Yaklaşık 20,000 seyirci etkinlikleri izlemek üzere Pire açıklarındaki Zea Körfezinde sıralandı. Körfezdeki su soğuktu ve yarışmacılar yarışları sırasında acı çektiler. Üç açık etkinliğin (erkekler 100 metre serbest, erkekler 500 metre serbest ve erkekler 1200 metre serbest) yanı sıra sadece Yunan yelkencilere açık özel bir etkinlik de aynı gün (11 Nisan) düzenlendi.
Macaristan'dan Alfréd Hajós için aynı gün olması, sadece iki etkinlikte yarışabileceği anlamına geliyordu. Yüzdüğü iki etkinliği, 100 ve 1200 metre serbest stil yarışlarını kazandı. Hajós daha sonra 1924 yılında mimarlık dalında gümüş madalya kazanarak hem atletizm hem de sanat yarışmalarında madalya kazanan iki Olimpiyatçıdan biri oldu. 500 metre serbest stili, rakiplerini bir buçuk dakikadan fazla farkla yenen Avusturyalı yüzücü Paul Neumann kazandı.
Tenis
Tenis 19. yüzyılın sonlarında önemli bir spor olmasına rağmen, en iyi oyunculardan hiçbiri Atina'daki turnuvaya katılmadı. Yarışma Atina Çim Tenis Kulübü kortlarında ve bisiklet etkinlikleri için kullanılan velodromun iç sahasında yapıldı. Müsabakayı kazanan John Pius Boland, Oxford'daki bir öğrenci arkadaşı tarafından müsabakaya katılmıştır. Boland ilk turda, 100 metre sprint yarışmasında elenen Hamburglu gelecek vaat eden tenisçi Friedrich Traun'u yendi. Boland ve Traun çiftler müsabakası için takım olmaya karar verdiler ve ilk seti kaybettikten sonra Yunan ve Mısırlı rakiplerini yenerek finale yükseldiler.
Ağırlık Kaldırma
Halter sporu 1896'da hala gençti ve kurallar bugün kullanılanlardan farklıydı. Yarışmalar açık havada, ana stadyumun iç sahasında yapılıyordu ve ağırlık sınırı yoktu. İlk müsabaka bugün "clean and jerk" olarak bilinen stilde yapıldı. İki yarışmacı öne çıkıyordu: İskoçyalı Launceston Elliot ve Danimarkalı Viggo Jensen. Her ikisi de aynı ağırlığı kaldırdı; ancak Prens George'un başkanlığını yaptığı jüri, Jensen'in bunu daha iyi bir tarzda yaptığına karar verdi. Bu eşitlik bozma kuralına aşina olmayan İngiliz delegasyonu protesto başvurusunda bulundu. Sonunda kaldırıcıların daha fazla deneme yapmasına izin verildi, ancak iki kaldırıcı da kendini geliştiremedi ve Jensen şampiyon ilan edildi.
Elliot, iki elli yarışmanın hemen ardından düzenlenen tek el kaldırma yarışmasını kazandı. Jensen son iki el denemesi sırasında hafifçe sakatlanmıştı ve yarışmayı kolayca kazanan Elliot'a denk değildi. Yunan seyirciler çok çekici buldukları İskoç galipten çok etkilendiler. Halter müsabakası sırasında ilginç bir olay yaşandı: bir hizmetliden ağırlıkları kaldırması istendi ve bu onun için zor bir görev gibi görünüyordu. Prens George onun yardımına koştu; ağırlığı kaldırdı ve kalabalığın sevinci içinde kolaylıkla hatırı sayılır bir mesafeye fırlattı.
Güreş
Panathinaiko Stadyumu'nda düzenlenen güreş müsabakalarında herhangi bir sıklet bulunmadığından, her boydan yarışmacı arasında sadece bir kazanan olacaktı. Kullanılan kurallar modern Greko-Romen güreşine benzerdi, ancak zaman sınırı yoktu ve tüm bacak tutuşları yasak değildi (mevcut kuralların aksine).
İki Yunan yarışmacı dışında, tüm yarışmacılar daha önce diğer spor dallarında aktif olarak yer almışlardı. Halter şampiyonu Launceston Elliot, jimnastik şampiyonu Carl Schuhmann ile karşılaştı. Schuhmann kazanarak finale yükseldi ve burada daha önce Stephanos Christopoulos'u yenmiş olan Georgios Tsitas ile karşılaştı. Karanlık nedeniyle 40 dakika sonra ara verilen final maçına ertesi gün devam edildi ve Schuhmann'ın maçı bitirmek için sadece çeyrek saate ihtiyacı vardı.