Az 1894-es Sorbonne-i kongresszuson számos sportágat javasoltak az athéni programba. A megrendezendő sporteseményekkel kapcsolatos első hivatalos bejelentésekben olyan sportágak szerepeltek, mint a labdarúgás és a krikett, de ezeket a terveket soha nem véglegesítették, és ezek a sportágak nem kerültek be a játékok végleges listájára. Az evezést és a vitorlázást is tervbe vették, de a tervezett versenynapra tervezett rossz időjárás miatt törölni kellett.
Atlétika
Az atlétikai versenyszámok közül az atlétikai versenyszámokban volt a legnagyobb a nemzetközi mezőny. A fő csúcspont a maraton volt, amelyet első alkalommal rendeztek nemzetközi versenyen. Szpiridon Lajos volt az egyetlen görög atlétikai bajnok és nemzeti hős. Bár a diszkoszvetés vagy a golyóvetés megnyerésére Görögország volt az esélyes, a legjobb görög atléták mindkét versenyszámban csak az amerikai Robert Garrett mögött végeztek.
Világrekordok nem születtek, mivel kevés nemzetközi élversenyző indult a versenyen. Ráadásul a pálya kanyarulatai nagyon szűkek voltak, ami megnehezítette a futóversenyek gyors időeredményeit. Ennek ellenére az amerikai Thomas Burke 12,0 másodperccel nyerte a 100 méteres futást és 54,2 másodperccel a 400 méteres futást. volt az egyetlen, aki a "guggoló rajtot" (térdét a talajra helyezve) alkalmazta, összezavarva a zsűrit. Végül engedélyezték neki, hogy "kényelmetlen pozícióból" induljon.
Kerékpározás
A kerékpáros versenyeken a Nemzetközi Kerékpáros Szövetség szabályait alkalmazták. A pályakerékpáros versenyeket az újonnan épült Neo Phaliron Velodrome-ban rendezték. Csak egy országúti versenyt rendeztek, egy versenyt Athénból Marathonba és vissza (87 kilométer).
A pályaversenyeken a legjobb kerékpáros a francia Paul Masson volt, aki megnyerte az egykörös időfutamot, a sprintversenyt és a 10 000 métert. A 100 kilométeres versenyszámban Masson honfitársa, Léon Flameng tempófutójaként indult. Flameng egy bukás után nyerte meg a versenyt, miután megállt, hogy megvárja görög ellenfelét, Georgios Kolettis-t, hogy kijavítson egy mechanikai problémát. Az osztrák vívó Adolf Schmal nyerte a 12 órás versenyt, amelyet mindössze két kerékpáros teljesített, míg az országúti versenyszámot Arisztidisz Konsztantinidisz nyerte.
Kerítés
A vívóversenyeket a Zappeionban tartották, amelyet Evangelis Zappasnak az ókori olimpiai játékok újjáélesztésére adott pénzből építettek, és amelyet korábban nem használtak. Más sportágaktól eltérően (amelyekben csak amatőrök vehettek részt az olimpián), a vívásban profik is versenyezhettek, igaz, külön versenyszámban. Ezek a profik ugyanúgy úriember sportolóknak számítottak, mint az amatőrök.
Négy versenyszámot terveztek, de az épée versenyszámot ismeretlen okokból törölték. A foil versenyszámot egy francia, Eugène-Henri Gravelotte nyerte, aki a döntőben honfitársát, Henri Callot-t győzte le. A másik két versenyszámot, a szablyát és a masters foil-t görög vívók nyerték. Az utóbbi versenyszámot megnyerő Leonidasz Pürgosz lett a modern kor első görög olimpiai bajnoka.
Torna
A torna a Panathinaiko stadion belső pályáján volt. Németország 11 fős csapatot küldött, amely a nyolc versenyszámból ötöt megnyert, köztük mindkét csapatversenyt. A csapatversenyben a korláton a német csapat ellenfél nélkül maradt. Három német adta hozzá az egyéni címeket: Hermann Weingärtner a vízszintes korláton, Alfred Flatow a párhuzamos korláton; a birkózásban is sikeresen versenyző Carl Schuhmann pedig az ugrásban győzött. Louis Zutter svájci tornász győzött páston, míg a görögök Ioannis Mitropoulos és Nikolaos Andriakopoulos gyűrűben, illetve kötélmászásban diadalmaskodtak.
Lövés
A Kallithea lőtéren tartott lövészverseny öt versenyszámból állt - kettő puskával, három pedig pisztollyal. Az első versenyszámot, a katonai puskát Pantelis Karasevdas nyerte, aki az egyetlen versenyző volt, aki minden lövésével célba talált. A második, katonai pisztolyos versenyszámot két amerikai testvér uralta: John és Sumner Paine lett az első testvérpár, akik ugyanazon versenyszámban az első és második helyen végeztek. Hogy ne hozzák zavarba a házigazdákat, a testvérek úgy döntöttek, hogy a következő pisztolyversenyszámban, a szabadpisztolyban csak egyikük indul. Ezt a versenyt Sumner Paine nyerte meg.
A Paine testvérek nem indultak a 25 méteres pisztoly versenyszámban, mivel a versenybírók úgy ítélték meg, hogy fegyvereik nem az előírt kaliberűek. Távollétükben Ioannis Phrangoudis győzött. Az utolsó versenyszám, a szabadpuskaverseny ugyanezen a napon kezdődött. A versenyszámot azonban a sötétség miatt nem fejezték be, és csak másnap reggel fejezték be, amikor Georgios Orphanidis lett a bajnok.
Úszás
Az úszóverseny a nyílt tengeren zajlott. A pireuszi partoknál lévő Zea-öbölben közel 20 000 néző követte figyelemmel az eseményeket. Az öböl vize hideg volt, és a versenyzők szenvedtek a futamok alatt. Három nyílt versenyszámot (férfi 100 méteres gyorsúszás, férfi 500 méteres gyorsúszás és férfi 1200 méteres gyorsúszás), valamint egy speciális, csak a görög vitorlázók számára nyitott versenyt rendeztek ugyanazon a napon (április 11-én).
A magyar Hajós Alfréd számára az egy napra esés azt jelentette, hogy csak két versenyszámban tudott indulni. Azt a két számot, amelyben úszott, a 100 és az 1200 méteres gyorsúszást megnyerte. Hajós később egyike lett annak a két olimpikonnak, aki mind az atlétikai, mind a művészeti versenyszámokban érmet nyert, amikor 1924-ben építészetből ezüstérmet szerzett. Az 500 méteres gyorsúszást az osztrák Paul Neumann úszó nyerte, aki több mint másfél perccel előzte meg ellenfeleit.
Tenisz
Bár a tenisz a 19. század végén már jelentős sportág volt, a legjobb játékosok egyike sem jelent meg az athéni versenyen. A verseny az Athéni Gyeptenisz Klub pályáin, illetve a kerékpáros versenyekhez használt velodrom pályáján zajlott. John Pius Bolandot, aki megnyerte a versenyt, egy oxfordi diáktársa nevezte be a versenyre. Az első fordulóban Boland legyőzte Friedrich Traunt, egy ígéretes hamburgi teniszezőt, aki a 100 méteres sprintversenyben esett ki. Boland és Traun úgy döntött, hogy párosban indulnak a párosversenyen, ahol a döntőbe jutottak, és az első szett elvesztése után legyőzték görög és egyiptomi ellenfelüket.
Súlyemelés
A súlyemelés 1896-ban még fiatal volt, és a szabályok is különböztek a ma használatos szabályoktól. A versenyeket a szabadban, a fő stadion belső pályáján rendezték, és nem voltak súlykorlátozások. Az első versenyszámot a ma "clean and jerk" néven ismert stílusban tartották. Két versenyző emelkedett ki: A skót Launceston Elliot és a dán Viggo Jensen. Mindketten ugyanazt a súlyt emelték fel; de a zsűri, amelynek elnöke György herceg volt, úgy döntött, hogy Jensen jobb stílusban tette ezt. A brit küldöttség, amely nem ismerte ezt a döntetlenre vonatkozó szabályt, óvást nyújtott be. Az emelők végül újabb kísérleteket tehettek, de egyikük sem javított, így Jensen lett a bajnok.
Elliot győzött az egykezes emelő versenyszámban, amelyet közvetlenül a kétkezes után rendeztek. Jensen a legutóbbi kétkezes próbálkozása során enyhén megsérült, és nem volt ellenfele Elliotnak, aki könnyedén megnyerte a versenyt. A görög közönséget elbűvölte a skót győztes, akit nagyon vonzónak találtak. A súlyemelő versenyszám közben különös incidens történt: egy szolgát utasítottak, hogy vegye le a súlyokat, ami látszólag nehéz feladatnak tűnt számára. György herceg a segítségére sietett; felvette a súlyt, és a tömeg legnagyobb örömére könnyedén, jelentős távolságra dobta.
Birkózás
A Panathinaiko stadionban rendezett birkózóversenyen nem léteztek súlycsoportok, ami azt jelentette, hogy minden méretű versenyző között csak egy győztes lehetett. Az alkalmazott szabályok hasonlóak voltak a modern görög-római birkózáshoz, bár nem volt időkorlát, és nem volt tilos minden lábfogás (ellentétben a jelenlegi szabályokkal).
A két görög versenyzőt leszámítva valamennyi versenyző korábban más sportágakban tevékenykedett. A súlyemelő bajnok Launceston Elliot a tornászbajnok Carl Schuhmannal került szembe. Utóbbi győzött, és bejutott a döntőbe, ahol Georgios Tsitasszal találkozott, aki korábban Stephanos Christopoulos-t győzte le. A sötétség miatt a döntő mérkőzést 40 perc után félbe kellett szakítani; másnap folytatták, amikor Schuhmannak mindössze negyed órára volt szüksége a küzdelem befejezéséhez.