Vuoden 1894 Sorbonnen kongressissa ehdotettiin Ateenan ohjelmaan monia urheilulajeja. Ensimmäisissä virallisissa ilmoituksissa järjestettävistä urheilutapahtumista esiteltiin muun muassa jalkapalloa ja krikettiä, mutta näitä suunnitelmia ei koskaan viimeistelty, eivätkä nämä lajit päässeet kisojen lopulliseen luetteloon. Soutu ja purjehdus oli tarkoitus järjestää, mutta ne jouduttiin perumaan huonon sään vuoksi suunniteltuna kilpailupäivänä.
Yleisurheilu
Yleisurheilussa oli kaikista urheilulajeista kansainvälisin kenttä. Suurin kohokohta oli maraton, joka järjestettiin ensimmäistä kertaa kansainvälisessä kilpailussa. Spyridon Louis oli ainoa kreikkalainen yleisurheilun mestari ja kansallissankari. Vaikka Kreikka oli ollut ennakkosuosikki voittamaan kiekonheittoa tai kuulantyöntöä, Kreikan parhaat urheilijat jäivät molemmissa lajeissa niukasti amerikkalaisen Robert Garrettin taakse.
Maailmanennätyksiä ei tehty, koska vain harvat kansainväliset huippukilpailijat olivat halunneet osallistua kilpailuun. Lisäksi radan mutkat olivat hyvin tiukat, mikä teki juoksukilpailujen nopeista ajoista vaikeita. Tästä huolimatta yhdysvaltalainen Thomas Burke voitti 100 metrin juoksun ajassa 12,0 sekuntia ja 400 metrin juoksun ajassa 54,2 sekuntia. oli ainoa, joka käytti "kyykkylähtöä" (polven asettaminen maahan), mikä hämmensi tuomaristoa. Lopulta hänen sallittiin startata "epämukavasta asennostaan".
Pyöräily
Pyöräilykilpailuissa käytettiin Kansainvälisen pyöräilyliiton sääntöjä. Ratapyöräilykilpailut järjestettiin hiljattain rakennetulla Neo Phaliron Velodromilla. Maantiepyöräilykilpailuja järjestettiin vain yksi, kilpailu Ateenasta Marathoniin ja takaisin (87 kilometriä).
Ratakilpailuissa paras pyöräilijä oli ranskalainen Paul Masson, joka voitti yhden kierroksen aika-ajon, sprintin ja 10 000 metrin juoksun. Sadan kilometrin kilpailuun Masson osallistui maanmiehensä Léon Flamengin vauhdittajana. Flameng voitti kilpailun kaaduttuaan ja pysähdyttyään odottamaan kreikkalaisen kilpailijansa Georgios Kolettisin mekaanisen vian korjaamista. Itävaltalainen miekkailija Adolf Schmal voitti 12 tunnin kilpailun, jonka vain kaksi pyöräilijää suoritti, kun taas maantieajon voitti Aristidis Konstantinidis.
Aitaus
Miekkailukilpailut järjestettiin Zappeionissa, joka oli rakennettu Evangelos Zappasin antiikin olympialaisten elvyttämiseksi antamilla varoilla. Toisin kuin muissa urheilulajeissa (joissa vain amatöörit saivat osallistua olympialaisiin), ammattilaiset saivat kilpailla miekkailussa, joskin erillisessä lajissa. Ammattilaisia pidettiin herrasmiesurheilijoina, aivan kuten amatöörejä.
Neljä tapahtumaa oli suunniteltu, mutta épée-tapahtuma peruttiin tuntemattomista syistä. Köydenheittokilpailun voitti ranskalainen Eugène-Henri Gravelotte, joka voitti finaalissa maanmiehensä Henri Callotin. Kaksi muuta lajia, sapeli ja masters foil, voitti kreikkalaiset miekkailijat. Jälkimmäisen lajin voittaneesta Leonidas Pyrgosista tuli ensimmäinen kreikkalainen olympiavoittaja nykyaikana.
Voimistelu
Voimistelu oli Panathinaiko-stadionin sisäkentällä. Saksa lähetti 11-miehisen joukkueen, joka voitti kahdeksasta lajista viisi, mukaan lukien molemmat joukkuekilpailut. Vaakaraudan joukkuekilpailussa Saksan joukkue oli voittamaton. Kolme saksalaista voitti myös yksilölajin mestaruuden: Hermann Weingärtner voitti vaakatangon, Alfred Flatow voitti tangon ja Carl Schuhmann, joka kilpaili menestyksekkäästi myös painissa, voitti hypyn. Sveitsiläinen voimistelija Louis Zutter voitti pommel-hevosen, ja kreikkalaiset Ioannis Mitropoulos ja Nikolaos Andriakopoulos voittivat renkaat ja köysikiipeilyn.
Kuvaaminen
Ampumakilpailu järjestettiin Kallithean ampumaradalla, ja se koostui viidestä lajista - kaksi kiväärillä ja kolme pistoolilla. Ensimmäisen lajin, sotilaskiväärin, voitti Pantelis Karasevdas, joka ainoana kilpailijana osui maaliin kaikilla laukauksillaan. Toista kilpailua, sotilaspistoolikilpailua, hallitsi kaksi amerikkalaista veljestä: John ja Sumner Paine olivat ensimmäiset sisarukset, jotka sijoittuivat samassa kilpailussa ensimmäiseksi ja toiseksi. Välttääkseen isäntien nolaamisen veljekset päättivät, että vain toinen heistä kilpailisi seuraavassa pistoolilajissa, vapaapistoolissa. Sumner Paine voitti tämän lajin.
Painen veljekset eivät kilpailleet 25 metrin pistoolikilpailussa, koska tuomarit totesivat, että heidän aseensa eivät olleet vaadittua kaliiperia. Heidän poissa ollessaan voiton vei Ioannis Phrangoudis. Viimeinen laji, vapaakivääri, alkoi samana päivänä. Kilpailua ei kuitenkaan saatu päätökseen pimeyden vuoksi, vaan se päätettiin vasta seuraavana aamuna, jolloin Georgios Orphanidis kruunattiin mestariksi.
Uinti
Uintikilpailu järjestettiin avomerellä. Lähes 20 000 katsojaa seurasi tapahtumia Zean lahdella Pireuksen rannikolla. Lahden vesi oli kylmää, ja kilpailijat kärsivät kilpailujensa aikana. Kilpailussa oli kolme avointa kilpailua (miesten 100 metrin vapaauinti, miesten 500 metrin vapaauinti ja miesten 1200 metrin vapaauinti) sekä vain kreikkalaisille purjehtijoille avoin erikoiskilpailu, jotka kaikki järjestettiin samana päivänä (11. huhtikuuta).
Unkarilaisen Alfréd Hajósin kohdalla samana päivänä kilpaileminen merkitsi sitä, että hän pystyi kilpailemaan vain kahdessa lajissa. Hän voitti ne kaksi lajia, joissa hän ui, 100 ja 1200 metrin vapaauinnin. Hajósista tuli myöhemmin yksi niistä kahdesta olympiaurheilijasta, jotka ovat voittaneet mitalin sekä yleisurheilussa että taidekilpailuissa, kun hän voitti hopeaa arkkitehtuurista vuonna 1924. 500 metrin vapaauinnin voitti itävaltalainen uimari Paul Neumann, joka kukisti vastustajansa yli puolellatoista minuutilla.
Tennis
Vaikka tennis oli jo 1800-luvun lopulla merkittävä urheilulaji, yksikään huippupelaaja ei osallistunut Ateenan turnaukseen. Kilpailu käytiin Ateenan nurmikenttätennisklubin kentillä ja pyöräilykilpailuissa käytetyn velodromin sisäkentällä. Kilpailun voittaneen John Pius Bolandin kilpailuun osallistui hänen opiskelutoverinsa Oxfordissa. Ensimmäisellä kierroksella Boland voitti Hampurin lupaavan tennispelaajan Friedrich Traunin, joka oli pudonnut 100 metrin sprinttikilpailussa. Boland ja Traun päättivät muodostaa parikilpailun, jossa he pääsivät finaaliin ja voittivat kreikkalaisen ja egyptiläisen vastustajansa hävittyään ensimmäisen sarjan.
Painonnosto
Painonnosto oli vuonna 1896 vielä nuori laji, ja sen säännöt poikkesivat nykyisin käytössä olevista säännöistä. Kilpailut pidettiin ulkona, päästadionin sisäkentällä, eikä painorajoja ollut. Ensimmäinen kilpailu järjestettiin tyylillä, joka tunnetaan nykyään nimellä "clean and jerk". Kaksi kilpailijaa erottui joukosta: Skotlantilainen Launceston Elliot ja tanskalainen Viggo Jensen. Molemmat nostivat saman painon, mutta tuomaristo, jonka puheenjohtajana toimi prinssi Yrjö, päätti, että Jensen oli nostanut painon paremmalla tyylillä. Britannian valtuuskunta, joka ei tuntenut tätä tasapelisääntöä, esitti vastalauseen. Nostajat saivat lopulta yrittää uudelleen, mutta kumpikaan nostajista ei parantanut, ja Jensen julistettiin mestariksi.
Elliot voitti yhden käden nostokilpailun, joka järjestettiin heti kahden käden nostokilpailun jälkeen. Jensen oli loukkaantunut lievästi edellisessä kahden käden nostoyrityksessään, eikä ollut vastusta Elliotille, joka voitti kilpailun helposti. Kreikkalaisyleisö oli hurmaantunut skotlantilaisesta voittajasta, jota he pitivät erittäin viehättävänä. Painonnostokilpailun aikana sattui kummallinen välikohtaus: palvelija käskettiin poistamaan painot, mikä näytti olevan hänelle vaikea tehtävä. Prinssi Yrjö tuli apuun; hän nosti painon ja heitti sen melkoisen matkan helposti yleisön iloksi.
Paini
Panathinaiko-stadionilla järjestetyssä painikilpailussa ei ollut painoluokkia, mikä tarkoitti, että kaikenkokoisten kilpailijoiden joukossa olisi vain yksi voittaja. Käytetyt säännöt muistuttivat nykyaikaista kreikkalais-roomalaista painia, vaikka aikarajoitusta ei ollutkaan ja kaikki jalkojen otteet eivät olleet kiellettyjä (toisin kuin nykyisissä säännöissä).
Kahta kreikkalaista kilpailijaa lukuun ottamatta kaikki kilpailijat olivat aiemmin harrastaneet muita urheilulajeja. Painonnoston mestari Launceston Elliot kohtasi voimistelun mestarin Carl Schuhmannin. Jälkimmäinen voitti ja eteni finaaliin, jossa hän kohtasi Georgios Tsitasin, joka oli aiemmin voittanut Stephanos Christopoulosin. Pimeys pakotti keskeyttämään loppuottelun 40 minuutin jälkeen; sitä jatkettiin seuraavana päivänä, jolloin Schuhmann tarvitsi vain varttitunnin päättääkseen ottelun.