Balandžio 6-15 dienomis vykusiose žaidynėse varžėsi 241 dalyvis iš 14 valstybių – Australijos, Austrijos, Bulgarijos, Danijos, Didžiosios Britanijos, Čilės, Graikijos, Italijos, JAV, Prancūzijos, Šveicarijos, Švedijos, Vengrijos ir Vokietijos. Didžiausios buvo Graikijos, Vokietijos ir Didžiosios Britanijos delegacijos.
Pirmosiose žaidynėse atletai varžėsi 43 rungtyse devyniose sporto šakose – dviračių sporto (plentas), fechtavimo, graikų-romėnų imtynių, gimnastikos, kulkinio šaudymo, lengvosios atletikos, plaukimo, sunkiosios atletikos ir teniso.
Pirmuoju olimpiniu čempiono po daugiau nei pusantro tūkstančio metų tapo amerikietis Jamesas Connolly, 1896 metų balandžio 6 dieną laimėjęs trišuolio rungtį. Jis taip pat buvo antras šuolių į aukštį ir trečias šuolių į tolį rungtyse.
Žaidynių šeimininkai labiausiai norėjo laimėti istorinę maratono rungtį. Šimtatūkstantinės minios džiaugsmui Spyridonas Louisasas, startavęs iš Maratono miesto, išsiveržė į priekį iki finišo likus keturiems kilometrams ir distanciją baigė pirmas, aplenkdamas varžovus daugiau nei septyniomis minutėmis.
Vengrų plaukikas Alfredas Hajosas laimėjo 100 m ir 1200 m plaukimo rungtis. Ilgesnėse distancijose besivaržantys plaukikai buvo laivu nuplukdomi toliau į jūrą ir distanciją įveikdavo plaukdami link kranto.
