Pačios pirmosios olimpinės žaidynės buvo surengtos 776 m. Olimpijoje. Pasak legendos, sportininkai pasirodė priešais Dzeusą. Varžybos truko iki 394 m. Pr. Kr., Kol jas uždraudė imperatorius Teodosijus I. Naujasis olimpinis judėjimas - tas, kurį šiandien žino visi - prasidėjo 1896 m. Atėnuose.
XVIII amžiuje, atlikdami archeologinius kasinėjimus Olimpijoje, mokslininkai atrado senovės sporto objektus. Tačiau archeologai netrukus nustojo juos tyrinėti. Ir tik po 100 metų vokiečiai prisijungė prie aptiktų objektų tyrimo. Tuo pačiu metu jie pirmą kartą pradėjo kalbėti apie galimybę atgaivinti olimpinį judėjimą.
Pagrindinis olimpinio judėjimo atgimimo įkvėpėjas buvo prancūzų baronas Pierre'as de Coubertinas, padėjęs Vokietijos tyrėjams ištirti atrastus paminklus. Jis taip pat buvo suinteresuotas plėtoti šį projektą, nes manė, kad prastas prancūzų karių fizinis pasirengimas sukėlė pralaimėjimą Prancūzijos ir Prūsijos kare. Be to, baronas norėjo sukurti judėjimą, kuris vienytų jaunus žmones ir padėtų užmegzti draugiškus santykius tarp skirtingų šalių. 1894 m. Jis išreiškė savo pasiūlymus tarptautiniame kongrese, kur buvo nuspręsta surengti pirmąsias olimpines žaidynes jų gimtinėje Atėnuose.
Pirmosios žaidynės tapo tikru atradimu visam pasauliui ir vyko labai sėkmingai. Iš viso juose dalyvavo 241 sportininkas iš 14 šalių. Šio renginio sėkmė graikus taip įkvėpė, kad jie pasiūlė, kad Atėnai būtų nuolatinė olimpiados vieta. Tačiau pirmasis Tarptautinis olimpinis komitetas, įkurtas dvejus metus iki pirmųjų žaidynių pradžios, atmetė šią idėją ir nusprendė, kad būtina nustatyti valstybių rotaciją dėl teisės rengti olimpiadą kas ketverius metus.
I tarptautinės olimpinės žaidynės vyko 1896 m. Balandžio 6–15 d. Varžybose dalyvavo tik vyrai. Buvo imtasi 10 sporto šakų. Tai yra klasikinės imtynės, dviračių sportas, gimnastika, lengvoji atletika, plaukimas, šaudymas, tenisas, sunkioji atletika, fechtavimasis. Visose šiose disciplinose buvo žaidžiami 43 medalių komplektai. Lyderiais tapo Graikijos olimpiečiai, antroje vietoje liko amerikiečiai, bronzą gavo vokiečiai.
Pirmųjų žaidynių organizatoriai norėjo jas paversti mėgėjų varžybomis, kuriose profesionalai negalėjo dalyvauti. Iš tiesų, pasak TOK komiteto narių, tie sportininkai, kurie turi materialų susidomėjimą, iš pradžių turi pranašumą prieš mėgėjus. Ir tai nėra teisinga.
