Története mintegy 3000 évre nyúlik vissza. Az ott elért eredményeket hivatalosan i. e. 776-ban jegyezték fel, s a görögök ennek az évnek a tiszteletére indítják időszámításukat. Több mint ezer éven át került megrendezésre, majd mintegy másfél évezrednyi szünet után indult újra. 125 éve, 1896. április 6. és 15. között rendezték meg Görögországban, Athénban az első újkori olimpiát.
Az olümpiai játékokat övező mítoszok isteni eredetűek. A legismertebbek közül az egyik Zeusz nevéhez fűződik, aki apjával, Krónosszal az Olümpuszon bírkózott meg az isteni trónért.
Az első olimpiai játékokat a hagyomány szerint i. e. 776-ban rendezték, ettől kezdve a görög városállamok versenyzői négyévente gyűltek össze, s mérték össze erejüket Olümpiában.
A négyéves ciklus a görög időszámítási rendszer alapja lett, az olimpia ideje pedig a városok közti béke időszaka volt. A versenyek alapelvének a kalakogathiát tartották: ép testben ép lélek (a testi szépség és a lelki nemesség harmonikus egységét, összhangját jelentette: testi szépségen a görög férfiideál fizikai formaszépségét, a testedzést végző ember arányos alakját, legyőzhetetlen erejét, lelki nemességen pedig a bátorságot, az erkölcsös gondolkodást, a tudást értették).
Az első olimpia egy napig tartott, az egyetlen számban, a kb. 200 méteres stadionfutásban csak férfiak vettek részt, s az ezt követő tizenhárom olimpián ez maradt az egyetlen versenyszám, amelynek hossza 192,27 m volt. (A monda szerint Heraklész mérte ki lábfejének hatszázszor egymás elé helyezésével. Ez lett a mai 200, illetve 400 méteres síkfutás alapja is.)
Az olimpia abban a történelmi korban mindvégig a férfiak versenye maradt, nők még a nézők között sem lehettek jelen. (Más időpontban a nők számára is rendeztek versenyeket. Ők a termékenység istennője, Héra tiszteletére futásban mérték össze tudásukat.)
Később bevezettek más futószámokat is, a diszkosz- és gerelyvetést, a távolugrást, a birkózást, majd az ökölvívást, a kocsiversenyt és a pankrációt, s a program 5-6 napig tartott.
A római hódítás után az olimpiák jelentősége csökkent. 393-ban Nagy Theodosius császár a kereszténység végleges megszilárdítása érdekében minden pogány rendezvényt betiltott, így a 11 évszázados múlttal rendelkező olümpiai játékokat is.
Az újkori olimpia megálmodója
Az újkori olimpia megálmodója Pierre de Coubertin Coubertin báró volt. 1863-ban született gazdag arisztokrata családban, a párizsi Sorbonne egyetemen történelmet és pedagógiát tanult. Nevelési elvei hasonlítottak a görög örökséghez, szerette volna, ha a francia ifjúság az „izmos testben lángoló szellem” elven nevelkedik, s megfogalmazódott benne az olimpiai játékok szervezésének gondolata is. 1892-ben létrehozta a Nemzetközi Olimpiai Bizottságot, amelyet kezdetben a saját költségén működtetett. A világ minden tájával levelezett, fogadta az olimpiával kapcsolatba került politikusokat, diplomatákat, mecénásokat és a sport különféle szakembereit.
A bizottság Athént jelölte ki az első olimpia színhelyéül. Az első olimpia majdnem elmaradt a görög gazdaság válsága miatt, végül azonban egy dúsgazdag üzletember, Georgiosz Averoff pénzéből sikerült megrendezni a versenyeket.
1896. április 6-án nyitották meg az első újkori olimpiai játékokat. Kilenc sportág 43 versenyszámában (torna, tenisz, lövészet, súlyemelés, birkózás, atlétika, úszás, vívás, kerékpározás) versengett 14 ország 241 résztvevője.
Az első magyar olimpiai bajnok Hajós Alfréd volt, aki 100 méteres és az 1200 méteres úszószámot is megnyerte a pireuszi öböl jéghideg vizében.
Az olimpia sikerét követően Coubertin lett a Nemzetközi Olimpiai Bizottság elnöke, amelyet 1925-ig vezetett.
Az olimpiai játékok ötkarikás szimbólumát ő tervezte 1913-ban. Az öt karika valószínűleg az öt kontinenst, míg egy másik magyarázat szerint a sport alapelveit szimbolizálja: szenvedély, hit, győzelem, munkaerkölcs, sportszerűség. Az olimpia hármas jelszava: Citius Altius Fortius (Gyorsabban Magasabbra Erősebben) lett.
Coubertin báró 1937. szeptember 2-án halt meg Genfben. Lausanne-ban temették el, de szívét Görögországban, Olympia romjainál helyezték végső nyugalomra.
Nevét őrzi a Pierre de Coubertin-díj, amelyet minden esztendőben az év legsportszerűbb cselekedeteiért ítél oda a sportolóknak a Nemzetközi Fair Play Bizottság.
Alfréd stadionterve ezüstérmet hozott a művészeti versenyeken.