有记录的首届古代奥运会举办于公元前776年，是一个以祭祀奥林匹亚主神宙斯而又兼顾了竞技运动的活动。

关于其举办原因的神话传说中，最为流行的是佩洛普斯娶妻的故事。佩洛普斯是宙斯的孙子，有一天他遇见一位名叫基波达米娅的美丽少女，两位年轻人一见钟情。基波达米娅皮沙城邦国王的女儿，国王在招“驸马”时要求应招者与其比赛战车，胜者与公主结婚，败者将被其用利矛刺死。之前一共有十三位失败的挑战者，所以古代希腊皮沙人很长时间都把13视为一个不吉利的数字。当佩洛普斯与国王举行战车赛中，国王的战车突然翻了，原来是国王的车夫把国王战车一侧的车轮的穿钉换成木制的（也有说蜡制的），佩洛普斯获得了胜利。为了庆祝他的胜利，并与基波达米娅结婚，以及继承皮沙城邦的王位，整个城邦举行了庆祝活动，佩洛普斯成为古希腊运动会传说中的创始人。

当然，神话归神话，实际中古代奥运会同样具有极为浓郁的宗教气息。活动主要是祭祀神灵，以主神宙斯为中心，包括祭奠、朗诵、祝词等，运动为项目之一。与会运动员均裸体参赛。活动不允许女子参加及参观。公元前396年第96届时出了这么个事。罗多斯城邦的妇女卡利帕提拉，女扮男装以教练身份混入赛场观看儿子皮西多鲁斯比赛，因儿子夺冠情不自禁闯入赛区，暴露女性身份，被判死刑。后因其父和其子均获过拳击冠军而被赦免。此后因此而规定，凡参加竞技会的教练员也必须裸体入席，以“验明正身”。

到公元前338年，由于希腊诸邦联军败于马其顿军，从此希腊大部分城邦沦于马其顿王国统治之下，古代奥运会由此逐渐衰落。公元前146年，罗马帝国征服希腊，希腊成为罗马的一个行省，奥林匹克竞技会逐渐变成罗马帝国的地方性运动会。 公元393年，罗马皇帝狄奥多西一世立基督教为国教，禁止异教活动。次年其宣布废止古代奥运会。