關於古奧運會起源流傳最廣的是佩洛普斯娶親的故事。古希臘伊利斯國王為了給自己的女兒挑選壹個文武雙全的駙馬，提出應選者必須和自己比賽戰車。比賽中，先後有13個青年喪生於國王的長矛之下，而第14個青年正是宙斯的孫子和公主的心上人佩洛普斯。在愛情的鼓舞下，他勇敢地接受了國王的挑戰，終於以智取勝。為了慶賀這壹勝利，佩洛普斯與公主在奧林匹亞的宙斯廟前舉行盛大的婚禮，會上安排了戰車、角鬥等項比賽，這就是最初的古奧運會，佩洛普斯成了古奧運會傳說中的創始人。
奧運會的起源，實際上與古希臘的社會情況有著密切的關系。公元前9-8世紀，希臘氏族社會逐步瓦解，城邦制的奴隸社會逐漸形成，建立了200多個城邦。城邦各自為政，無統壹君主，城邦之間戰爭不斷。為了應付戰爭，各城邦都積極訓練士兵。斯巴達城邦兒童從7歲起就由國家撫養，並從事體育、軍事訓練，過著軍事生活。戰爭需要士兵，士兵需要強壯身體，而體育是培養能征善戰士兵的有力手段。戰爭促進了希臘體育運動的開展，古奧運會的比賽項目也帶有明顯的軍事烙印。連續不斷的戰事使人民感到厭惡，普遍渴望能有壹個賴以休養生息的和平環境。後來斯巴達王和伊利斯王簽訂了"神聖休戰月"條約。於是，為準備兵源的軍事訓練和體育競技，逐漸變為和平與友誼的運動會。
希臘人於公元前776年規定每4年在奧林匹亞舉辦壹次運動會。 運動會舉行期間，全希臘選手及附近黎民百姓相聚於奧林匹亞這個希臘南部的風景秀麗的小鎮。公元前776年在這裏舉行第壹屆奧運會 時，多利亞人克洛斯在192·27米短跑比賽中取得冠軍。他成為 國際奧林匹克運動會榮獲第壹個項目的第壹個桂冠的人。
後來，古希臘運動會的規模逐漸擴大，並成為顯示民族精神的盛會。比賽的優勝者獲得月桂、野橄欖和棕櫚編織的花環等。從公元前776年開始，到 公元394年止，歷經1170年，***舉行了293屆古代奧林匹克運動會。公元394年被羅馬皇帝禁止。
1875～1881年，德國庫蒂烏斯人在奧林匹克遺址發掘了出土文物，引起了全世界的興趣。為此，法國教育家皮埃爾·德·顧拜旦認為，恢復古希臘奧運會的傳統，對促進國際體育運動的發展有 著十分重大的意義。在他的倡導與積極奔走下，1894年6月，在巴黎舉行了首次國際體育大會。國際體育大會決定把世界性的綜合體育運動會叫做奧林匹克運動會，並於雅典 舉行第壹屆現代奧運會，以4年壹次，輪流在各會員國舉行。
到2004年，已經舉行了29屆奧運會。
開幕式沿革奧林匹克運動會古稱競技會，起源於古希臘，因舉辦地點在奧林匹亞而得名。古代希臘人有愛好運動競技的傳統。古希臘分成許多城邦，為了祭神，各城邦經常舉行競技會，這些競技會帶有濃厚的宗教色彩。競技會期間實行神聖休戰，以便於公民自由往來，為城邦間綿延不絕的戰爭帶來短暫的和平，因而受到普遍歡迎。諸多競技會中，規模最大、持續時間最長的是在奧林匹亞舉行的祭祀萬神之父——宙斯的競技會，即現今所稱的古代奧林匹克運動會。
升旗儀式第壹屆古代奧運會於公元前776年舉行。此後每4年舉辦壹次，直至公元393年，信奉基督教的羅馬皇帝狄奧多西壹世禁止壹切異教活動，宣布廢除古奧運會為止，歷時1169年，***舉行293屆。幾十年後，狄奧多西二世燒毀宙斯神殿，後來洪水與地震又將古奧運會遺址湮沒地下。
18世紀中葉，經考古學家挖掘，使古奧運會遺址重見天日。隨著近代體育的勃興，人們渴望恢復奧林匹克運動會。1859～1889年，希臘人曾舉辦過4屆奧運會。1888年法國的P.de顧拜旦男爵提出恢復奧運會的建議，並於1892年遍訪歐洲諸國。經兩年奔走、籌措，1894年6月在法國巴黎召開了國際體育會議。6月23日國際奧林匹克委員會成立，此後6月23日就被稱為奧林匹克日。會議還決定1896年4月6日至15日在希臘雅典舉行第壹屆現代奧林匹克運動會，以後每4年舉行壹次，在世界5大洲各大城市輪流舉辦。運動會如因故不能舉行，奧運會的屆數仍照算。
1894年6月巴黎國際會議上通過了第壹部由顧拜旦倡議和制定的奧林匹克章程。它涉及奧林匹克運動的基本宗旨、原則及其他有關事宜。1921年洛桑奧林匹克會議，制定了奧林匹克法，包括奧林匹克運動會憲章、國際奧林匹克委員會章程、奧林匹克運動會競賽規則及議定書、奧林匹克運動會舉行通則、奧林匹克議會規則等5部分。數十年來，奧林匹克法曾多次修改、補充，但由顧拜旦制定的基本原則和精神未變。
1900年，在巴黎舉行的第二屆奧運會上，有11名女子沖破禁令，出現在運動場上。國際奧委會經過數次爭論，終於在1924年第22次會議上，正式通過允許女子參加奧林匹克運動會的決議。此後，女子項目成為奧運會不可缺少的組成部分，參賽的女運動員也越來越多。
隨著奧林匹克運動的發展，國際奧委會還作出許多規定。1913年，根據顧拜旦的構思，國際奧委會設計了奧林匹克會旗，白底無邊，中央有5個相互套連的圓環，環的顏色為天藍、黃、黑、綠、紅，五環象征5大洲的團結和全世界運動員以公正、坦率的比賽和友好精神在奧運會上相見。1914年為慶祝現代奧林匹克運動恢復20周年，在巴黎舉行的奧林匹克大會上會旗首次使用。1920年安特衛普奧運會時，在運動場上升起第壹面五環會旗，這以後歷屆奧運會開幕式上都有會旗交接儀式和升旗儀式。為了宣傳奧林匹克精神、鼓勵參賽運動員，由顧拜旦提議，1913年經國際奧委會批準，將“更快、更高、更強”作為奧林匹克格言。1908年倫敦奧運會舉行時，在聖保羅大教堂舉行奧運會的宗教儀式上，美國賓夕法尼亞州大主教在其布道詞中說，奧運會“重要的是參與，不是勝利”，顧拜旦對這句話極為贊賞，以後多次引用，因此不少人認為，這句話應該成為奧林匹克理想。從1920年第七屆奧運會開始實施運動員宣誓。1968年第19屆奧運會又增加裁判員宣誓。1936年第11屆奧運會時，國際奧委會正式規定，在主體會場點燃象征光明、友誼、團結的奧林匹克火焰。此後這壹活動成為每屆奧運會開幕式不可缺少的儀式之壹。奧運會開始前，在奧林匹亞希臘女神赫拉（宙斯之妻）廟旁用凹面鏡聚集陽光點燃火炬後，進行火炬接力，於奧運會開幕前壹天到達舉辦城市。在開幕式上由東道國運動員接最後壹棒點燃塔上火焰，閉幕式時火焰熄滅。