奥林匹克运动会发源于两千多年前的古希腊，因举办地在奥林匹亚而得名。
公元前776年的古代奥林匹克运动会正式载入史册，成为古代奥运会的第1届。当时伯罗奔尼撒的统治者伊菲图斯（古代奥运会的创始人）努力使宗教与体育竞技合为一体。他不仅革新宗教仪式，还组织大规模的体育竞技活动，并决定每四年举行一次，时间定在闰年的夏至之后。参加第一届古代奥运会的国家仅有三个国家——伯罗奔尼撒、伊斯利、斯巴达。当时仅有一个比赛项目，即距离为192.27米的场地跑。多利亚人克洛斯取得冠军，成为国际奥林匹克运动会荣获第一个项目的第一个桂冠的人。
后来规模逐渐扩大，并成为显示民族精神的盛会，比赛的优胜者获得月桂、野橄榄和棕榈编织的花环等。古代奥运会项目：5项全能（包含铁饼、标枪、跳远、赛跑；摔跤和拳击）、赛跑、拳击、摔跤、拳击角力（拳击和摔跤的混合运动）、4轮马车赛跑、骑马。
公元426年，狄奥多西2世烧毁了奥林匹亚建筑物的残余部分。公元511、522年接连发生的两次强烈地震，使奥林匹亚遭到了彻底毁灭。从此顺延了1000余年的古奥运会不复存在，繁荣的奥林匹亚变成了一片废墟。
古代奥林匹克运动会停办了1500年之后，1889年7月，在法国巴黎召开的国际田径代表大会上，后来被人尊称为“奥林匹克之父”的法国教育家皮埃尔·德·顾拜旦（Pierre de Coubertin）首次公开了他恢复奥运会的设想。1891年1月，顾拜旦以法国田径协会联合会秘书长的身份，向全世界几乎每个体育组织和俱乐部发出邀请——参加于1894年6月16日在法国巴黎索邦神学院召开的国际体育运动代表大会。6月23日，大会通过了成立国际奥林匹克委员会的决议，而6月23日也就成了“国际奥林匹克日”（International Olympic Day）。大会决定在1896年召开首届现代奥运会，希腊的历史名城雅典获得主办权。
两年后的1896年4月6日下午3时，在希腊的帕那辛纳体育场，面对着出席开幕式的8万名观众，希腊国王乔治一世庄严地宣布大会正式开幕。作为人类历史上第一届现代奥运会，它留下了一系列史无前例的纪录，包括奠定了现代奥运会的九大起始项目：田径、游泳、举重、射击、体操、击剑、网球、自行车和古典式摔跤。然而首届奥运会在项目设置上沿袭了古代奥运会旧制，并留下了三个特点：第一，沿袭了古奥运会旧制，不允许女子运动员参加；第二，没有集体项目；第三，举重、摔跤在当时未按体重分级。
1900年第二届巴黎奥运会打破了上届奥运会的规矩。一是允许女性参加了其中两个项目，尽管没有得到国际奥委会的正式认可，但也开创了女子迈向世界体坛的先河；二是集体项目第一次列入奥运会，虽然足球比赛只有英国、法国和比利时这三个国家参加，但也使足球第一次成为国际性的比赛，对后来国际足球联合会的成立以及世界足球运动的发展，都起到一定的推动作用。
1924年第八届奥运会在巴黎举行，在这届十分成功的奥运会上，诞生了“更快、更高、更强”的奥林匹克格言。本届奥运会不仅提出了奥林匹克格言，在闭幕式上还升起了三面旗帜：奥运会会旗、承办国国旗和下届奥运会承办国国旗，这都表明奥运会在进一步走向正规。这届奥运会共有44个国家和地区的超过3000名运动员参加，674000名的观众总数也创造了新纪录
1924年第八届奥运会前，国际奥委会在法国的夏蒙尼举办了“冬季体育运动周”活动。次年，国际奥委会布拉格会议将其更名为“第一届冬季奥运会”，并决定每四年举行一次，与夏季奥运会在同年和同一国家举行。从1928年第二届冬奥会开始，冬奥会与夏奥会的举办地点改在不同的国家，但还是每四年一次与夏奥同一年举行。1986年，国际奥委会作出决定，从1994年起，冬奥会与夏奥会以2年为间隔交叉举行。这样，1992年在法国举行了最后一届与夏奥同年的冬奥会后，1994年又在挪威举行了一届。
1960年举办了首届残奥会，1976年举办首届冬季残奥会
2007年7月5日，国际奥委会在危地马拉城的第119次国际奥委会全会上同意创办青年奥运会，运动员的年龄需在14岁至18岁之间。首届青年奥林匹克运动会在新加坡举行。中国南京于2014年举办第二届青奥会。阿根廷布宜诺斯艾利斯于2018年举办第三届青奥会。
随着奥运会的发展和完善，现代奥运会已经分为夏季奥林匹克运动会、夏季残疾人奥林匹克运动会、冬季奥林匹克运动会、冬季残疾人奥林匹克运动会、夏季青年奥林匹克运动会、冬季青年奥林匹克运动会、世界夏季特殊奥林匹克运动会、世界冬季特殊奥林匹克运动会、夏季聋人奥林匹克运动会、冬季聋人奥林匹克运动会十个运动会
奥运会会的设立的项目也在不断的完善。自1920年第七届安特卫普奥运会开始，项目设置开始进入规范时代，本届共有22个大项156个小项。不单单是举重、射箭、摔跤、拳击这些传统奥运项目被重新加了回来，更是有了明确的规定：奥运会的比赛时间限制在16天之内。在8月14日的开幕式上，奥运会会旗被第一次升起，同时，也第一次放飞了和平鸽。
1924年第八届巴黎奥运会，共设17个大项126个小项，女子击剑比赛首次列为比赛项目。
从1948年第十四届伦敦奥运会的17大项136小项增加到了1980年第二十二届莫斯科的21大项203小项
1980年，萨马兰奇担任第七任国际奥委会主席后，便进行了一系列的改革，坚持开放的思想，重新构建了奥林匹克系统内外的各种关系，并大胆地引入了市场机制。
自2001年罗格就任国际奥委会主席后，现代奥运会迎来了自我瘦身的新时代。2004年雅典奥运会和2008年北京奥运会的项目设置明显打破了这种趋势——在大项和小项的总数上基本都没有变动，但对小项的调整力度却比以前加强了，一批项目被淘汰出奥运会，而一批新的项目又加入了进来。
2002年11月，国际奥委会在墨西哥城会议中决定，每届奥运会之后，将对各项目进行评估，以考察其是否继续保留在奥运会中。评估指标共分传统与历史、广泛性、受欢迎程度、形象、运动员健康、单项体育联合会发展状况以及开展成本等7个大项、33个小项。项目的广泛性、受欢迎程度及单项体育联合会发展状况3个大项均与其有直接联系，33个小项中，这3个大项就包含了19个。
2005年，国际奥委会在新加坡全会上决定，2012年伦敦奥运会只设26个大项，且今后每届奥运会最多不得超过28个大项。由于有了上限，那就意味着，如果有新增项目的话，必须得有老的项目被淘汰，有出才能有进。
2012伦敦奥运会中去除，一些普及性并不是那么广的运动，如棒球、垒球。摔跤在2013年被剔除出奥运项目。
2014年索契冬奥会增加了极限运动单板滑雪，2018年平昌冬奥会增加了单板滑雪大跳台
2016年8月，国际奥委会表决通过，让滑板、冲浪、竞技攀岩，还有日本年轻人非常喜爱的棒垒球这几个大项进入2020年东京奥运会。紧接着次年，3v3篮球比赛被列入2020年东京奥运会正式比赛项目。
2024年巴黎奥运会决定除了保留东京奥运会增加的滑板、冲浪和攀岩这几个项目，还把霹雳舞也加进来了。
随着城市化进程的扩展，奥林匹克战略重心的调整也势在必行，越来越多的新潮的、城市化的运动项目将会跻身奥运大舞台
