提起五岳，大家马上就会想起这样的说法：东岳泰山、西岳华山、北岳恒山、南岳衡山、中岳嵩山。其实，这只是一种传统的说法而已，五岳究竟是哪几座大山，历来有许多争论。
《尚书》中只有东南西北四岳而无五岳之称。《史记。五帝本纪》引《尚书。尧典》，记述尧以治水和禅位询问四岳之官，将舜摄行天子事时，则巡狩四岳之地。里边只提到了东岳岱宗，其余三岳则没有记载。裴骃《史记集解》引郑玄曰：“‘四岳’，四时官，主方岳之事”；张守节《史记正义》引《伪孔传》曰：“‘四岳’即上羲、和四子也，分掌四岳之诸位，故称焉。”
全国既分为四个区域，就在东西南北四个区域中各选一个名山作为代表，称之为岳。《史记。封禅书》亦录《尧典》之文，并补出了其他三岳的名称和所在：“岁二月，东巡狩，至于岱宗；五月巡狩至南岳，南岳，衡山也；八月巡狩至西岳，西岳，华山也；十一月巡狩至北岳，北岳，恒山也，皆如岱宗之礼。”在记述完这四岳以后，又在里边加上这么一句：“中岳，嵩高也”，“昔三代之君皆在河洛之间，故嵩高为中岳，而四岳各如其方”。五岳的概念，这时才较为明确地出现。
五岳的名称，始见于《周礼。大宗伯》和《大司乐》，但它并没有说明五岳是哪几座大山。《史记》才定为岱宗（泰山）、华山、衡山、恒山、嵩山这五个确定的大山，但五岳到底是指哪几座山，却是众说纷纭。《尔雅》说：河南华，河西岳，河东岱，河北恒，江南衡。把黄河南面的华山，西面的吴山（即岳山，在今陕西陇县西南），东面的泰山（即岱宗），北面的恒山，长江南面的衡山，视为五岳。同是《尔雅》，又有第二种说法：泰山为东岳，华山为西岳，霍山为南岳，恒山为北岳，嵩高为中岳。霍山在今安徽霍山县西北五里，又叫天柱山。郑玄注《周礼。大司乐》中的四镇五岳，把岱、衡、华、岳、恒作为五岳，同《尔雅》前一说；注《大宗伯》则据《尔雅》的第二说，以泰、华、霍、恒、嵩为五岳。唐代的贾公彦为此作疏时则说：《大宗伯》之注中的五岳是据东都而言的，《大司乐》之注中的五岳是据西都而言的。但到底怎么回事，谁也说不清楚。由于历代对五岳的看法和说法纷纭不一，就有人试图对此作出“历史的解释”。邵晋涵《尔雅正义》说：冀州之霍山，与泰、衡、华、恒，唐虞之五岳也；华、岳、泰、恒、衡，周之五岳也；泰、衡、华、恒、嵩高，汉初相承之五岳也，泰、华、霍、恒、嵩高，武帝所定之五岳也。金鹗《求古录札记》则认为：岱、衡、华、恒、霍太，唐虞夏之五岳也；岱、衡、华、恒、嵩高，殷之五岳也；岱、衡、华、恒、吴岳，周之五岳也。霍太山在今山西霍县东南三十里。
据顾颉刚《汉代学术史略》考证，则又有与上述不同的观点。他认为，秦始皇时尚无现在的所谓“五岳”观念。秦始皇统一中国后，把天下名山大川整理一遍，以旧时秦国的门户崤山为界，定其东边名山为五：太室、恒山、泰山、会稽、湘山；其西边名山七：华山、薄山、岳山、歧山、吴山、鸿冢、渎山。今天的所谓“五岳”，还分散在东西两边。汉代，讲黄帝故事的申公说：“天下名山八而三在蛮夷，五在中国。中国：华山、首山、太室、太山、东莱。”（见《史记。封禅书》）这都是黄帝常游的地方，华山在今陕西，首山在今山西，太室在今河南，泰山和东莱在今山东，都在黄河流域。由于这样的分配法没有按汉代疆域的实际情况来划分，所以汉武帝另行分配，以太室为中岳，泰山为东岳，安徽的天柱山为南岳，华山为西岳，恒山为北岳，
用来显示国土的强大。后来因为安徽位置还不太“南”，所以又改以湖南的衡山为南岳。
统治阶级的划分名山大川，往往是出于加强统治、显示国力的目的，所以任意改动，造成了历史上纠缠不清的“五岳之谜”。五岳是东西南北中五座大山的结合体。下边，举中岳的例子，就能看出历来对“五岳”的争论到底是怎么一回事了。
历来都将河南的嵩山作为中岳，如《尔雅。释山》就说：“嵩高为中岳。”但胡渭的《禹贡锥指》认为：“隋朝以霍山为冀州镇，历代因之，号曰中镇，即古之中岳，周仍以唐虞时太岳为中岳。”此谓因袭隋时唐虞以山西霍山为中岳。邵晋涵《尔雅正义》说：“唐虞时霍太山为岳，是为中岳，名谓《禹贡》而不见《帝典》者，霍太山在冀州帝都之内，非巡狩所至，故略而不言。
周营成周，华山在王畿之内，故为中岳。……嵩高在虞夏时，谓之外方，不以为中岳。“就是说，唐虞时的中岳是山西霍县的霍太山，华山是西周时的中岳，而嵩山最初并不是中岳。金鹗《求古录礼记》：”中岳之名，历代随帝都而移，尧都平阳，舜都蒲阪，禹都晋阳，皆在冀州之域，故并以霍太山为中岳。殷汤都西亳，在豫州之域，故以嵩高为中岳。周武王都镐，在雍州之域，故以虞山为中岳。“中岳的争论尚且如此，更不要说那统括五山的”五岳“了
