历史上的函谷关并非只有一处，一共有三座，分别为秦函谷关、汉函谷关、魏函谷关。秦函谷关为战国时秦国所建，位于今河南省三门峡市灵宝市北约15公里处的函谷关镇王垛村；汉函谷关是汉武帝时楼船将军杨仆出资兴建，位于今洛阳市新安县以东；魏函谷关是曹魏时弘农太守孟康为方便运粮而在黄河河滩处所建，位于秦函谷关北5公里处的灵宝市函谷关镇孟村境内，亦称为“大崤关”、“金陡关”，因后世建三门峡黄河大坝水位上涨已被淹没。三处函谷关所处时代不同，则其发挥的作用和重要性也不一样，最重要的非秦时函谷关莫属。
战国时秦孝公从魏国手中夺取崤函之地，设置函谷关。古代沟通古都西安和洛阳的崤函古道东起崤山，西至潼关，多在涧谷之中。从函谷关至潼关的崤函古道西段深险如函，古称函谷道，函谷关扼守函谷道最险要之处，因此而得名。
“塬”（原），是一种台状高地，顶部平坦，四周因为河流冲刷而峭壁陡立，往往有数十米乃至数百米之高，这种黄土高原上的独特地貌我们都不陌生，如著名的白鹿原。在今灵宝市北部，就有一个东北---西南走向的大原叫稠桑原，横亘在黄河和秦岭之间，阻断东西之间的通道。从其名字就可以知道，古代稠桑原上应该到处都是密密麻麻的桑树等各类林木，想要通过稠桑原绝非易事。
古时稠桑原北面就是黄河，没有河滩可走。但是天无绝人之路，在稠桑原上也有一条雨水冲刷而成的裂缝（或称峡谷）可供通行，这个裂缝长约7.5公里，深50米~70米，谷底宽约10米，最狭窄的地方仅两三米宽，史称“车不分轨，马不并鞍”。函谷关城就位于裂缝东边的入口处，函谷关号称“丸泥可塞”，意思是用颗泥巴蛋子就能将函谷通道封了，虽然是有点儿夸张的说法，足见其险要。更绝的是关口东边还有一条大河---宏农涧河（也称涧河）向北流入黄河，现在的涧河水量远比古代要小得多。要想去关中，得先过函谷关，要过函谷关，得先过了这条河再说。这样的形胜之地，除了“一夫当关万夫莫开”，实在想不出别的更好的词了。
秦国正是有了函谷关这样的险关，才能在关东六国的联合攻击下立于不败之地，并在时机成熟时东出而横扫天下。公元前318年，楚怀王携六国之精兵强将攻秦，被秦军堵在函谷关外不得入，史称“伏尸百万，流血漂橹”。公元前211年，楚、赵、魏、韩、卫五国合纵攻秦，在函谷关大败而归。公元前298年至公元前296年，齐、韩、魏三国连横攻秦，在齐将匡章率领下函谷关外苦战3年，才最终攻破函谷关。一关在手，可挡十万雄兵，这么狭窄的空间里，再多的兵都难以展开。难怪西汉贾谊在《过秦论》中说：“于是六国之士……尝以十倍之地，百万之众，叩关而攻秦。秦人开关延敌，九国之师，逡巡而不敢进”。
