高祖庙位于芒砀山主峰东南山麓，紫气岩前，距刘邦斩蛇处约300米，现存遗址，遗址内有银杏树两株，古井一口。
公元前211年，刘邦为泗水亭亭长时，押解一批刑徒和民夫前往骊山修筑秦始皇陵，于芒砀山斩蛇起义，开创了四百余年的大汉基业，深受后世敬仰。芒砀山在汉王朝发家史上，是具有里程碑意义的圣地。如果说丰沛养育了高祖，那么高祖则是从芒砀山，仗剑举义，走向全国，影响世界。汉文帝刘恒对其父的发迹之地芒砀山一直充满神往、萦绕于心不能忘怀。为纪念其父高祖在芒砀山斩蛇起义、丰功伟绩、于是在其父当年隐匿之地“紫气岩”前，建高祖庙一座，绘像以祭先帝，永祭神灵，并亲手植银杏树两株，在庙内凿井一口，后人名曰“御龙井”。
汉朝一代，高祖庙内香火鼎盛，香客不断。然而，随着历史的变迁，高祖庙历经风雨，到了唐天宝元年代宗李煜，游芒砀山及高祖庙时，将高祖庙更名为“王宫寺”，赐额“静林”。到了宋祥符七年，宋真宗赵恒游芒砀山及“王宫寺”，百姓同乐，又废“王宫寺”，赐名“均庆寺”。嘉祐六年主持僧继诚开始请十方主持，并对均庆寺大兴土木进行复修扩建，整个寺院气势恢宏、蔚为壮观。以后历代屡遭兵焚，到明代已仅存遗址。明代佥事（官名）曹连在《题汉高祖庙》一诗写道：“砀山寂寂昔人非，遗庙苍茫失故基。海宇徒思刘社稷，衣冠犹忆汉威仪。黄昏云落疑蛇断，白昼风高恨鸟悲。自古兴衰关气运，经行何日扶残碑？”道出当时高祖庙的凄凉。清朝乾隆丁亥年间永城知县周梦龙在“均庆寺”旧址建立“芒山书院”文风极盛一时。咸丰年间，捻军起义，书院被毁，光绪十六年永城邑绅吕永辉又捐资重修，后未几又毁。
现在高祖庙遗址内还能看到当年文帝手植银杏树两株，银杏树也叫白果树，又叫“公孙树”。据说，当年汉文帝栽下两株银杏树，数年后，枝繁叶茂，硕果累累。千百年来，高祖庙内香火旺盛，香客满堂。而银杏树却被冷落一旁，无人问津。清归德知府赵瑗曾为此事而鸣不平：“松柏生嵩泰，将军与大夫，十围量上树，早得受封无？”然而历史的车轮滚滚向前，历经2000多年的今天，古银杏树的生命力依然很旺盛。树干粗近六米，树高二十余米。
传说，东汉末年，天下大乱，群雄并起，你征我战，曹操挟天子以令诸侯。西汉中山靖王刘胜的后裔刘备，打着恢复汉室的旗号和关羽、张飞桃园三结义，结拜为兄弟。曹操、刘备彭城之战，刘备失利，只身脱走，投奔袁绍。关羽被曹操所俘，身在曹营心在汉。只有张飞*出一条血路，带领部分兵将至芒砀山。遂骑马上山朝拜高祖，乞求高祖刘邦在天之灵保佑他的后代刘备大难不死。走进山门，见庙院内有一棵不到碗口粗的银杏树。于是他把那马拴在树上，迈开大步走进大殿，谁知那马长途奔跑又渴又饿，看到青枝绿叶的小银杏树，一口把树头咬掉津津有味地咀嚼起来。张飞面对刘邦塑像祷告一番后走出大殿，来到院内见自己的战马把银杏树头吃下去大半。张飞非常着急，就往马身上打了三鞭，人们称这三鞭叫“三鞭伐魏”(罚喂)。那马疼得大叫前蹄蹬蹬乱扒刨起一堆土来。这下张飞急中生智想到了救护小银杏树的办法。于是他到不远处的井内打了一桶水倒入土中和成稀泥，用手抓了几把泥巴把树头糊了个严严实实。
谁知这几把泥巴不仅保住了银杏树，而且不几日这树头上发出了三枝新芽。它们越长越旺形成了三根枝杈，一个朝北，一个朝东南，另一个朝西南，人们说张飞的战马一口咬出了魏、蜀、吴三国。现在芒砀山主峰西边的一个山头就叫“张飞寨”，山上有寨墙遗址，《永城县志》载：此处为“蜀汉刘备由徐州辞别袁绍与张飞相聚处”。
再说说高祖庙内的这口井，也有一个典故，这口井，长年不涸，名曰“御龙井”。古井泉水甘甜爽口，品上几口，亦能延年益寿，有“万古甘流第一泉”之美誉。相传东汉年间，庙内住有和尚，一天，小和尚井边打水，不小心水桶掉进井里，众人打捞了几天也没找到。过了一段时间，一位游僧提一只水桶来到高祖庙，说是他云游到东海在东海里捡到的，一看上面有“芒砀山高祖庙”几个字便送来了。打水的和尚一看，正是他掉到井里的那只水桶，只不过是在原来写有“芒砀山高祖庙”几个字的前面又增加了“御龙”二字。和尚们说：“这一定是东海龙王为这口井赐的名字！”从此，这口井就叫“御龙井”了。都说：“御龙井连着东海！”
