公元234年，诸葛亮在伐魏前线五丈原病逝，多年来蜀汉对曹魏的攻势开始转为防御，曹魏西线危机解除，这让魏明帝曹叡长出了一口气，开始大兴土木，沉迷享乐。
曹叡除了在洛阳城大肆兴建宫殿，还模仿曹操邺城修筑铜雀台，在洛阳城西北郊建造了一座小城，取名金墉城，作为自己出城游乐时的行宫。金墉城建造在七里涧河畔一处险要之地，城墙高大坚固，也是一座军事要塞。
曹叡生前恐怕做梦也想不到，金墉城在他死后成为一座监狱，并且第一个囚犯就是自己的儿子（养子）曹芳。公元254年，大将军司马师废掉皇帝曹芳，改立曹髦为帝，曹芳被废为齐王，关进金墉城，严密监视，不久又被发配到河内郡。11年后，司马炎逼曹奂“禅位”，建立西晋，曹魏灭亡。退位后的曹奂也被关进了金墉城，就这样，曹叡建立的金墉城成了曹魏帝王的监狱。
西晋的皇族也难逃成为囚犯的命运，司马炎当政时，看到傻儿子司马衷的丑老婆贾南风为人凶恶残暴，担心自己死后儿子被欺负，想废掉这个太子妃再把她关进金墉城，却被大臣劝住。事实证明司马炎的一时心软让西晋乃至于中华民族都付出了惨重的代价。白痴司马衷登基后朝政很快落入皇后贾南风的掌握之中，贾南风为了报复公公司马炎，将他的皇后杨芷废为庶人，关进金墉城，并且断绝食物，让杨芷活活饿死。
贾南风凶横霸道，后来又害死太子司马遹，得罪了太多人，最终恶有恶报。公元300年，赵王司马伦作乱，攻进洛阳，将皇后贾南风废为庶人，关进金墉城，并且很快赐毒酒让这个恶毒的女人恶贯满盈。贾南风死后一年，司马衷这个傻皇帝被司马伦废掉，顶着“太上皇”的尊号，带着自己的新皇后羊献容，成了金墉城的第三位皇帝囚犯。
司马伦篡位称帝后，天下形势愈发混乱，齐王司马冏、河间王司马颙、成都王司马颖纷纷起兵，司马伦招架不住，屡战屡败，司马衷被人扶植复位，司马伦则成了金墉城的第四位皇帝囚犯。复辟后的司马衷依然只是个傀儡，公元307年，这位留下了名句“何不食肉糜”的皇帝被人毒死，他的新皇后羊献容也是命运多舛，一生多次被废黜，又多次被重新立为皇后，金墉城这座皇家监狱也是进出好几次。最后在311年永嘉之乱中，年过三旬的羊献容被匈奴人建立的前赵俘虏，受到前赵皇子刘曜宠爱，最后刘曜登上皇位，羊献容被立为皇后，成为史上唯一一位“两朝皇后”。
西晋灭亡后很长一段时间，受到重大破坏的洛阳城不再作为王朝首都，金墉城成为一座军事要塞被各方反复争夺。直到将近两百年后的公元494年，北魏孝文帝拓跋宏迁都洛阳，在洛阳宫室修建完成前，就驻扎在金墉城中。孝文帝的第一任皇后冯后被废后关进金墉城，而孝文帝死后，他的高皇后也被继任者宣武帝关进金墉城，成为金墉城第五位被关押的皇后。
隋朝末年，瓦岗军首领李密攻下沉寂数百年的金墉城，在城中宣布建立魏国，而此时二十五里的洛阳城内，军阀王世充废自己扶植的隋帝杨侗，建立郑国，两个国家相距仅有二十五里，留下了“二十五里双皇帝”的传说。到了唐朝贞观年间，洛阳县治从金墉城移到重建的洛阳城中，这座见证了历代兴衰的小城完成了历史使命，渐渐没落了。
