这个成语故事出自《汉书·杨恽传》。丘:小土山;貉(音 hé合):一种形似狐狸的野兽。
西汉宣帝刘询在位的时候，有一个华阴人叫杨恽(音 yùn 运)。他是《史记》的作者司马迁的外孙。杨恽从小就受过良好的家庭教育，后来他在朝里做了官，为人正直、廉洁无私，敢于对那些贪污行贿的弊病进行斗争，因此受到许多人的称赞。
有一次，杨恽看到一幅古画，就指着画中桀、纣的画像说:“要是皇帝经过这里，能问一下夏朝最后一个暴君桀、商朝最后一个暴君纣的过错，那也可以从中吸取一点教训了。”
又有一次，杨恽听说匈奴的君主单于被人*死了，便议论说:“得不肖君，大臣为画善计不用，自令身无处所。若秦时但任小臣，诛*忠良，竟以灭亡;令亲任大臣，即至今耳。古与今如一丘之貉。”意思是说:遇到不好的君王，大臣给他拟订了治国的良策他不用，结果自己丧了命。像秦二世的时候，只任用小人，*害忠良，终于亡了国。假如秦二世，能够亲近贤良的臣子，他的国家或许还能保持到现在。总而言之，古代的帝王和今日的帝王如同“一丘之貉”。
后来这些事情，被一个叫戴长乐的人，为报私仇而向汉宣帝揭发了，说杨恽借古讽今，诽谤皇上。杨恽因此被贬为庶人，后来又被处以腰斩的死刑
