一丘之貉一词最早出自《汉书·杨恽传》。
杨敞是汉朝丞相杨恽的儿子，他自幼家教良好，是当朝名人。汉宣帝时，霍氏谋反，杨恽因检举有功，被封为平通侯。后来，杨恽担任中山郎后，革除贿赂弊病，得到满朝官员的称赞。但是，杨恽日渐骄傲自满，得罪了太仆长荣。有一次，杨恽听见降汉的匈奴人说匈奴的领袖单于被人杀了，便感叹到：“不好的君主，从来不听从大臣拟好的国策。就像秦朝的君王一样，信小人杀忠良，导致亡国。从古到今的君王都是信任小人，真像同一山丘出产的貉一样”。长荣听到这番话后，将此事告诉了汉宣帝。汉宣帝听后十分震怒，下令罢免了杨恽的官职。
后来，人们将这两句话引申成了成语一丘之貉，用来比喻那些臭气相投，不务正业的人。