洪武十三年，丞相胡惟庸向朱元璋報告説他家的井裏噴出了美酒，請朱元璋前來欣賞這一奇景。
在朱元璋的車駕走到半路時，突然有個叫雲奇的太監衝了出來，死命地攔住朱元璋，不讓他繼續走，在被錦衣衞打個半死後，那雲奇還是不肯離開，只是一直指着胡惟庸的府邸，然後看着朱元璋。
朱元璋覺得事態嚴重，所以登上了城牆，發現胡惟庸家裏隱隱有刀兵之聲，派人前去查看後，回報説胡家暗藏軍隊，圖謀不軌。朱元璋於是下令錦衣衞立刻捉拿胡惟庸，當天就立刻處死了，滅九族。
此事出於《通紀》，不過按照這樣的説法，那朱元璋在捉捕胡惟庸後，為什麼立馬就把他殺了，而不是慢慢審，看背後還有什麼人嗎？再者，朱元璋給胡惟庸定的罪名中並沒有謀反的説法，而是“竊持國柄，枉法誣賢，操不軌之心，肆奸欺之蔽，嘉言結於眾舌，朋比逞於羣邪，蠹害政治，謀危社稷”。放着人人皆知的“謀反”不説，卻扯了一大堆有的沒的，這又是什麼情況？所以此事大抵也野史一類，看看就行了。
既然如此，胡惟庸為何被殺？
曾任朱元璋帳前黃旗先鋒的俞本，他寫過一本叫《紀事錄》的書，詳細地説明了胡惟庸被殺時的場景：“是年，左丞相胡惟庸、右大夫陳寧，擅權壞法，俱伏誅於玄津橋，掘坑丈餘，埋其屍，次日復出之，支解於市，縱犬食之。錄其家資，以妻子分配軍士，子弟悉斬之”。
殺了還不解氣，還要把屍體挖出來餵狗，朱元璋為什麼對重臣胡惟庸這麼狠呢？這其實是自古以來皇權和相權之間的矛盾而導致的。
洪武二年，朱元璋曾和劉伯温開過一個會議，要選出丞相的人選，最後決定由徐達、李善長、胡惟庸、楊憲等四人分任左右丞相和左右丞。幾年之間，徐達解職，專門負責軍事、李善長退休、楊憲被殺、接任的汪廣洋唯唯諾諾，胡惟庸已經是名義上的丞相，實際上的一人之下了。
而且胡惟庸此人也有點像朱元璋，聰明有能力之餘，又刻薄陰鶩，傳説劉伯温就是被他害死的，就因為他説過胡惟庸一句“壞話”。史稱胡惟庸此人“生殺黜陟，或不奏徑行。內外諸司上封事，必先取閲”。一個獨斷專行的丞相，遇到同樣獨斷專行的皇帝，這兩方的衝突，只能以其中一方萬劫不復而告終。
更可怕的是，胡惟庸結黨營私，和退休的李善長、領兵的吉安侯陸仲亭、平涼侯費聚等都有往來。對朱元璋來説，即使文官勢力再龐大也不需要擔心，殺了就行了，反正讀書人天下有的是，可要是這文官中再滲進幾個領兵的將領，那就可怕多了。
信奉槍桿子裏出政權的朱元璋，對武將的顧忌比任何人都要嚴重，只是因為當時大明王朝還不是很穩固，所以他沒有去處理那些日益驕奢的武將。事實上，在懿文太子朱標死前，朱元璋對武將是很好的，因為他確信朱標可以制住他們，而朱標也確實有這個能力，可在朱標死後，朱元璋發瘋似地剷除武將，也是因為帝國未來的接班人朱允炆年僅十六歲，他沒有能力和威望去壓制住那班功臣宿將，只好把他們全部殺了。
胡惟庸被殺的時候，朱標也還活着，朱元璋決定放武將一馬，只處理胡惟庸，反正把領頭的殺了，底下那些人也就成不了氣候。所以朱元璋要殺胡惟庸，不是因為他在府中埋伏甲兵啥的，而是因為胡惟庸太過專權了，還把手觸及到了軍權方面，這是朱元璋的底線，誰碰誰死。
