明朝洪武十二年（公元1379年）十二月，御史中丞涂杰告發(fā)胡惟庸謀反，下毒害死劉基，并說汪廣洋應(yīng)知道此事。

朱元璋問汪廣洋，汪廣洋說沒有此事，“御史中丞涂節(jié)言前誠意伯劉基遇毒死，廣洋宜知狀，上問廣洋，廣洋對(duì)以無是事”（《明太祖實(shí)錄》）。

朱元璋大怒，下令將汪廣洋貶去海南，到達(dá)太平時(shí)，朱元璋又追究汪廣洋以往的罪責(zé)，下令賜死，此時(shí)是十二月底。

次年正月初六，朱元璋下令處死胡惟庸，次日朱元璋向文武百官宣布胡惟庸的罪狀，同時(shí)宣布打算撤銷中書?。徽率?，朱元璋正式下令撤銷中書省。

胡惟庸從明朝洪武六年（公元1373年）正月開始主持中書省政務(wù)，到案發(fā)被處死，執(zhí)掌中書省長達(dá)七年，是明朝主持中書省政務(wù)時(shí)間最長的丞相。

朱元璋曾任用高見賢、夏煜、凌說、楊憲等人為檢校，監(jiān)督官員的行為。有一次，宋濂在家與客人飲酒，朱元璋秘密派人去監(jiān)視，第二天，朱元璋宋濂昨天是否飲酒？客人是誰？吃了哪些食物？宋濂一一作答，朱元璋笑著說：確實(shí)如此，你沒有欺瞞朕，（《明史·列傳·宋濂》）。

而胡惟庸大權(quán)在握，朱元璋會(huì)對(duì)他沒有監(jiān)督嗎？他會(huì)對(duì)胡惟庸的違法行為毫無察覺嗎？為什么會(huì)讓胡惟庸執(zhí)掌中書省這么長時(shí)間？

朱元璋是參照元朝的制度設(shè)立中書省的，而元朝的丞相權(quán)力極大，大到危及皇權(quán)，這一點(diǎn)從元順帝的經(jīng)歷便可看出。在被確立為皇位繼承人后，元順帝被接回大都，丞相燕帖木兒擔(dān)心自己的權(quán)勢地位受損而沒讓他即位，直到燕帖木兒去世，元順帝才正式即位。元順帝即位初期，丞相伯顏大權(quán)在握，元順帝當(dāng)時(shí)形同傀儡。

朱元璋不可能不吸取元朝的教訓(xùn)。

朱元璋一向行事謹(jǐn)慎，斷然不會(huì)一時(shí)沖動(dòng)做出重大決策，在胡惟庸案發(fā)后不久便宣布廢除中書省，說明可能此前籌謀已久。

關(guān)于中書省丞相的合適人選，其實(shí)已經(jīng)困擾朱元璋很久，他曾先后兩次征求劉伯溫的意見，可是劉伯溫也沒能提出一個(gè)妥善的解決方案。

朱元璋登基稱帝前，曾對(duì)李善長不滿，想換相，征求劉基的意見，劉基認(rèn)為不可輕易換相，“是如易柱，必須得大木然后可”（《誠意伯文集》）。

明朝洪武三年（公元1370年）上半年，李善長生病，朱元璋又想換相，想讓楊憲當(dāng)丞相，詢問劉基的看法，劉基認(rèn)為不可，朱元璋又接著問汪廣洋、胡惟庸怎么樣，劉基認(rèn)為都不合適。

可是劉基沒有提出一個(gè)合適的丞相人選。

李善長粗通文墨，不如劉基等人知識(shí)淵博、富有謀略，而且愛嫉妒、待人苛刻，李飲冰、楊希圣對(duì)他稍有冒犯，便上奏罷黜二人，楊憲、凌說、高見賢、夏煜等得人先后被殺，李善長的地位到達(dá)頂點(diǎn)，開始變得驕縱，朱元璋對(duì)他心生不滿，想換掉他。

明朝洪武四年（公元1371年）正月，李善長病愈，朱元璋令其致仕，任命汪廣洋為中書省右丞相。

明朝洪武六年（公元1373年）正月，汪廣洋因無所建樹，被貶為廣東參政，“廣洋無所建白，久之，左遷廣東行省參政”（《明史·列傳·汪廣洋》）。

從此，胡惟庸開始以左丞的身份執(zhí)掌中書省，同年七月，朱元璋任命胡惟庸為中書省右丞相。

次年四月十六，劉基去世，此前朱元璋曾派胡惟庸帶醫(yī)生去探視劉基，劉基吃了醫(yī)生的藥后病情惡化，直至去世。

劉基之死對(duì)朱元璋的觸動(dòng)非常大，當(dāng)時(shí)朱元璋正在鳳陽中都，在鳳陽發(fā)生了中都營建工匠“厭鎮(zhèn)”事件，四月二十九回到京師后，便下令停建中都，“罷中都役作”（《明太祖實(shí)錄》），淮西勛貴的勢力達(dá)到頂峰，如果在鳳陽建都，淮西勛貴的勢力會(huì)不會(huì)進(jìn)一步膨脹，甚至危及皇權(quán)，朱元璋深感憂慮。

關(guān)于中書省丞相的人選問題，朱元璋陷入兩難之中：淮西大臣做丞相，會(huì)助長淮西勛貴的勢力，威脅皇權(quán)，而非淮西大臣做丞相，又很難站穩(wěn)腳跟。

因此，朱元璋下令撤銷中書省可能是為了解決上述難題。