1355年，胡投奔朱元璋，朱元璋當時還是起義軍手下的吳王，成了主簿。朱元璋充分肯定了他廣博的學識和卓越的機敏，於1367任命他為太常邵青。
隨後，朱元璋於1368年建立明朝，國號洪武，胡崛起。洪武三年，他做了中書省的官，後來做了右丞相。1377年，胡正式成為的左丞相，在所有官員中排名第壹。
這離不開朱元璋對他的信任。胡本人戰戰兢兢地對待朱元璋交給他的事務，壹步壹步地認真完成，所以朱元璋對他很滿意。
然而，當胡成為的宰相後，他並不滿足於自己的地位，他的野心隨著他的地位和權力的提升而增長。有時他決定不告訴朱元璋和胡，他也想擅自帶他們到這裏來，調查壹下是否有說自己壞話的人。
禦史劉基在朝廷彈劾他，朱元璋沒有在意，但胡懷恨在心。有壹次他趁機在劉基的食物裏下毒，殺死了劉基。到目前為止，朝廷裏還沒有人敢說胡不是的人。慢慢地，胡也開始窺視朱元璋的寶座。
他壹邊與李善長等朝廷官員勾結，壹邊密謀派明州衛指揮林憲出海聯絡倭寇，按約定時間出發。胡也在朝廷中圖謀自己的心腹，希望有朝壹日能直接除掉朱元璋。
洪武十三年，胡有壹天上朝時，突然對朱元璋說，他從自己家裏面的井裏挖出了醴泉(即酒)，請朱元璋吃飯。朱元璋覺得很新鮮。畢竟，禮泉只是過去古人編造的神話，所以他答應了。下朝後，朱元璋備好車馬，高高興興地去了。
其實，這只是胡編造的壹個故事，為的是吸引朱元璋上鉤。在胡的府中，許多刀斧手已經布置好了，但這壹切都被鎮守西華門的太監看到了。當朱元璋駕車經過西華門時，雲起趕上來，攔住了交通。
但由於跑得太快，他上氣不接下氣，也沒時間說話。他只是拉著馬不放。朱元璋很生氣，認為他很沒禮貌，就讓左右用瓜錘錘他。被活活打死了，但臨死前，他還臨死前指著胡的豪宅。
朱元璋也是壹個非常多疑的人。他立刻覺得不對勁，於是登上西華門的城樓，擡頭看胡府。果然，他在裏面發現了很多刀斧手。朱元璋大驚，急忙回宮。隨後，他又發兵以謀反之名捉拿胡。
同時，朱元璋也沒有忘記那個被死神攔住的小太監。朱元璋追授他為左小監，後又追授他為嘉靖年間太監，作為舍命救車的獎勵。