当初，朱元璋见李善长自恃功高，竟毫无不顾及地违反国法，还大肆敛财，就暗示他回家养老，李善长只得称病归隐。李善长走后，朱元璋本不打算再立丞相，但为了安抚功臣集团，他无法立马这么做，而是需要徐徐图之。
有一天，朱元璋将刘伯温找来，问他李善长之后，谁可以当丞相，杨宪行不行?李善长说，杨宪有做丞相的才能，但没有做丞相的气度，不行。朱元璋又问，汪广阳如何?刘伯温说，他的气度比杨宪还小，绝对不可以!朱元璋追问道，那胡惟庸总可以吧?刘伯温说，丞相好比驾车的马，我担心他会将马车弄翻，言外之意是胡惟庸绝对善类。
听完刘伯温的话，朱元璋深以为然，但他依然先后任用杨宪、汪广洋和胡惟庸为相，其中杨宪和汪广洋先后被杀，最后只剩下个胡惟庸独揽大权。很多人可能会疑惑，刘伯温都说这三人不可为相了，朱元璋为何还要重用他们?
道理其实很简单，朱元璋想要彻底废黜丞相，就先得让担任过这一职务的人都搞臭，让人们意识到丞相这个职务已经不合时宜了，这样才可以顺势将其彻底废黜。
至于胡惟庸，朱元璋其实早就觉察到他的种种劣迹了，但依然大胆对其放权，这其实是一种捧杀的策略。历史上真实的胡惟庸，是李善长一手提拔起来的，他为人谨小慎微，但度量比杨宪和汪广洋还要小，当初刘伯温对朱元璋说他不可为相，他因此怀恨在心，一直在寻找机会保护刘伯温。
洪武四年，刘伯温决定急流勇退，返回青田老家养老，朱元璋念其功劳，便允许他保留俸禄，每年定期入朝觐见即可。洪武八年元旦，刘伯温参加大朝会，写了一首诗来赞扬朱元璋的丰功伟绩，朱元璋因此感到十分高兴。不久之后，刘伯温听说有一伙贼寇发起叛乱，但当地官府充耳不闻，他感到很生气，便写了个奏折，准备向朱元璋报告此事。
当时胡惟庸担任中书右丞相，代理左丞相事，按照正常程序而言，刘伯温的奏折应该先送到中书省，由胡惟庸批阅之后再呈送朱元璋。但是，刘伯温不喜欢胡惟庸，所以他让长子刘琏将奏折送入宫，直接送给了朱元璋，朱元璋很快就处理了这件事，这让作为掌管天下诸事的胡惟庸感到十分尴尬。
作为报复，胡惟庸勾结党羽陷害刘伯温，说刘伯温看中了一块有王者之气的土地，准备将这块地抢过来作为墓地，但老百姓不肯。
朱元璋也不傻，知道这是胡惟庸在构陷刘伯温，但他对刘伯温也心存不满，所以趁机剥夺了刘伯温的俸禄，刘伯温感到非常恐惧，便留在京城不敢回老家。
没过多久，胡惟庸就升任左丞相了，成为百官之首，刘伯温得知此事后，不无感慨地对儿子们说，如果我的预言不应验的话(是指他对朱元璋说胡惟庸不可为相这件事)，那就是苍生之福了!
会茗洋逃军反，吏匿不以闻。基令长子琏奏其事，不先白中书省。胡惟庸方以左丞掌省事，挟前憾，使吏讦基，谓谈洋地有王气，基图为墓，民弗与，则请立巡检逐民。帝虽不罪基，然颇为所动，遂夺基禄。基惧入谢，乃留京，不敢归。未几，惟庸相，基大慼曰：“使吾言不验，苍生福也。”忧愤疾作。
到了正月下旬，刘伯温由于本来就有病，再加上他内心忧惧，最后竟然一病不起了。
朱元璋得知此事后，就派遣胡惟庸带着御医去给刘伯温看病。
不得不说，朱元璋的这个做法暗藏深机，因为他明知道刘伯温和胡惟庸关系不好，却还要让胡惟庸去看望刘伯温，这不出事才怪。
果不其然，胡惟庸让御医给刘伯温开了药方，刘伯温让家人按方抓药，但喝完药后腹痛得厉害，肚子里就像是有很多石块在相互挤压一样。
到了二月，刘伯温的疼痛感依然没有减轻，他这才意识到肯定是胡惟庸做了手脚，便抱病入宫觐见朱元璋，很委婉地表示胡惟庸在药中做了手脚，还详细描述了他喝完药后种种不适的情形。
但让刘伯温心寒的是，朱元璋显得毫不在乎，只是轻描淡写说了几句要他在家安心休养之类的话，他自知多说无益，便离开皇宫返回家中。
到了三月下旬，刘伯温的病情越发沉重，已经完全无法下地了，他自知时日无多，便上书请求返回老家休养，朱元璋表示同意，还派人护送他回家。回家之后，刘伯温心有余悸，他担心胡惟庸买通身边人继续残害他，于是拒绝了所有人送给他的药，只是吃儿子们给他准备的食物，但饭量非常小。
在家住了没几天，刘伯温就感觉不妙了，便将两个儿子叫到身边交代后事，他让大儿子刘琏从书房拿出一本书，并对他说，我死之后，你一定要第一时间将这本书送到京城交给皇上，千万不要耽误;从此以后，不要再让子孙们学习这门学问了!
说完这话，刘伯温顿了一下，又对刘琏说，我让你把这本书交给皇上，是为了打消他对你兄弟二人的猜忌，但皇上太多疑了，这么做未必会起作用，还是将其烧毁吧，也可保刘氏满门安宁。那么，刘伯温让儿子烧毁的，究竟是一本啥书呢?
这本书的名字叫做《百战奇谋》，是刘伯温一生智慧的结晶，包含了军事，政治和天文地理等各方面的经验总结，朱元璋一直想得到这本书，但刘伯温硬是没拿出来，这也是朱元璋猜忌他的重要原因之一。
刘伯温之所以不让子孙学习这门学问，是因为他知道两个儿子智慧不足，无法学习到其中精髓;更为重要的是，即使两个儿子有足够的智慧，也学习到了书中精髓，但并没有施展的空间，反而会因此遭受朱元璋的猜忌，给家族带来灭顶之灾，倒不如不学，做一个安稳度日的平凡人，也未尝不是件好事。
刘伯温要刘琏烧掉这本书，当时他满口答应，但并未马上实施，至于他究竟是怎么处理这本书的，我后面会说到。
在对刘琏交代完后事之后，刘伯温又对另一个儿子刘璟说，我给皇上的遗言都在这封信中，向皇上贡献我最后的心意与所学，但胡惟庸把持中书省，现在还没办法送给皇上，等胡惟庸败亡之后，皇上如果想起我，向你们询问起我的临终遗言，你们再密奏给他吧。
说完这些话，刘伯温就昏迷不醒了，不久后去世，享年六十五岁。刘伯温去世的消息传到南京后，朱元璋感到很伤心，派胡惟庸前去吊唁，其目的之一就是寻找《百战奇谋》这本书。胡惟庸来到青田后，刘琏、刘璟兄弟却说书已经被烧毁了，胡惟庸不肯罢休，兄弟二人担心遭到迫害，只得将刘伯温另一著作《郁离子》和写有遗言的信件交给胡惟庸，胡惟庸这才回去复命。
朱元璋看到刘伯温的遗物后，觉得只记载了寓言故事的《郁离子》毫无用处，便随手丢在一边了，只打开了信件查看，刘伯温在信中有一段话大致是这么说的：
《百战奇谋》是打天下用的，现在用不着了，为了防止其落入奸人之手，所以臣将其烧毁了;至于那本《郁离子》，则是臣的手稿，留给你作纪念。
由于没有得到《百战奇谋》，朱元璋常常为此感到不安，但他不知道的是，在那本《郁离子》中，有一些页面是有夹层的，每一页书里都夹着一页纸，合起来就是完整的《百战奇谋》!
为何会这样呢?
根据学者推测，刘琏或许并不认同刘伯温的观点，而是认为将《百战奇谋》交给朱元璋才是上上策，为了掩人耳目，他便将此书暗藏在《郁离子》之中，后来胡惟庸前来索取此书，他心生一计，将《郁离子》交给他，希望借此机会将此书送入皇宫，也算是为自己留个后手吧。
可没成想，朱元璋跟胡惟庸一样，都没有仔细查看《郁离子》，这本书就因此被放到皇宫的库房之中了，一直到李自成入北京之后，偶然间得到这本书，他仔细查看之后发现了一些端倪，最终得到了《百战奇谋》这本书，只不过他也没能学得精髓罢了。
据说，朱元璋没有得到《百战奇谋》，几个月都睡不好觉，有一天他心生一计，以给刘伯温修建府邸和坟墓为由，让胡惟庸对刘家进行大搜查，但结果依然是一无所获，由此他开始逐渐相信《百战奇谋》确实被烧毁了。再说说刘琏、刘璟兄弟的结局。
刘伯温去世后，朱元璋并未下旨让他们继承诚意伯爵位，这或许跟他对刘伯温的忌惮和怨恨有很大关系。
不过，对于刘伯温的长子刘琏，朱元璋还是十分欣赏的，曾任命其为考功监丞，试监察御史，后来又任命他为江西参政，他在任上干得非常不错，曾对胡惟庸说，准备调其回京予以重用。
但是，就在朱元璋下旨之前，胡惟庸因为担心刘琏得势之后为父复仇，便让党羽去胁迫刘琏，被迫无奈之下，刘琏只得投井而死，时年三十二岁，留有几个儿子，其中长子名叫刘廌。
出为江西布政司右参政，为胡惟庸党所胁，堕井死。
刘琏去世后，朱元璋又重用刘璟，让其跟随唐胜宗平乱，他表现非常好，朱元璋曾高兴地表扬他说，真伯温之子也。
洪武二十三年，朱元璋开始收网，一举将有谋反迹象的胡惟庸及其党羽拿下，并就此废黜丞相职务。
胡惟庸死后，朱元璋可怜刘伯温、刘琏父子二人被胡惟庸杀死，便下令刘璟继承诚意伯爵位，但刘璟主动上书将爵位让给侄子刘廌，朱元璋同意，但依然封他为閤门使，并赏赐他“除奸敌佞”铁卷，持此铁卷可以纠正百官。
靖难之役中，建文帝觉得刘璟颇懂军事，便让其跟随大将军李景隆出征，但李景隆就是纸上谈兵之人，根本没有实战经验，而且为人刚愎自用，竟然不听从刘璟的建议，结果招致大败。
李景隆失败后，刘璟又入京进谏天子，上奏《闻见录》，洋洋洒洒数万言陈述了他关于军事方面的建议，但建文帝并未采纳，他由此认为建文帝必败无疑，于是归隐田园，不再过问朝政。
朱棣继位之后，听说刘璟很有才能，便派人召他入京任职，但他以忠臣不事二主为由拒绝，朱棣因此恼羞成怒，派人将他抓到京城，他见到朱棣的时候不呼万岁，而是以殿下相称(王爷称殿下)，并对朱棣说，百年之后，你恐怕难逃篡位骂名。
朱棣见刘璟并不折服，便将其投入大牢，刘璟不堪受辱，便自缢而死，死时五十二岁。
令参李景隆军事。景隆败，璟夜渡卢沟河，冰裂马陷，冒雪行三十里。子貊自大同赴难，遇之良乡，与俱归。上《闻见录》，不省，遂归里。成祖即位，召璟，称疾不至。逮入京，犹称殿下。且云：“殿下百世后，逃不得一‘篡’字。”下狱，自经死。就这样，刘伯温的儿子都死绝了，但他的后代并未就此退出历史舞台。关于刘伯温的孙辈，历史上仅仅记载了刘廌一人，但可以肯定他还有其他孙子，只不过没有留下名字和事迹而已。
刘廌继承诚意伯爵位后，又被封为特进光禄大夫，正一品，但他深知官场险恶，因此无心仕途，便辞官回归故里，居住在盘古(现温州市文成县南田镇新宅长寿村)，致力于整理祖父刘伯温的文集。
朱元璋本来是好意，刘廌却学习刘伯温清高，因此很不开心，便找了个罪名将其贬黜到甘肃戍边，还罢黜了他的爵位，直到朱元璋去世后才获得建文帝赦免。
建文帝和朱棣时期，都曾派人召刘廌入朝为官，但他都以奉亲守墓为由拒绝，只是在老家潜心修学，纵情山水，日子过得倒也有滋有味，五十二岁的时候去世。自刘廌之后，诚意伯的世袭就断了，直到嘉靖时期，嘉靖帝念及刘伯温的功劳，便找到刘廌的六世孙刘瑜，让他承袭了诚意伯爵位，并颁给世袭铁卷，他就是第三代诚意伯。
刘瑜去世后，孙子刘世延承袭爵位，掌右军都督府事，参与镇抚南京振武营兵变，这是在嘉靖末期，由于他办事不力，被削去了爵位，但隆庆帝继位后，又恢复了他的爵位。万历三十四年，不知道刘世延犯了什么罪，竟然被万历帝给处死了，他的孙子刘荩臣继承了爵位，但刘荩臣只在位十几年就去世了，其子刘孔昭承袭爵位，时间是天启三年。
从第一代诚意伯刘伯温到刘孔昭，一共传袭了六代，但自刘孔昭之后，诚意伯的世袭情况就不得而知了，只知道南明时期，刘孔昭被追封为诚意侯，如此看来，他或许就是最后一代诚意伯。总的来说，由于刘伯温才能太高，所以遭到了朱元璋的猜忌，这间接促使他及儿子刘琏遭到了胡惟庸的残害;刘伯温的另一个儿子刘璟结局也不好，但他的忠诚让人感动，没有辱没刘伯温的名声。
刘伯温的子孙总体上过得还不错，都因为他而受益，据说其子孙繁衍昌盛，现如今江浙及陕西等地都有其后裔。