1927年南昌起义失败后刘伯承与左权去了苏联伏龙芝军事学院学习军事,1931年离苏回到上海, 但由于刘当时在军界的知名度和声望,好多人都认识他,留在上海中央工作风险太大,于是1932年月1月刘伯承在人护送下来到了中央革命根据地的首府瑞金,刘伯承最初任红军学校校长，毛当时任苏维埃政府主席兼红一方面军总政委。
两人矛盾的第一次激化是在1932年的历史上有名的宁都会议上，在该会上是批评毛泽东“纯粹防御路线”的右倾方针，在对于毛泽东是否仍留在前方的问题上，会上发生了激烈的争论，周恩来，朱德，王稼祥坚持毛留下，但以博古为主的临时中央绝大多数人不同意，要毛回后方，刘伯承由于来苏区还不到一年，就支持了多数人的意见，这一票造成了他后来一生的沉重负担。
其实对这一错误选择应该不能全怪刘伯承，毕竟他回国还不久，又是刚到苏区，对那时中国革命战争的特点还缺乏全面正确的认识，对毛泽东的游击战不是太瞧得上眼，刘伯承后来还在瑞金报纸上写文章批评红四军中有“游击主义”，这无疑更加严重剌伤了毛泽东的心，毛泽东一生雄才伟略，但也是一个恩怨极其分明的人，甚至对几十年前的一些小事也难以释怀，谁谁谁曾经反对过他，谁谁又支持过他，陈毅当年在井冈山就曾经夺过毛泽东的红四军前敌委员会书记位置，以至在文革中也是天天惶恐中。宁都会议的这次打击对毛来说是一生中最痛苦一次，以至于解放后毛去过无数的地方，江西的井冈山他去过多次，但同在江西的不远的瑞金这块曾经红色的圣地他是一次也没去过，有好几次路过时还要刻意绕道，对于瑞金人民也真是有点不公平，可见此次会议对毛的伤害有多深了，乃至连瑞金这个地方都令他厌恶了，更不说当时投了反对票的刘伯承了。
当时中共党内把刘伯承看作是无产阶级的孙武，刘到苏区后发现红军干部文化很低，不识字的竟达百分之六七十，刘就开始分班给他们讲一些简单的步兵教程，炮兵教程，坑道教程和射击原理，并首次用沙盘作业和实地演习来加深对所学内容的理解，毛对这一套很反感，历史上与毛唱反调的党内大多是留苏派，毛一生对留苏生特别是博古，王明等二十八个半的布尔什维克是极为痛恨和反感的，刘伯承不是政治家，留学苏联也仅学的是军事，但在毛的眼里都是一丘之貉，都是教条主义的。
宁都会议后刘伯承被中央任命为红军总参谋长，协助周朱指挥了第四次反围剿，反五次围剿时因怒骂了李德而被降为红五军团参谋长，遵义会议上又恢复了总参谋长的职务，遵义会议后刘一直作为一位专职的军事指挥员出现在各个时期，就是党的七大上，作为二野的司令员刘伯承都无缘出席，邓小平作了代表，刘在这一期间由于毛的掌权实际上政治上已经不得志了，要不是在军事上还要仰仗他独挡一方，早让刘伯承下来休息了。在战争年代，外有强敌，刘在军中又有极高的声望，毛虽对刘有看法，但也不得不先用其。我查过毛对其它九名元帅都有过题诗或是赞言，但对刘伯承却是一个标点符号也找不到，耐人寻味。
1942年，刘伯承诞辰50周年，正是敌后抗日战争进行到最残酷最艰难的阶段，中共中央出于鼓舞敌后军民士气出发，决定在太行山给刘祝寿，朱德，陈毅，叶剑英，吴玉章，林伯渠……纷纷提笔作诗赞扬,唯有毛泽东却没了以往写诗的灵感，最终连个字都没留下。
张国焘所著的《我的回忆》第六篇--会师与内争中有一节是这样描写刘伯承与毛泽东的，读来挺有意思，“中央军委总司令部统一指挥全军的行动计划.....可是毛泽东破坏了这个统一指挥，他的独断一切，径行核阅所有军事文件....人事调动....然后径行批定办法,然后才交给我们执行,让朱总司令都成了虚设或成了幕僚人员.....
毛泽东这种作风最为参谋长刘伯承所反对。刘伯承认为近代战争是有组织的战争，不能凭一个人的才智去处决。他素来主张，作战计划应先由参谋长根据情报局长所提出认为正确的情报，交作战局拟具方案，再由参谋长拟定初步计划，送总司令批准，提交军委会讨论，然后由总司令部下达实施。我支持刘伯承这一见解，认为我们如能这样做，不仅可使军事指挥具有更高的效率，而且可以免除许多党内纠纷....”
一九六六年张国焘的回忆录出版后，毛也搞了一本，读完后对周恩来说道“满纸荒唐言，一把辛酸泪，在张的眼里我们这一群人中，只有刘伯承是好人。”
毛泽东的内心感受可想而知。
以前就曾经听说过四渡赤水其实是总参谋长刘伯承指挥的，毛盗用了罢了，虽是传闻，不足为信。但说者无意，听者有心，这些要是传到毛泽东的耳朵里未必是好事。
在中共五大野战军中，彭德怀是西北野战军司令员兼政委，陈毅是华东野战军司令员兼政委，聂荣臻是华北野战军司令员兼政委，林彪更是东北野战军司令员兼第一书记，罗荣桓为第二书记，唯有中原野战军政委邓小平是一把手，为第一书记，有最后决定权，张际春是第二书记，司令员刘伯承连个第三都没捞上。
后来在重庆组建了西南局，邓也是第一书记，贺龙为第二书记，刘在党内没有任何职务。
1949年淮海战役快结束时，毛泽东召陈毅与刘伯承到中央商议渡江作战，同为野战军司令员，陈毅每天都能读到中共秘书处送来的高级文件，而刘却什么也没有，还是陈毅看不过去了,向毛泽东恳请才得以解决。
刘伯承是聪明之人，熟知中国历史，深知飞鸟尽良弓藏的道理，西南一解放后就迫不及待交出兵权，辞去身兼各职，去南京筹办军校，毛泽东欣然默许。
可叹的是刘伯承以为这样就能脱离政治上的旋涡，远离是非，在课堂上常常给学员讲苏军的条令和战术，只讲二战中苏军的十大打击，不讲毛的游击战，这一切无疑又让毛泽东勾起了二十年前在瑞金痛苦的回忆，一些别有用心的人甚至在毛泽东耳边吹风 “蒋介石也是靠办军校起家的哦，不可不防……”
正好当时的国防部长彭德怀与刘伯承素有不合，毛泽东就借彭德怀之手将刘整治，好在邓小平和周恩来为刘力保，刘才勉强保留了中央委员的资格，但已无任何职权。
