这时，“我军政治工作名宿”罗荣桓向彭德怀当面陈词，深深触动了他。1953年夏，罗荣桓在北戴河疗养。彭德怀来看望罗荣桓，罗荣桓向彭德怀提出了自己的看法，说：“现在有些同志认为政治工作制度过时了，政治委员作用不大了，要学习苏联，搞一长制。如果那样做，从井冈山时期就搞起来的政治工作传统不就丢掉了吗？”
彭德怀认真倾听了罗荣桓的肺腑之言，思虑再三。最后，彭德怀终于改变了原来准备实行“一长制”的主张。在同年10月准备全国军事系统党的高级干部会议报告时，在报告中曾列为专题详细阐述的“一长制”，被军队必须实行“党委集体（统一）领导下的首长分工负责制”取代。以后的几年中，他对“一长制”的思想作过不止一次的批判。
另外，从1954年起，根据苏联顾问的建议，中央军委和大军区实行了盛况空前的八总部体制（总参谋部、训练总监部、总政治部、总干部部、总后勤部、总财务部、总监察部、总军械部）。这对军队正规化建设起了积极作用，但也出现了机构庞大，分工过细，工作效率不高等缺点。通过总结经验，从1957年起到1958年又恢复为三总部（总参谋部、总政治部、总后勤部）体制，并一直延续下来。
正因为“倾听”苏联顾问意见“中招”，彭德怀在1954年的全国军事系统党的高级干部会议上，在提出“一、就是要学，向苏联顾问学习”的同时，又提出三条：“二、要亲自去摸，到实践中去下一番苦功夫；三、要发展，把苏联军事科学与自己的经验结合起来，使其条理化，变成自己的东西，提高干部军事理论水平；四、要克服骄傲自满、墨守成规和防止机械搬运。”一句话，学习苏联不能“机械搬运”。可以说，这是他的切身体会。
“教授可能有缺点，学生是不是要提意见? 要提”
对于部分苏联顾问的自高自大和部分中国同志的谦卑甚至是自卑，毛泽东开始是不以为然，最后提出批评。
1956年4月25日，毛泽东批评了一种不正确的思想：“有些人做奴隶做久了，感觉事事不如人，在外国人面前伸不直腰，像《法门寺》里的贾桂一样，人家让他坐，他说站惯了，不想坐。在这方面要鼓点劲，要把民族自信心提高起来，把抗美援朝中提倡的‘藐视美帝国主义’的精神发展起来。”这里的“外国人”，无疑是指苏联人。
1958年5月14日，第二机械工业部党组为转报北京第三工业建筑设计院关于在总路线精神推动下和苏联专家由两股劲拧成一股劲的经验向党中央、毛泽东呈上报告，报告中说：“开始是一种完全被动的教条主义态度，不敢想，不敢问，认为自己不懂，只能照抄照搬。成都会议之后，进一步总结了对苏联专家工作的经验，发现对苏联专家的工作也必须政治挂帅，强调务虚，以虚带实，虚实结合。”5月16日，毛泽东批示：这是一个好文件，值得一读。请小平同志立即印发大会同志们。凡有苏联专家的地方，均应照此办理，不许有任何例外。苏联专家都是好同志，有理总是讲得通的。不讲理，或者讲得不高明，因而双方隔阂不通，责任在我们方面。就共产主义者队伍说来，四海之内皆兄弟，一定要把苏联同志，看作自己人。大会之后，根据总路线同他们多谈，政治挂帅，尊重苏联同志，刻苦虚心学习。但又一定要破除迷信，打倒贾桂！贾桂（即奴才），是谁也看不起的。
彭德怀迅速在军队系统传达了毛泽东的批示精神，对苏联军事顾问采取了既“政治挂帅，尊重苏联同志，刻苦虚心学习”，又“要破除迷信”的态度。
1958年7月22日，彭德怀陪同毛泽东、周恩来会见苏联驻华大使尤金，彭德怀亲耳聆听了毛泽东与尤金的谈话：
看来，关于海军提出的核潜艇的请求可以撤销。这个问题我脑子里没有印象，问了他们才知道，海军司令部里有那么些热心人，就是苏联顾问，他们说苏联已经有了核潜艇，只要打个电报去，就可以给。……
军事学院有个顾问，在讲战例的时候，只准讲苏联的，不准讲中国的，不准讲朝鲜战争的，只准讲苏军的十大打击。让我们自己讲讲嘛! 他连我们自己讲都不让。我们打了22年仗嘛! 在朝鲜还打了3年嘛! 请军委把这个材料搜集一下，交给尤金（时任苏联驻华大使）同志，如果他要的话。
我们要学习苏联，但首先要考虑到我们自己的经验，以我们自己的经验为主。有些顾问，可以定个期限。如军事、公安两个部门的首席顾问，一直没有个期限，换来换去，也不通知我们，也不征求我们的意见。好比说派大使吧，你尤金走了，派另外的人来，如果不和我们商量，能行吗？这种做法是不对的。你们派到我们公安部门的顾问，坐在那里，如果中国人不告诉他情况，他能知道个什么？
我劝你们去各省跑跑，与人民接触，多了解情况。我同尤金同志谈了多次，如果不是一万次，也有一千次了。……
