到山西后，薄一波很快就意识到，首先要站稳脚跟，不能搞“左”倾冒险主义和关门主义，要利用“官办团体”的帽子，公开地做群众工作。只有这样才能造成声势，更好地发动群众，也才能更好地把阎锡山团结在抗日的阵营之中。他把这样一个思路归结为三句话的工作方针：戴阎锡山的“帽子”，说“山西话”，做党的抗日救亡工作。这条方针得到了北方局的认可。有了明确的方针，工作很快就开展起来了。首先做了两件大事：一是接办牺盟会（全称牺牲救国同盟会），把牺盟会办成我们党实际领导下的群众性抗日团体；二是创办一支完全有别于阎锡山旧军队的山西新军。
薄一波到山西后，以他出色的组织能力和敏锐的洞察力，很快得到了阎锡山的器重。阎锡山为保住地盘，扩大势力，便打算在山西发展30万国民兵。按照这个计划，需要2万多个连排级干部，这些干部要通过国民兵军官训练团来培养。阎锡山将招收国民兵军官训练团学员的任务交给了薄一波等人。这是一项非常重要又非常复杂的工作。如果这批学员一旦完全为阎锡山所用，那对中国革命将是很大的隐患。因此，如何巧妙地招收到这些学员而又不为阎锡山所用至关重要。
由于阎锡山曾明确要求，不允许薄一波在山西的政府和军队里发展共产党组织。为此，薄一波一方面积极组织爱国意识强、愿意抗战的积极分子参加考试，一方面在考试的内容上做文章，在录取过程中巧妙安排。在考试内容的安排上，阎锡山的所谓“按劳分配”、“物产证券”是必不可少的题目，要拿出来应付阎锡山。其余的题目则都是关于抗日救亡的内容，将这两类题目混杂在一起。在录取过程中，薄一波等人内部规定：凡是答对抗日救亡题目的，80分就录取；凡是答对阎锡山那些题目的，一个也不录取。通过这种方式，招收上来的国民兵军官训练团学员大多是抗日积极分子和进步青年，他们中的许多人后来成为抗日救亡的骨干，有些人还加入了中国共产党，成为我党优秀的军事干部。
1939年，中国的抗日战争进入战略相持阶段。统一战线开始出现微妙的变化，阎锡山就明确提出了反共的想法：“不能同共产党合作，‘道不同，不相谋’。”在蒋介石发动的第一次反共高潮中，阎锡山告诫手下：“天要下雨，要赶快备雨伞。一落人后，就要吃大亏。”为了实现这一主张，改变联共抗日路线，阎锡山于1939年3月25日至4月22日在秋林镇召开了“秋林会议”。以薄一波为首的牺盟会、决死队的主要领导干部都参加了。
有一天，阎锡山在会上公开地说：“我昨天晚上做了一个梦，梦见一个人对我说：你不要看不起你过去用过的那个破车，那个破车可以把你拉到目的地，只是慢一点而已，你不要相信你现在用的那个新车，这个车可以飞得快，但也可以把你翻倒在地。”这无疑在宣称他以前依靠牺盟会和新军是错了，要抛弃“新车”用“旧车”。
从秋林回到太岳后，薄一波立即向北方局汇报了会议的情况和研究的对策。1939年8月6日，北方局专门发出《制止阎锡山之动摇与巩固山西统战的指示》。9月21日中共中央发出《关于在山西开展反逆流斗争的指示》，接着中央又用山西省委名义发出了《关于坚持山西抗战克服危险倾向的宣言》。号召干部分析形势，部署行动。在中共中央的指示下，薄一波对阎锡山进行了有理有利有节的斗争，使山西形势得到有利于我的解决。
据薄一波回忆，抗战末期，阎锡山曾在他的部下面前慨叹自己“失算”时说：真没想到，这一回没斗过那么几个年轻人！
