八路军一二九师政委
1937年7月，抗日战争全面爆发。在中国共产党的努力下，国共两党第二次合作，建立了抗日民族统一战线。中共中央决定将红军改编为国民革命军第八路军。八路军下辖3个师，一二九师由刘伯承任师长，张浩任政训处主任（后改为师政委兼政治部主任）。
据李达在回忆张浩的一篇文章中说，张浩任一二九师政委时，工作困难很大，这里面有3个原因：第一，一二九师的基础是红四方面军，张国焘的问题被处理后，干部、战士的思想非常复杂。原来不是红四方面军的干部认为，红四方面军的干部大多是张国焘提拔起来的，执行张国焘路线也很卖力，处理张国焘的问题时，这一部分人也应处理；第二，几乎所有的干部战士都对红军改编为国民革命军想不通，特别是对身穿国民党军队的服装，头带青天白日帽徽的帽子非常反感，有的人将领到的衣服、帽子摔掉了，还有的吵着要回家，不愿当兵；第三，红四方面军过去善于打大仗、恶仗，长于阵地进攻和阵地防御，抗战开始后，要以打游击战为主，干部战士一下子难以适应这个变化。张浩以前一直在白区工作，未带过兵，在部队没有任何基础，要带好部队，是很不容易的。但是张浩以自己的高尚风格和卓越的领导才能，赢得了一二九师全体指战员的爱戴。通过艰苦的政治思想工作，把全师干部战士的思想统一了起来，解决了以上存在的三大困难。
张浩做思想政治工作深入细致，很有说服力。有一天，张浩路过一个连队，正碰上战士们发牢骚。有的说：我们打了这么多年国民党，现在又要我们去穿他们的服装，真是想不通；还有的说：国民党部队的服装穿在身上，就像山羊掉了角――比狗还丑。张浩听后，就和战士们谈了起来，他耐心地向战士们讲明为什么要穿国民党军队的服装的道理，经过几个小时的谈话交流，将战士们的思想疙瘩解开了，才离开连队。过了两天，他下到另一个连队检查工作，又碰到一些战士说气话，还听说有的战士将帽徽扯下来扔了。他马上叫连长将全连战士召集起来，要亲自给战士们讲话。战士们集合到齐后，张浩对他们说：“大家知道吧，西瓜外面是青的，里面却是红的。我们就是‘西瓜政策’，大家帽子上的帽徽就是西瓜皮，人是里面的瓤子。我们部队改编了，人民军队的性质没有变，传统没有变，仍然是工农子弟兵。我们仍然归党中央指挥。因此，大家不要对帽徽、服装问题想不通。这是说的军队，我再说说自己。过去在湖南时，白色恐怖严重。为了坚持斗争和生存下去，我在庙里当了和尚，我剃了发穿上和尚服装、鞋子。尽管我身上穿了僧人服装，但并不是真僧人，我还是中国共产党党员，还是湖南省委的主要负责人之一，湖南省委的同志并没有因为我剃了发穿上和尚服装，而认为我不是共产党员，不是省委领导同志。我那时穿僧人服装，是革命的需要，事业的需要。同志们今天穿国民党军队的服装，也是革命和事业的需要。因此，大家不要太计较穿什么服装、带什么帽子的问题，关键要看军队是不是为国家、人民打仗。”张浩用浅显易懂的语言和自己现身说法，让战士们心里豁然开朗。
张浩在一二九师任政委时，还机智地处理了一件关系国共两党关系的棘手事。一二九师开到前线之前，蒋介石为了切断八路军3个师之间的联系，便以“作战需要”为名，调一二九师到石家庄去与日军正面作战。于是蒋介石特派他的高参、与刘伯承过去在旧军队里认识的乔茂才带着他的手令找刘伯承。乔茂才到达一二九师时，刘伯承正好不在师部，张浩接待了他。张浩看了蒋介石的亲笔信，便知这是蒋介石的“借刀杀人计”。于是张浩悄悄派人去告诉刘伯承，叫他不要回师部，并马上派人将李达找来，对李达交代如何对付乔茂才。于是在张浩的导演下，李达把乔茂才安排在一二九师师部给他好吃，陪他玩，却绝口不提调动的事。乔茂才几次提出要见刘伯承，李达均以种种借口搪塞，使他始终无法见到刘伯承。后来，乔茂才见自己呆在一二九师师部天天吃了睡，睡了吃，无所事事的，觉得没趣，便自行离开了部队。回到重庆的乔茂才因未完成任务，被蒋介石狠狠训斥了一顿。
张浩在一二九师工作到1937年年底，因脑伤时常发作，不得不带着健脑器坚持工作。后来，他坚持不住，经常晕倒在工作岗位上。刘伯承见张浩难以坚持正常工作，特地向中共中央和八路军总部报告了张浩的严重病情，建议中央将张浩调回延安治疗，并另派一位政委到一二九师。毛泽东接电后，当即与张闻天等人商量，决定调张浩回延安，由八路军政治部副主任邓小平接替一二九师政委一职。
拒绝赴苏联
1938年2月底，在党中央的关怀下，张浩从前线返回延安后，一直边养病边工作，但是他的病久治不愈，而且有越来越严重的迹象，引起延安各界的关切。
在张浩病重住院的那段时间，每天到医院探望的各界人士络绎不绝。当人们看到张浩病得这么严重，心里十分难过，纷纷要求党中央想办法挽救他的生命。
对于张浩的病，中共中央十分关心，尤其是毛泽东更为挂念。20世纪20年代初，毛泽东就与张浩就相识，而且毛泽东在长沙从事革命活动时，张浩给过他许多帮助。在此后的20年中，他们虽然不在一起共事，但却建立了很深的友谊。特别是在毛泽东与张国焘于长征途中发生分歧后，张国焘仗着人多势大，不把他放在眼里，并另立中央时，张浩以共产国际代表的名义，使张国焘分裂党和红军的阴谋难以得逞，对此重大贡献，毛泽东和党中央是十分清楚的。一天，朱德到毛泽东的办公室商量工作时，毛泽东对他说：“林育英同志的病很重，延安中央医院想了不少办法，因这里的条件有限，仍难治好。前不久，我去看了一下，见林育英病成那个样子，我心里很难过。”朱德说：“很多同志与我谈过这件事，并要求中央再想些办法帮他治疗一下。”“你有什么办法？”朱德摇头道：“还未想到。”毛泽东说：“我看是不是与苏共中央联系一下，请求他们派一架专机将林育英接到苏联去治疗一个时期。”“这个办法可以。”朱德极力赞成说，“而且也只有采取这样的办法，才能治好他的病。”
在毛泽东的亲自过问安排下，中共中央有关单位迅速与苏共中央取得了联系。由于张浩在苏联有过工作经历，许多苏共领导人对他熟悉，20世纪30年代，他在共产国际和赤色职工国际工作期间，与斯大林有过多次接触，斯大林对张浩留有深刻的印象。此时，中共中央请求苏方派专机将张浩接到苏联治病，斯大林和苏共当即表示同意。
不久，苏联派来的专机就降落在延安机场。
对党中央请求苏联派专机接张浩到苏联治病的经过，张浩事前并不知道。苏联飞机来了，别人才告诉他，是专门来接他去苏联治病的。知道消息的他先是惊奇，感激党中央和苏共的关心，但仔细思考后，他决定不去。张浩认为，他的病难以治好，没有必要去苏联。对于他的这种想法，延安的很多人感到难以理解。但此时的张浩想到的是别人和革命事业，而不是自己的身体。
在得知张浩不愿意去苏联治病的消息后，中央一些负责人轮番到医院劝他，但他仍不同意去。他说：“我的伤病我心里清楚。这个样子，最好的设备，最好的医生，也治不好的，不要浪费苏联的资金、药品。有很多八路军的伤病员急需治疗，还有一些烈士的后代及其他人要去苏联，让他们去吧。他们的伤病治好了，还可为革命事业继续奋斗。”
见无法说服张浩，毛泽东和中央其他负责人只好尊重他的意愿。考虑到飞机已经来了，不能空飞回去，于是党中央用这架专机将延安的其他伤病员和一些烈士子女送去苏联。许多老同志回忆起当时的情景，仍然心潮激动，一致称赞张浩是个“毫不利己，专门利人”的人。当年如果他去了苏联，也许有可能治好伤病，可他就是不去，把生的希望给了那些伤病员和其他病人，这才是真正的共产党人！