有了此前在清华和北平、在盐城和浙大组织学运、从事党的地下宣传工作的历练和经验，胡乔木的才学以及组织协调能力和应对复杂环境、处理突发事件的宏观驾驭能力，得到了充分展示。
1935年5月，胡乔木发表于社联《盟报》上的《评红军是不可消灭的》文章，反响很大。同年，他针对国民党亲日派徐道邻的《敌乎，友乎？》谬论，发表于《知识》创刊号上的《友乎，敌乎？！》一文，被主编钱亦石评价为“像个老手笔”。他的另一篇文章，即发表于1936年2月25日《时事新报》的《每周文学》上的，关于萧军《八月的乡村》的书评，竟然引来了张春桥以狄克为笔名发表在3月15日《大晚报》副刊《大地》上的，旨在攻击鲁迅的批驳文章。鲁迅一眼看穿了这个假左派的反动本质，随即写下《三月的租界》予以痛斥。
在随后发生的“两个口号”之争（“两个口号”之争，即以周扬为代表的“国防文学”与以鲁迅为代表的“民族革命战争的大众文学”的争论）中，胡乔木坚定地认为：周扬号召各阶层、各派别作家参加抗日民族统一战线，努力创作出抗日救亡的文艺作品，其指导思想是正确的，但“国防文学”的口号具有片面性，容易使作者忽视无产阶级在抗日民族统一战线中的领导作用。鲁迅的口号，符合党的抗日民族统一战线主张。为此，他与邓洁、王翰、钱俊瑞等人一起，不赞同周扬等人对鲁迅采取攻击态度，并且努力地协调处理两者之间的关系。鲁迅对胡乔木代表江苏临委所做的工作，曾给予了充分肯定。
脱颖而出的胡乔木注定要在更大的舞台施展自己的抱负。胡乔木的德识才学，也引起了延安高层的关注。1937年5月，胡乔木接冯雪峰通知，奉组织调遣，速离上海，与李凡夫同赴延安。
