1935年1月，胡乔木来到上海，先后担任中国左翼文化同盟书记、中共江苏临时工作委员会宣传部长。在上海期间，胡乔木发表了十多篇文章，有文艺评论、诗歌、杂文等，其中影响比较大的是他评论萧军的成名作《八月的乡村》的文章。

　　胡乔木在动荡的青年时代紧随时代潮流，是进步学生运动的领导者和左翼文化活动家，发表过多篇文学评论和政论文章，也学过“速记”，有良好的写作基础，这些都是他以后能又快又好地写出政论文章，以及能把毛泽东的有关讲话出色地迅速整理加工完成的因素之一。

　　1937年初夏，陕北黄土高原一片翠绿，生机盎然。二十五岁的胡乔木奉上级指令来到延安。在任中央青年工作委员会宣传部长期间，他的讲演热情洋溢，文章独具风采。几位老同志发现了这个有才气的青年，便郑重向毛泽东推荐。毛泽东在此前已看过并欣赏他写的文章，决定留他在身边工作，时间是1941年2月。

　　从毛泽东给胡乔木的一些书信中可以看出，后者是如何在前者的指导下辛勤工作，前者又是如何对后者的工作严格要求，并给以信任和关怀。如1949年6月24日毛泽东致胡乔木的那封信里最后写道：“你起草后，我给你帮忙修改，你可节省若干精力。”

　　1950年6月4日，毛泽东关于土地改革问题致刘少奇的一封信中写道：1947年冬季叫乔木写了一个文件，题为《中国各社会阶级及其待遇的规定》，其前面两章是我写的，说明了这个问题，可以参看。从这两封信可以看出，不少中央文件是在毛泽东指导下，毛和胡两人共同完成的。

　　1967年“文化大革命”高峰期间，毛泽东曾两次驱车看望胡乔木，其中一次带着汪东兴已到了胡乔木家门口，虽因故未见到他，但在当时无疑给身处危境中的胡乔木起了很大的保护作用，使他日后得以相对平静地度过那些岁月。

　　“文革”末期的1975年，邓小平开始大力整顿，他启用胡乔木为国务院政研室负责人。

　　我曾多次去过胡乔木家，使我震撼、吃惊，也使我羡慕的就是他的书房，确切地说是他的藏书室，这间藏书室是他的精神食粮库，是他的思想武器库。

　　先说“震撼”。藏书室是他家房中最大的一间，三米多高银灰色的大书架一字排开，一排十七个，整整齐齐八大排，十分壮观，加上他的办公室里的四个特大书架，共有一百四十个书架。他的藏书有四万多册。

　　再说“吃惊”。我在书架上翻阅他的许多藏书，书籍洁净，书里也几乎看不见勾圈画线，甚至看不到书中有折页、折角。我了解到，这一方面说明他有惊人的记忆力，能迅速而准确地从大量阅读过的书中找到他需要查找的资料，另一方面也说明像胡乔木这样的老一辈革命家，是从艰苦的革命战争年代里走出来的人，十分珍惜书，十分珍惜纸张，舍不得在书上勾圈画线、折角。

　　书籍在胡乔木的一生中占有重要的位置。进城后，他最爱去的地方是旧书店。经常有这样的情况，星期天全家上街，他一个人转道去旧书店翻书、买书，等到全家人逛了一圈回来，他还是恋恋不舍地站在旧书店里翻书。他拥有的几万册藏书，除了一部分是出版社赠送的以外，大部分都是他用几十年来的工资购买的，由于工资多年来主要用作买书，以致有时孩子生病，还要借钱赊账为孩子治病。进城后住所几次搬迁，他首先考虑的就是新住所有无存放藏书的合适房间。

　　胡乔木读书范围十分广泛。从他藏书室里一百多个书架上贴着的各种分类小标签，就可看出他读书学习的广度、深度和兴趣。曾任国家图书馆馆长的任继愈说过：国内有成就的专家不少，能精通多种学科的“通才”却很少，胡乔木就是少数有通才卓识的一位。

　　正因为胡乔木知识渊博，不断追求，富有创造性，因此，他不可避免地依据实践做出自己的独立思考，这种独立思考——说真话，争论——甚至常常发生在他和毛泽东之间。圈内的老同志都知道胡的这种固执，这种书生气。对此，胡乔木说：“这没有什么奇怪的，我起草的文件较多，在中央领导人中，毛主席修改的最多，我和他的争论也最多。”有一次毛泽东对这种争论很不满，他生气地对胡说：“到底你是主席，还是我是主席？”

　　“终生用笔为人民服务”

　　熟悉胡乔木的人，都认为他是一个具有献身精神、社会责任感很强的人。他认为凡是有利于人民、有益于社会的事情都应全力以赴地去做。在日常生活中他是一个平易近人、简朴、重才、惜才和富有感情的人。他的工作状况、日常生活，包括个人嗜好、交往等，都从不同侧面反映出他的这些特点。