朱镕基对党政不分的弊端深有感触，所以到上海当市长、书记期间，就对官僚主义、形式主义、搞特权、官官相护、刑不上大夫等现象进行整治，从严治吏且不讲情面。他当选上海市长后明确提出要建设“廉洁、高效、全心全意为人民服务”的政府目标。他经常引用两句古人的话与身边干部共勉：“吏不畏吾严，而畏吾廉；民不服吾能，而服吾公。公生明，廉生威。”
1991年1月12日，中共上海市委研究室《内部资料》增刊总第1期上发表了《对“投资黑箱”的初步剖析与若干建议》的调查报告。报告以大量资料列举了外商在上海投资需通过上百个关卡，盖上百个图章的情况。看完报告后，朱镕基批示道：此文可称“官僚主义大全”，“呜呼上海，不改革，要完蛋”。他当机立断要改革产生这种官僚主义的体制机制，于是成立外国投资工作委员会，并亲自兼任这个外资委的主任。“上海需要速度，需要效率，需要果断行事，需要雷厉风行。”
同样对于形式主义也是如此。他给自己提出“五戒”：不登报、不上电视、不剪彩、不题字、不受礼。并做出《市政府关于刹吃喝风、受礼风的决定》。他说“主要是针对局级以上干部制定的。言教不如身教，你以身作则了，别人就会跟着来。现在先从我做起”，“党员不谋私，干部干实事，上海就振兴了”。他对上海全市局级以上干部提出三点要求：一要解放思想，勇于实践，做敢于承担风险的改革者；二为政清廉，办事高效，做问心无愧的人民公仆；三要下放权力，深入基层，加强监督，善于协调，做解决问题的能手。他要求媒体“你们报道的时候，不仅要报喜，而且特别要报忧。”“就是揭发缺点，特别是揭露我们的腐败现象。”
应当说，政府自我约束、自我革命很难，过程也很曲折。而朱镕基的严厉和铁面无私，是真正地在整顿作风，许多官场中人心生畏惧，时至今日亦然。以上海为中心的长三角的崛起，与朱镕基在执政期间的从严治官、约束公权力、健全社会监督机制的努力是息息相关的。从这一点上说朱镕基不仅是中国经济的卓越领导人，更是推动中国吏治现代化的先行者。
如今中国改革进入深水区，特殊利益集团固化，政府干预微观经济频仍，权力寻租难以遏制，贪腐现象高发，垄断现象成为中国经济发展拦路虎，市场经济发展遇到前所未有的阻力和挑战，实际上是在呼唤像朱镕基这样的领导者，也应把他当初创新制度、健全法治的做法旧事重提。
对媒体独立性的尊重和“皇甫平”
朱镕基主政上海期间，我担任解放日报社党委书记兼副总编辑，主持报社工作。感受最深的是，朱镕基对新闻媒体工作有独到的见解，也对媒体有充分的信任，是“放手”管理。在1989年政治风波期间，他通过媒体舆论维护上海的政治稳定，两次向上海市民直接发表电视讲话，今天读来都能感受到当年朱镕基与学生、市民交流时的坦率。“上海不能乱”，“上海不搞军管和戒严”，“事实真相终将大白”，化解上海学生和市民的疑虑和焦躁，平息了不理性的行为。事实说明“知民心者民拥护，顺民心者化戾气”。为政者要牢记自己是人民的公仆，时时尊重民意，事事维护民心，不能视民为草芥，骄横霸道，恃权枉法，欺骗妄为。
