1924年7月，在潘兴将军即将退休之际，马歇尔中校被派到中国天津，先后任美军第15步兵团副团长、代理团长，工作十分出色，受到上司好评。1927年6月，任职期满的马歇尔中校被调回国内任陆军军事学院的教官；9月，爱妻莉莉因心脏病猝发而去世。时年47岁的马歇尔，被人们认为“成了美国陆军中最孤独的人”。不久，马歇尔立即又被调任为佐治亚州本宁堡步兵学校的副校长，军衔未获晋升。此时的马歇尔已年近五十，似乎在军旅生涯中难有发展的前途；而整个美国在此时也陷入经济大萧条境地，天空似乎也是灰色的。
但在1927至1932年本宁堡步兵学校任职期间，却是马歇尔一生中最重要的时期之一，对美国陆军也具有同等重要的意义。他在这里倾心培养和造就出一批杰出的青年军官和教官。在本宁堡步兵学校的教官和学员中，当时受到马歇尔赏识的共有160人，他们后来在第二次世界大战中都因功成为了将军。其中著名的人物有后来成为五星上将的奥马尔·布莱德雷；派任为中国战区参谋长的约瑟夫·史笛威中将；1949年出任美国陆军参谋长的柯林斯上将等。
1933年底，马歇尔调任伊利诺斯州国民警卫队的师长，这与美国正规陆军师长的职位相差甚大。1936年8月，马歇尔晋升为陆军准将，任第3步兵师第5旅旅长，终于步入了将官的行列。但此时他已56岁，且缺少正规陆军部队较高级别的带兵作战资历，因此，在军界似乎已没有什么发展前途了。
辉煌的陆军登顶之人
暗淡的前景在不久之后却发生了变化。1938年2月，马歇尔准将奉调华盛顿，出任美国陆军助理参谋长，主管作战计划处并兼任陆军参谋长马林·克雷格将军的特别助理；同年10月，升任陆军副参谋长；次年7月，又出任代理陆军参谋长。对于这位年近六旬的老准将来讲，机运又来到眼前。
1939年4月初，美国总统罗斯福在白宫单独召见了马歇尔准将，表示已打算让他在9月1日接任美国陆军参谋长这一陆军最高军职；离开白宫后，马歇尔没有将这件事告诉任何人，而是默默地等待着总统最后的正式决定。
9月1日清晨，马歇尔住宅的电话铃响了，他被告知：就在几小时之前，纳粹德国军队已越过波兰边界；英、法两国按照对波兰政府作出的保证，必须出兵支援波兰抵抗德国军队的入侵。马歇尔立即意识到：新的世界大战已经为期不远了。
9月1日上午，原定的陆军参谋长就职仪式取消了，马歇尔准将未经宣誓就立即前往陆军部。在陆军副官长面前，他先受领了美国陆军的永久少将军衔；片刻之后，他再次举起右手，宣誓受领临时四星上将军衔并就任美国陆军参谋长。他用平缓、坚定和不带任何感情的军人语调宣誓：“决心拥护和保卫美国宪法，使之免受国内外一切敌人的损害。”紧接着，马歇尔上将立即赶赴白宫，向他的指挥官(总统)报到；并以美国最高统帅部高级成员的身份主持召开第一次会议。
就这样，在经历了漫长而又希望渺茫的曲折军旅生涯之后，从未亲自带兵打仗的59岁的老参谋军官马歇尔，从准将越过众多资历丰富并具有实战经验的少将和中将，成为美国陆军的登顶之人。新上任的陆军参谋长马歇尔上将非常明确自己此时肩负的重要使命非同寻常。他立即花费大量时间使总统、国会和美国公众去认清这样一个严峻的事实——虽然美国是世界上经济实力最强的国家，但它在军事方面的处境却是很糟的——军事力量排在包括西班牙和葡萄牙在内的16个国家之后；因此，只有在人力和装备两方面同时实施一项扩充军队的紧急计划，美国才能拥有一支不可缺少的防御力量，来应付近期极有可能出现的风云变幻。
当马歇尔上将正在为这一切奔走呼吁的时候，日本海军联合舰队于1941年12月7日早晨大举偷袭了美国海军太平洋舰队的基地珍珠港，将美国拖入了第二次世界大战的战场。马歇尔作为美国陆军军职最高的人物，到了大显身手为国贡献的时刻。
