马歇尔移交了旅长的工作，偕夫人和继女罗斯搬到华盛顿。现在，他已是陆军部作战计划部部长，并兼任陆军参谋长克雷格将军的特别助理。8个月后，克雷格将军又进一步给他升了一级，任命他为陆军副参谋长。

　　人们很想知道，马歇尔如此快速得到提升，是否与参谋长克雷格有某种特殊关系。事实上，克雷格将军与马歇尔只有过一面之交。那是33年前，马歇尔少尉在那次最艰苦的横穿沙漠之行后，到团部报到，当时听他报告的那位值班上尉就是马林·克雷格。克雷格可能不记得他了，因为当时他被那位皮肤黝黑、衣衫褴褛的少尉吓了一跳，以至于不愿多看他一眼。

　　马歇尔升任陆军副参谋长的任命公布前两个星期，英国和法国屈从于德、意法西斯的压力，签订了慕尼黑协定，迫使捷克斯洛伐克割让给纳粹大片领土。英国首相张伯伦和法国总理达拉第相信，用牺牲捷克斯洛伐克的办法，就能填满德国独裁者阿道夫·希特勒的欲壑，避免一场战争灾难。但是，捷克斯洛伐克固然是被牺牲掉了，战争却只是被推迟了几日而已。

　　当马歇尔到陆军部新办公室走马上任时，他感到过去自己一直关注的是部队训练、福利、院校教育和个人前途，而现在他要把国家安危放在首位了。英、法等国在慕尼黑对法西斯采取的绥靖政策，使那些明智的战略观察家们惊骇不已，即使普通百姓也对英、法等国的做法大惑不解。一次民意测验表明，当时43％的美国人相信战争正在来临，美国势必卷入。倘若果真如此的话，美国拿什么去打呢？马歇尔非常清楚，美国陆军总员额不过20万人，武器装备和训练均严重不足，只有海军的状况还差强人意。每年几亿美元的军费，不敷一支20万常备军的吃穿和弹药耗费，更不用说添置新的装备了。在讨论慕尼黑协定签订后的军事形势时，一位参议员宣称，美国现在得花“几百万美元用于军事目的。”马歇尔当即给克雷格将军递了一张条子，说“得有几百亿美元”才成。

　　美国陆军部那些主张扩军备战的将军们，面临着一种左右为难的局面。第一次世界大战后，由于孤立主义者强烈反对国际联盟提出的共同安全体系，同时也坚决反对美国充实军事力量，因此，战后20年来美国得以享受和平的环境。现在，孤立主义运动的组织者猛烈抨击总统打算支持欧洲国家以战争反对纳粹，而一旦战争爆发，美国的中立地位将受到威胁，美国人民的利益将受到挑战。在这种情况下，总统在政治上采取了更为迎合“民意”的立场，主张欧洲战争由欧洲人自己去打，鼓励英、法等国依靠自己的力量去打败德国法西斯，这样，美国就无须参战了。但将军们必须更多地从军事角度考虑问题。

　　对美国人来说，总统的立场固然很好，也正合孤立主义者的口味，但最大的问题是英、法等国依靠自己的力量能打败纳粹吗？美国驻欧洲的使节和军事专家写回的报告说，德国军队可以不费吹灰之力把他们打败。英国、法国需要大量枪炮、飞机，不仅希望美国的大工厂能够满足他们的需要，而且希望美国能尽快加入国际联盟共同安全体系，以便联合对付德、意法西斯的战争挑衅。对此，罗斯福总统开始担心，如果战争来临，美国根据1937年的中立法案，将不能向英国和法国提供军火和必要的援助。

　　1938年11月14日罗斯福总统在内阁成员和军事顾问参加的一次会议上，提出了制造一万架飞机的计划。到会的将军们听到这个计划很高兴，这正是他们所需要的。但马歇尔听到总统的提议后却大吃一惊。总统怎么能只提制造飞机的计划而不同时制订招募这些飞机所需飞行员、机组人员和地勤人员的计划呢？更使马歇尔大惑不解的是，所有与会者似乎都一致同意总统提出的建议，居然没有不同意见。总统讲完后，走到人们中间，最后在马歇尔面前停了下来。总统说，他认为他已为陆军参谋部提出的紧急扩军计划出了大力，并说：“乔治，你看是不是这样？”

　　马歇尔毫无表情地看着总统回答说：“对不起，总统先生，我完全不同意您的意见。”罗斯福脸上露出一丝惊讶神色。他本想问马歇尔为什么，但又改变了主意，会议就此结束了。会后，其他人默默地看着马歇尔，他们似乎认为马歇尔毁了自己的前程，他在华盛顿的差事就要完蛋了。

　　经过这次会议，马歇尔开始懂得自己不仅是单纯的军人，现在他多少要懂得一点政治。他其实已经学会迅速发布命令和当场拍板解决一些久拖不决的问题，而且善于抓住复杂问题的实质，并能识别官场上的权术。虽然他现在领会了罗斯福总统那些话的含义，明白了他的真实意图，但他仍然不同意总统的意见，仍然坚持认为，此时此刻的当务之急是要扩建美国陆军和航空兵部队，不要为了供应盟国武器而牺牲美国的军事前途。但他知道，陆军要想增加人员、枪炮和飞机，要是不经过一连串的游说议员、国会听证、讨价还价和讨论报酬等繁琐程序，是绝对办不成的。他必须努力成为掌握这一套本领的行家，但他不一定真的喜欢这种行当。难道这就是他献身陆军所要做的一切？

　　陆军参谋长马林·克雷格将军的任期将于1939年8月届满，一时间，华盛顿盛传总统正在广泛物色克雷格的接班人。在美国陆军圈子里，几乎没有人认为乔治·马歇尔会有中选的可能，单说一条，他在陆军部工作的时间并不长，在他上头还有21名少将和11名准将，这样，马歇尔要中选就得超过32位将军。但马歇尔也占有几样有利条件，他的品德、才能、经验，特别是在军事战略与谋略方面他不比任何将军逊色；他到陆军部工作时间虽不长，但表现得稳健而出色。

　　1939年初，他碰上了好运气，作为陆军副参谋长的任务之一，他负责落实总统制造飞机的计划，同时要为陆军增加人员和武器争取更多的拨款。结果，他干得相当不错，并在这项工作中得到负责此项工作的商业部长哈里·霍普金斯的赏识。

　　此后不久，竞争陆军参谋长职位的幕后活动开始了，各派头目严阵以待，积极活动，全力以赴。马歇尔发现他也有朋友在热心为自己奔走，对此他并不感到高兴，而且反对这么做。他认定在节骨眼上活动议员，只会失去而不是得到总统的好感。他认为别人在这点上做得都过火了，此时他应当默不作声才是。

　　1939年4月的第一个星期天下午，他被召进白宫。罗斯福总统开门见山地说：“马歇尔将军，我考虑让您担任下一届美国陆军参谋长，您有什么意见？”

　　“没有，总统先生，”马歇尔回答说，“只有一点我要提醒您，我这个人惯于心里怎么想就怎么说，正如您知道的，这常常令人不快，这样行吗？”

　　罗斯福微微一笑说：“行！”

　　1939年4月28日，罗斯福总统通告美国人民，在马林·克雷格将军于8月31日退休之后，陆军参谋长的职务将由乔治·马歇尔准将继任。这样，马歇尔从准将一跃而升为临时四星上将，跳过少将和中将军阶，也越过了比他资深的21位少将和11位准将。当时，他是第二位没进过西点军校而担任陆军参谋长的人。第一位是“哈佛大学的医生”伦纳德·伍德。