作为陆军参谋长，马歇尔要与之打交道的人包括总统、国务卿、陆军部长、参谋部和特种参谋部的参谋人员以及各个兵种的司令官。他统帅着一个庞大的军事集团，包括4支野战部队，9个军区、战术空军、装甲部队、港口守备部队和后勤军，并通过夏威夷、菲律宾、巴拿马运河区和波多黎各4个战区，控制着海外的驻军及其给养。后来，巴拿马运河区和波多黎各两战区合并为加勒比警卫部队，并增设了阿拉斯加警卫部队。马歇尔上任后不久，很快发现，重叠的管辖权引起了混乱，陆军部的供给部门常与各野战军意见不一。

　　有些“长期形成但不适于一个大国的军事部门”的许多做法令他不安，比如，负责指挥空军作战的空军指挥部却不在总参谋部指挥之列。马歇尔决心在行政组织方面作些必要的调整。1940年，他把空军指挥部划归总参谋部，交给它监督空地联合作战的任务。但是，随着征兵法的通过和繁杂的征兵工作的开始，打乱了这方面的调整工作，各兵种司令部和其他行政机构的彻底改组直到1941年底才逐步完成。

　　作为陆军参谋长，马歇尔不得不身兼数职。他既是总统的军事顾问，为国家军事战略出谋划策，还是正在扩军并加紧训练的野战部队的统帅。不管履行哪一职责，他都深信，总参谋部能否高速、高效地运作至关重要。因此，他始终致力于有效地领导和协调总参谋部和所属各级参谋部的工作，并通过理顺行政关系和大胆提拔任用有才干的年轻军官把参谋部的工作搞得生机勃勃和井井有条。在组织部队训练方面，他主要通过他的助手莱斯利·T·麦克奈尔少将实施领导。

　　马歇尔后来说：“麦克奈尔是位极其精干的军官，兢兢业业。在参谋学院，他的部下素质好，他本人劳苦功高。”麦克奈尔一再强调“时间紧迫”，宁可训练时多流汗，战时才能少流血。他鼓励那些能干的人，并赶走了那些不合适的人。他强调纪律严明，领导坚定。他开了长长的名单，把那些随时让马歇尔调任的军官一一列出。更重要的是，他不断向参谋长报告部队的真实情况，哪些军官有所作为，可以信赖，可在战争中担任军或师一级的指挥官。他的正直、勤奋、工作方法、组织才干和敬业精神得到了参谋长的赏识、信任和重用。

　　马歇尔选中了另一个精明强干的人协助麦克奈尔执行训练任务，他就是马克·韦恩·克拉克中校。马歇尔在温哥华担任旅长时结识了克拉克，并喜欢上了他。当时，克拉克是刘易斯堡第3师作战参谋。他作为1940年初在蒙特雷举行的陆海军联合演习的筹划者，给马歇尔留下了深刻的印象。马歇尔很快把他调到陆军参谋学院任职，尔后，又把他调到陆军参谋部担任作战参谋，一年后，克拉克成为麦克奈尔将军的副手，被授予准将军衔。

　　除了大胆使用麦克奈尔和克拉克负责训练工作外，参谋长本人还直接与4支野战部队的指挥官联系。由于他们资深并富有经验，马歇尔很尊重他们，并给他们更多的自主权。同马歇尔一样，这4位野战军指挥官也不是西点军校毕业生，第1军的德拉姆中将和第4军的德威中将都曾经从事文职工作；第3军的克鲁格中将和第2军的利尔中将是从士兵开始进入陆军部队的。他们都参加了美国—西班牙战争，除利尔军长外，他们均在第一次世界大战期间在海外担任要职。

　　马歇尔的空军首领阿诺德将军是他于1914年在菲律宾认识的一位老朋友。阿诺德想抓住一切机会向马歇尔陈述空军部队的需求。马歇尔担任副参谋长时进行了一次穿越全国的考察，包括视察空军基地和飞机制造厂。阿诺德指定安德鲁斯空军上校陪同视察。安德鲁斯全面细致地介绍了陆军航空兵的现状和要求，引起了马歇尔的高度重视。马歇尔也很快发现“空军几乎在总参谋部没有代表……总参谋部的军官对空军毫无兴趣，大部分还反感。”马歇尔承认，“所有参谋们对空军部队采取敌视态度。年轻的空军官员在国会吵闹，把形势搅得一片混乱。他们有理由抱怨，因为他们没有得到承认，当时的总参谋部对空军毫无了解。”马歇尔决定采取行动改变这种状况，尽管有不同意见，他还是把安德鲁斯提为准将，并召到陆军部任G—3处处长，负责训练工作。

　　阿诺德后来描绘这一阶段的情况时说，“乔治当时将成为发展空军最有影响的人物。他与别人的不同之处在于，他有能力消化听到、看到的东西，并使之成为我们认识的最伟大的军事天才的一份能力。”

　　1940年，陆军部G—3处项目军官库特少校负责起草把陆军航空兵的编制扩大到54个大队的报告。这项扩编计划在当时看来似乎费用过高，几乎根本不可能实现。库特携带写好的报告去向马歇尔将军汇报，他掂量着这份计划会得到哪些赞成或反对的意见。参谋长聚精会神地听完汇报后只提了一个问题：“为什么只扩大到54个大队呢？”这使库特大吃一惊。库特后来回忆道：“其他人提的意见都是要削减空军，他们说这个扩军方案过于具有想象力，超出常识等等，而马歇尔将军当场批准了方案。用不着继续讨论，也用不着再争论。就在当天，该方案成为陆军部的指示。因此，在1940年，我把所有的功劳归功于他的远见卓识和想象力。正是这些使空军最终从不值得一提的3个大队发展到286个大队。”

　　马歇尔尽量满足空军人士一心想建立独立空军的请求。他确信空军在未来大战中具有举足轻重的作用。但他也不是一味地满足部下的要求，而是从实际出发，坚持自己认为是正确的东西。他认为，当时在航空兵部队里，军事院校毕业的军官还太少，不足以建立独立的空军，并相信在这个阶段，关键是有一支支持地面行动的空军力量，而不是由空军独立行动。据此，他采取了给予空军更多自主权的政策，比如，给分管空军的阿诺德将军在战争委员会开会的发言权，并与海军的部长们一起开会。马歇尔对阿诺德将军的信任和佩服程度从来没有降低过，几年后，他称赞阿诺德“始终忠心耿耿。”这是马歇尔只对他最信任的人才使用的一个颂词。

　　马歇尔反复强调要充分利用时间让地面部队作好战争准备。后来他说：“除了在战争后期，我从来没有看到地面部队认真训练过。地面部队做任何事情都会遇到极其困难的情况，而其他部队不是那样。比如，在海军，我想是由于在舰艇上的原因，在进入一次交战前，每个人都要洗个澡，穿上干净的内衣，可以在舰上的床铺上饱睡一夜的觉。陆军部队的情况则正相反。很可能已进行了连续的行军，有些还是急行军，人已精疲力竭。官兵全身淋湿，因为在这种情况下，往往是下雨天，全身是泥，不得不和衣而睡。在一次战斗结束之后，很久都没有机会更衣。

　　已经成为规律，清晨是最需要官兵那至高无上的勇气的时刻，这时他们又冻得半死地醒来迎战……所有这些都需要高度的训练。据我了解，这种训练程度比任何其他军种难度都大。”

　　马歇尔出任参谋长后不久，便飞到波多黎各、夏威夷和巴拿马等地去视察海外驻军的训练情况。回到华盛顿，他利用一切机会留心观察他的参谋军官如何克服在计划和指挥方面的明显不足。以后，他经常进行旋风式的访问，只要条件允许，他总是乘飞机。对那些不愿视察部队的军官，他就解除他们的职务。在一系列访问中，他很快改变了下属司令部接待参谋长的礼仪。他希望能充分利用时间多了解部队的实际情况，因此，他直率地指出对他的接待不要任何仪式或宴请。他总是耐心听取各级指挥官亲自汇报他们遇到的问题，尽管他每次出访的时间短暂，不可能什么都看，但他比长期只坐在办公室里的助手们了解的真实情况更多。

　　马歇尔走遍全国各地，检查师一级新兵训练以及各地机场的飞行训练情况。每当各军区地面部队和空军进行大规模联合演习时，他总是亲临演习现场。对新兵来说，训练意味着在酷热或严寒之中进行数小时烦人的操练；全副武装地在尘土飞扬或泥泞不堪的道路上行军；死记硬背成百上千个生疏的武器部件名称；没完没了地擦枪、清洗装备。除此之外，还常有突然袭击式的检查。马歇尔认为，最难下的命令是要求战士进行长时间的基础训练，“训练枯燥乏味、耗时、紧张。然而，我们需要进行有效、全面的训练。否则，往往自战斗一开始就缺乏纪律性和战斗力。而且，很难让士兵认识训练的必要性。我记得，我找了些专业调查员去实地调查。他们找到受训的美国士兵，询问他们对训练的感想……后来，这些调查人员在前线又找到那些人，他们参加战斗后表示，虽然当初他们反对一切训练，……而现在看来当初训练得还不够。”

　　当训练和演习进行得不顺利时，马歇尔首先检查领导的素质。1940年，他反复认真地研究了一年来在训练方面存在的问题。他常常回忆起第一次世界大战期间把大批不合格的指挥官送去“犯错误。”战斗打响时，潘兴将军几乎是发疯似地寻找合格的军官去执行战斗任务。在两次大战之间的年代里，马歇尔反对在军官晋升方面论资排辈、压制人才的做法。现在，他集中精力物色合适的人选去承担指挥工作。

　　当马歇尔还是副参谋长时，他就致力于改进陆军的指挥系统，大胆改革军官的晋升制度。由于和平时期陆军部队最高的专职军衔是少将，论资排辈的制度决定了总是资历最深的军官自然接替最高指挥官的职位，结果，有些接任的将军只能在这个职位上工作几个月，甚至几周就该退休了。具有优秀功绩的军官等到实现晋升的目标时，仅剩下检阅几次部队的时间了。这种制度造成一些平庸的军官被提拔起来，仅仅因为他们比更能干的同事早几个月登上论资排辈的阶梯。马歇尔决心改变这种状况。他回顾说：“我要做到想要谁就能动谁，这样，他才能拼命地工作。除了两辆汽车以及为夫人另辟一间卫生间以外，还有其他奔头。”他得到了参谋长克雷格将军的支持，并努力做通了参议院军事委员会的工作，他为4个野战军设立了临时中将军阶。这样，参谋长可以按照任人唯贤的晋升标准，选用自己看中的人选，这极大地调动了下属指挥官们的积极性。

　　马歇尔办公桌右上方的抽屉里，总是放着那个小黑皮本，他的部下常常怀着极大的好奇心看见他认真地翻阅它，在上面划掉一个名字，往往挪一个或再补充一个。在他的脑海里和那个小黑皮本上同样记录着里诺堡同学、第一次世界大战中的战友、本宁堡步兵学校的军官和优秀学员、几十位他在视察军事演习时给他留下深刻印象的人、他的顾问和老朋友推荐的人的名字，以及那些因功绩突出，在寄给他的报告上反复出现的人名。

　　陆军中流传着一个关于詹姆士·范弗里特上校（后为将军）的故事。他的名字与小黑皮本上记载的另一位不能被提拔的上校的名字很相似。每当范弗里特被推荐上去准备提升一级时，他的名字都被划掉。只是后来在诺曼底登陆战役中，他表现突出，参谋长才承认是他以前搞错了：把他压下来迟迟未予提拔。此后，范弗里特一直很顺利，并在朝鲜战争期间充任美军第8集团军司令。

　　1940年11月，当时的西点军校校长罗伯特·艾克尔伯格问布莱德雷是否愿意出任西点军校学员队长，布莱德雷表示愿意。此时，布莱德雷是马歇尔手下的参谋，已在华盛顿服务了两年，他极力想脱离日常文书工作，回到任何一级指挥岗位上去。艾克尔伯格征得马歇尔将军的同意后，对布莱德雷说：“祝贺你！马歇尔将军刚才已答应了这项请求。”

　　但是，马歇尔对这项任命仍有想法。一周后，他把布莱德雷叫到自己的办公室，问道：“你真的愿意到西点军校担任学员队长吗？”布莱德雷答道：“愿意，阁下。这是一个指挥岗位，并且将给我一次机会，去帮助培养那里的军官。”这时，马歇尔给了他另一个选择机会，参谋长说：“我正在考虑把霍奇斯从本宁堡调来担任步兵司令，你愿意到本宁堡去接替那里的领导职务吗？”布莱德雷屏住呼吸，说道：“那情况就完全不同了，阁下。”本宁堡步兵学校校长是陆军军官们最喜爱的工作之一。布莱德雷后来说：“马歇尔将军在通知我之前，已经作出了决定。‘很好，一俟霍奇斯调到华盛顿来，我就派你去’。”1941年初，这项调职付诸实现，同时，布莱德雷的军衔由中校晋升为准将。

　　另一个在事业上得到马歇尔培养的军官是艾森豪威尔。据艾森豪威尔后来说：“马歇尔将军最瞧不起为个人名利钻营升迁的人。一天，我们正在谈论着什么，他告诉我，曾有一个人来看他，他已为这个人安排了一个不错的职位。但这个人进来后，就对马歇尔讲了自己应该得到提升的种种理由，按此人的看法，提升他是完全必要的。马歇尔说他的脸几乎气得发青了。‘我告诉他，’马歇尔说，‘请注意，在这场战争中得到提升的人将是指挥人员和能挑重担的人，参谋人员是不会得到提升的。’

　　突然，马歇尔转向我说，‘现在你的情况就是这样。我偶尔得知乔伊斯将军想让你到他那里担任师长，克罗伊格将军告诉我，他随时都乐意给你一个军。唉！这实在是太糟了，你是一个准将，而且你还将是一个准将，没什么可说的。’我对参谋长说：‘将军，您弄错了，我根本不在乎您的提升和您提升我的权力。您是把我调到这里工作的，我并没有对您说过我是否喜欢这项工作，我只是努力尽我的职责’。艾森豪威尔接着说：‘我站起身来，离开他的办公室。不知为什么，我又掉过头去，发现马歇尔面带微笑。我知道我这样做像头蠢驴’。”

　　艾森豪威尔回顾说：“你知道，从那天起，他便开始提拔我。哦，不是在那一天，是在十天之内。他亲自给参议院写报告，请求把我提升为少将。他说在美国陆军中设立的作战部并不是一个真正的参谋位置。他说我是一名指挥官，我做的工作是调兵遣将等等。这是他的明智之举。此后不久，他决定派我去英国，当他派我去那里时，他给我加了一颗星，接着又加一颗。”

　　基于过去的经验，马歇尔非常重视年轻军官的培养和任用，他描述了指挥美国人的困难，“他们的特征是个人主动性强，独立思考，这使他们可能成为最出色的士兵。但如果没有好的领导，也可能成为一个缺陷。美国士兵机智、敏捷，但在逆境下，也可能会有爆炸性和破坏性，除非领导机智果断，并能完全赢得所有部下的尊重。”他接着说道：“在那长期、艰苦、无目的等待和反复行军中，在极其困难、疲惫和孤独的日日夜夜里，领导者的任务显得最为艰巨。在那种环境里，一位真正的领导者必须能克服困难，严守纪律，坚持训练。”

　　然后，马歇尔简短地谈道，他期望毕业的军官和资历深的军官都具有警惕性和主动性的素质：“由于你没得到关于这样做或那样做的具体指示，就表现出被动和无所作为，那是一个严重的缺点。”他要求大家在陆军任职的头三个月内工作要出色，管好一支大部队的一个小单位，这支部队的质量、纪律和前程离不开他们的领导。为了使大家认识到一位真正领导的任务艰巨，他说无论这个团体大小，它的失败只能归罪于领导的无能。他最后提醒大家：“记住，真正的伟大领导者能克服一切困难，战役和战斗没什么了不起，只是存在一系列需要去战胜的困难。缺少装备、食品，缺这缺那，都只是借口。领导者的真正胜利在于不管境况多么恶劣，他都能够战胜它。”