日本的高等教育体制离期望还有一定距离。不仅大学和研究生教育的质量参差不齐，而且日本大学也没能在诸如计算机软件和生物技术之类的重要领域内培养出足够的学生。1996年，日本生物相关专业的大学毕业生是1 875人，而美国是62 081人。1996年，日本的研究生数目是每1 000人中有1.3个，而美国在1994年就有7.7个，法国在1995年就有3.5个。同期日本研究生对本科生的比例是6.9%，而美国是16.4%，英国21.3%，法国17.7%。
专业人才的持久性短缺已经阻碍了很多重要产业的生产力增长，这在第二章中已经有所描述。眼前的例子就有律师行业。日本常被作为因诉讼比美国少而受益的例子，但是在复杂经济中，律师是不可缺少的。律师短缺正阻碍日本商业贸易的发展速度，而且精通技术领域的日本律师更是严重匮乏。
如果日本国民无法在各个学科领域获得深入的专业化技能，日本的生产力和创新力将不会获得提高。日本公司的培训项目很有益，但只涉及大公司所雇用的少部分员工。而且公司培训无法取代一流大学的教育。另外，公司培训倾向于制造通才，而现代知识经济需要更多的专才。即使是知名的日本公司，其培养人力资源的方法也需要变更。
高难度的入学考试使得日本最好的大学难进易出。很多学生将大学时光看作是四年假期，或者说是“偿债”。由于公司依赖的是自身的培训，而且在雇用时也不关心成绩，所以，学生们几乎没有什么学习的动力。如果日本公司更加强调将大学教育作为人力资源培养机制的一个部分，而且加强同大学的联系以确保大学输送所需技能的人才，这些公司将从中受益。
日本大学面临的问题来源于严格的管制和政府机构无微不至的管理。举例来说，像东京大学这样的知名大学绝大多数都是国立的，教授不许加入公司的董事会或是与公司合作。最近，学院派经济学家中的一位带头人辞去了其全职地位，因为国家人力资源管理局不允许他进入索尼公司的董事会；即使大渊首相进行了个人的干预，仍未改变这一决定。然而，大学和公司之间开展广泛联系应受到鼓励，而不是加以打击。
当然，部分问题也源于大学本身。它们已习惯于一个高度管制的体制，而且对学生压力极小。大学里大部分课程采用大课制；而在这些课的课堂上，学生通常忙于窃窃私语。因为几乎没有学生评估制度，教授们也不对课程内容进行反思。因此，日本大学一直改变缓慢并且拒绝设立新的系别和专业。日本需要一个将向大学教育提供基金同其效果评估联系起来的制度，同样必需的是，通过支持新学校和扩建已有的成功学校而在大学间引入更大的竞争。
如前文所述，大学研究是国家基础研究体系的基石，是创新的基本。然而由于资金和参与研究机构有限，日本大学在很多重要领域内缺少好的研究项目。他们集中于应用研究而非基础科学研究。由于教员的提拔依据的是资历和相关背景，所以在新领域内进行创新研究的动力非常微小。本世纪，日本在科学领域内获得5次诺贝尔奖，而美国获得180次，德国60次，丹麦和奥地利这样的小国家也各获得9次。
日本研究力量的核心主要在公司内部，其次是政府实验室。日本历史上，私人企业禁止向大学研究项目投资。直到1998年，教育省才废除了禁止学术机构接受企业基金的限令。
由于缺乏生气勃勃的大学体制，日本尽量通过干预和津贴来进行弥补。日本对单个公司授予R&D津贴的做法扭曲了市场，而且政府援助的企业R&D项目很麻烦并鼓励战略上的趋同性。正如我们在第二章中描述的，合作R&D不是最优选择，而且一直以来对日本的竞争力只能产生有限的影响。合作R&D的使用应当是有选择性的，而且限于远离商业化并且不威胁竞争的研究项目。项目的组织应便于参与者之间的知识交流。
1999年9月，日本教育省宣布了一项涉及99个国立大学和学院的彻底改革。教育省计划将这些学校重新划分为独立管理机构，以人为地实现10年内削减25%的中央政府雇员的目标。然而，独立管理地位不会给大学的运作带来更独立的自由。比如，教育省计划对大学校长进行指派，而目前大学校长是由内部选举产生的。涉及到大学项目调整的官方程序依然是死板的。