1926年3月6日，艾伦·格林斯潘在纽约曼哈顿出生。父母都是犹太人。父亲赫布·格林斯潘是华尔街一个自学成才的金融家。母亲罗丝是个充满活力的女人，喜欢唱歌、跳舞，她的性格与那些新潮的爵士乐非常合拍。格林斯潘和母亲一样爱好音乐。
20世纪20年代，纽约已经成为世界的经济中心。当时，整个美国沉浸在一片乐观的气氛之中，繁荣的景象似乎永无止境，但在格林斯潘3岁的时候，幻象破灭了。1929年股市暴跌，整个国家经济失控。伴随经济大萧条的降临，格林斯潘无忧无虑的世界也终结了。正是在他3岁时，父母离婚了。母亲罗丝认为婚姻失败的原因是结婚太早，结婚时她才17岁。离婚后，罗丝回到了娘家，在曼哈顿找到一份推销家具的工作。格林斯潘跟随母亲，在缺少父爱的环境下渐渐长大。罗丝发现儿子有一种特别的天赋：格林斯潘能在脑子里演算复杂的数学题。罗丝喜欢在邻居面前夸奖儿子的聪明，而格林斯潘则把自己的天赋用在更加实际的事情上，比如说为他心爱的棒球队——道奇队计算安打率。像大多数同龄的孩子一样，格林斯潘很喜欢棒球，不同的是，他知道计算每名球员的击球率以及所有的统计数字。
在乔治·华盛顿中学，格林斯潘的数学成绩名列前茅。同时，他对音乐的热情也与日俱增，开始学习长笛和萨克斯管。母亲罗丝永远都支持他，她让儿子自由发展，而不像一般的犹太女人什么都管。
中学毕业后，格林斯潘进入朱利亚音乐学校，他想成为一名古典音乐家。在朱利亚音乐学校，格林斯潘如鱼得水。热爱巴洛克音乐的他又迷恋上了疯狂的爵士乐。1944年，他随同亨利·杰罗姆的摇滚乐队周游全国，每周的薪水是62美元。没有演出的时候，格林斯潘便阅读经济学的书籍。后来，他结束音乐生涯，去纽约大学攻读商业课程。大学期间，格林斯潘对政府在经济生活中所起的作用很感兴趣，经常和同学讨论的问题就是，怎样才能确保在没有通货膨胀又保持高就业率的前提下使经济蓬勃发展。他显然比其他人更懂经济。虽然学业出众，但格林斯潘在情场上却很失意。他容易害羞，约女孩子出去对他来说是一件难以启齿的事情。于是，他把更多的时间用在了刻苦钻研经济学上。以优异的成绩在纽约大学毕业后，格林斯潘又到哥伦比亚大学去攻读博士。他的导师是著名经济学家阿瑟·伯恩斯，后来成为他的智囊。
1952年，格林斯潘26岁了。经朋友介绍他认识了一位名叫琼·米切尔的年轻女画家，并很快和她恋爱了。20世纪50年代初的纽约，对知识分子来说是个很有吸引力的地方，在这里格林斯潘和琼一起交结了不少的画家、作家和音乐家。但不久他们就发现两人对未来生活的期望大相径庭，结果他们的婚姻仅仅维持了一年就结束了。在与琼的婚姻失败之后，格林斯潘通过朋友的介绍又认识了另一个女人。她名叫艾恩·兰德，是畅销书《源头》的作者，信奉一种个人主义和利己主义至上的经济哲学，其思想对格林斯潘以后的生活产生了重大的影响。格林斯潘是兰德举办的周末沙龙的常客，还写了一篇题为《资本主义，一个未知概念》的论文来阐述自己的观点，当时他认为一切政府行政干预都是对革新和竞争的扼杀。
格林斯潘在华尔街的职业生涯中实践了兰德的哲学。1953年，他和华尔街的债券商威廉·汤森合作组建了一家咨询公司，专为那些大公司提供服务，生意非常兴隆。到了20世纪60年代时，格林斯潘已经在华尔街为自己树立起了一个成功的经济分析家的形象，就连总统候选人也渴望得到他的点子。