下定决心的阿骨打找来部落的元老和首领们，商谈正式起兵的计划。出于对辽朝长期以来的不满，他们几乎立即达成了一致意见，迅速开始行动。于是防御工事很快被建起，各个主要关口配置了防守的兵力，厉兵秣马，战争一触即发。 　　关于女真人的消息传到辽朝的统军司，他们很快派出了前来调查情况的使者。当使者责问女真人修葺城堡、打造武器的行为是否在准备造反时，阿骨打回答说女真人只是在增加自己居住地的防备，不会妨碍到任何人。但辽朝终于因这件事情产生了戒备心里，他们调动军队，增加边境重地宁江州的驻防。 　　于是阿骨打派人去察看军情。第一次派去的人回来称辽兵多得不计其数，但对辽朝军力的理智判断告诉阿骨打这是一个错误的信息。于是他派人继续打探，果然这次得到的消息是辽军只有八百人。阿骨打对这个消息很满意，他认为辽军仓促调兵，不可能在短期内结集大量兵力。但他没有因此松懈，而是提醒将领们辽朝已经开始着手防备，以后还会调集更多大军设防，并同时提出了只有先发制人，才能不为人所制的意见，得到了将领们的普遍赞同。 　　公元1114年，阿骨打正式起兵反辽。当年九月，他带领两千多人来到涞流水边，登上山顶，发表了一番慷慨激昂的演说。他先历数揭露辽朝欺压女真人、包庇阿疎的种种行为，又激励将士们奋勇杀敌，承诺只要立下军功，本是奴婢部曲的可以成为平民，是庶人的给予官职，不论出身，一切只看所立功劳的大小。这些激励将全军情绪调动到最高点，他们士气高涨地出发上路，准备向着第一个目标进攻了。 　　据说在这次行军的路上，士兵们两次看到烈火一样的光芒在他们的脚下和戈矛尖上闪动，他们认为这是上天降下的吉祥征兆，信心因此更加坚定。他们在宁江州以东与耶律谢十率领的渤海守军展开了一场激战，作为一个统帅，阿骨打比将士们显得更加勇敢，他身先士卒，脱下铠甲作战，惊人的箭术也在这场战斗中表现得淋漓尽致。他利用耶律谢十在战斗中摔落下马的机会，连续射死前去救助的辽朝士兵和耶律谢十本人，并不失时机地对将士们高声喊话，激励起他们的勇气，终于杀得敌人相互践踏，死伤大半，这就是女真建国路上的第一个胜仗，富有重要意义的宁江州之战。