正在这时，一个对李渊的事业有着重大影响的人出现了，他就是刘文静。这是个有雄才大略的人，时任晋阳令，后来因亲家李密造反而被捕入狱，他本来就与李渊有密切来往，李渊得知消息后派李世民前往牢内探望，并表示如有机会一定设法营救。刘文静感于李渊的知遇之恩，向李世民建议李渊尽早起事，最好能在其他义军与隋军纠缠时乘虚入关，挟天子以令诸侯，这样不到半年就可图成霸业。这个建议让李渊兴奋不已，同时也下定了反隋自立的决心。 　　但李渊毕竟和一般的农民起义军领袖不同，他和隋王朝有着千丝万缕的关系，要起兵也必须有个能够服众的说法。他在努力寻找一个最佳的借口，希望能让一切变得理所当然。 　　纵鹊毁巢唐史纪：太宗时，尝有白鹊构巢于寝殿之上，合欢如腰鼓，左右称贺。上曰：“我常笑隋帝好祥瑞，瑞在得贤，此何足贺。”命毁其巢，纵鹊于野外。 　　李渊在山西驻防，有个很重要的任务就是北抗突厥。往常他总能在突厥入侵中获取阶段性的胜利，但这次他派副留守高君雅和马邑太守王仁恭与敌人作战，却因为二人的战术不当，惨败而还。炀帝本来就对李渊不满，这下终于抓到了把柄，下令将李渊下狱，将王仁恭斩首。现在李渊终于觉得找到了时机，他在狱中告诉李世民让他尽快起兵，否则束手待毙，恐怕连全家性命都难保。 　　于是李世民尽快回家召集英雄，准备起事，同时也为父亲的命运感到担心。幸好炀帝觉得时局危险，如果杀了李渊，等到突厥打进中原时将找不到人来抵抗，到时恐怕隋朝会亡得更快，一番权衡利弊之后，竟然把李渊放了。李渊一家在庆幸之余，决定不再坐失良机，准备尽快行动。 　　这个时机终于来了。隋朝的鹰扬府校尉刘武周因为和太守王仁恭的侍女私通，害怕被发现，就以贪污之名杀死了王仁恭，进据汾阳宫，自称天子，国号定杨。这下他侵犯到了李渊在山西的势力，于公于私，李渊都不能姑息。李渊看出这是一个千载难逢的好机会，他一面派李世民、王威、高君雅率兵讨伐刘武周，一面以讨伐刘武周需用兵为名，派谋士刘文静、长孙顺德、刘弘基到处召集兵马粮草。由于早已打下了良好的根基，众英雄纷纷归附，很快聚齐了一万多亲兵，又暗中召回驻守在蒲州的建成、元吉两兄弟到晋阳，准备起事。 　　李渊的动作和意图被副留守高君雅和王威察觉到了。他们并不是李渊的亲党，担心李渊要谋反，想了个计谋，打算请李渊到晋祠祈雨，乘机将他杀死。李渊得知他们的计谋，于是先下手为强，给高、王二人找了个里通外国、引突厥袭边的罪名，将二人杀死，正式起兵。