李渊不但重视武将，而且也重视文臣。他开科取士。其中孙伏伽是唐代第一科状元，很受李渊的重视。孙伏伽曾于武德初年上书，坦言三事：一是“开言路”；二是废“百戏散乐”；三是请“为皇太子及诸王慎选僚友”，这三项建议非常中肯。李渊看后大喜，任命他为治书侍御史，并赐帛三百匹作为奖励。不久，孙伏伽又在灭王世充、窦建德后，建议李渊取消追究王、窦余党的命令，又为平定边防、减税赋等事频频上表献策，又请设“谏官”一职，李渊都虚心采纳了。可见李渊在纳谏方面也是可圈可点的。
李渊曾经总结过自己的用人经验，他说：“隋末无道，上下互相蒙蔽，皇上骄横，臣下谄媚奸佞之徒不断，皇上不知道改正自己的错误，臣子不为国尽忠，最终使国家危难，自己也死在佞臣之手。朕拨乱反正，志在安邦定国，平定乱世要用武将，守成治国要靠文臣，使他们各尽其才，国家才能安枕无忧。”
《旧唐书》称赞唐高祖善于决策，使用了大量人才，也指出了一些过失，并认为这些过失很大。书中说他“诛文静则议法不从，酬裴寂则曲恩太过”。文中这句话实际上说的是唐高祖斩杀刘文静的事情。刘文静是他起兵时候的老臣，开国元勋，他自以为才能远过于另一个开国元勋裴寂，又屡有军功，但是因为裴寂是李渊故旧，所以位在其上，这让刘文静很不服气。每论政事，刘文静对裴寂多有驳难，甚至有一次和自己的弟弟散骑常侍刘文起喝酒时，拔刀击柱说：“当斩寂！”结果被告发。李渊遣裴寂、萧审讯，刘文静答道：“昔在大将军府时，我和裴寂是一样的官职。现在裴寂已是仆射了，居甲第，而臣却官位低于他，家境也一般，怎能没有怨言呢？”李渊说：“文静此言，明摆着是要造反。”秦王李世民试图营救刘文静，结果更被李渊忌恨。裴寂趁机说道：“文静多权诡，而性猜险，忿不顾难，丑言怪节已暴验，今天下未靖，恐为后忧。”李渊遂杀刘文静。临刑的时候，刘文静拍着胸脯慨叹道：“高鸟尽，良弓藏，果不妄。”
当然有人说李渊这么做有自己的考虑，有人说他是在警告李世民，也有人说是怕刘文静泄露他当年屈节于突厥的事情。但是不管怎么说，对待功臣如此，确实是他用人中的一个污点，史书记载昭昭，不容回避。