谈迁近而立之年开始酝酿写《国榷》。他读过许多明代的编年史，总觉得因为社会历史背景或作者本身方面的局限等原因，明史书籍颇有失实，谬误较多，每“见其表”而不可“见其里”。谈迁本着对历史和未来负责的态度，立志另写一本符合史实的明史。但当时困难很多，特别是对崇祯、弘光两朝和清初没有实录参照，需要亲自调查核实，编撰成史。在这种条件下，秉笔直书史实就可能有杀头灭族的危险，但他全然不顾。明朝其余各代的实录纵然有，也难有刻行本行世，只有少数抄本藏与官僚之家。而这些家族又恰恰是降清的命官，从根本上说，他在思想感情上就厌恶其没有民族气节。但是为了自己的重要目标，他不得不背着行李，带着干粮，日行露宿，硬着头皮向人求情暂借。一年到头，他总是不辞劳苦地借书，还书，如饥似渴地抄书。同时，只要是书中“稍可涉笔者”，或者路人谈论中有价值的东西，他都及时地动笔记录好，保存起来。
为了保证自己掌握资料的真实性，谈迁还寻遍海盐、太仓、武进、嘉善、归安、钱塘、临苴等地的私家藏书，阅读了百多种明代先人的著述，边读边录边对照，斟酌比较出真实的史事。明末两朝没有记录，完全靠他收集整理《崇祯邸报》，而这些报纸又大部分藏于他最不愿去的官家。常常和借书一样，早晨出门，等到中午、晚上，吃闭门羹或扑空是常有的事。为了得见珍贵史料，他必须登门拜访那些了解明末史实的当代清朝有身份的官宦，向他们虚心求教，订正咨询。还要访问明朝公侯的门客、官宦、皇亲国戚及普通百姓人家。就这样，他日思夜梦地用6年时间才完成《国榷》初稿，以后增补订正，六易其稿，先后用去20年心血，才基本完善《国榷》一书。
令人遗憾的是，正当谈迁生活艰难、身体不佳、年龄已经54岁的困顿之际，《国榷》藏稿被盗！尽管他痛心不已，但他发愤重写，再度背井离乡，不避酷暑严寒，忍耐饥渴疲劳……他比年轻时更加忘我地借、抄、整理史料。谈迁再度呕心沥血，终于又写出《国榷》初稿。在花甲之年，他梦寐以求的北游京都的理想得以实现。这是他得以补充、订正《国榷》的良机。他不远千里来到北京，在京两年半的时间里，除去糊口的差使外，全部精力都投入到《国榷》的充实求证工作。他总是嘴不闲地访问在京的明朝遗老，脚不停地踏遍京郊的明陵、墓园、寺庙，手不住地记录明时古迹、残垣断碑。他终于在终生前一年时间里，修订完成了共500万字的巨著《国榷》。
谈迁“以泪和墨”，“汰十五朝之实录，正其是非”，还以其强烈的民族气节，写出了爱国史实，填补了满族发展历史及其与明朝关系的史料空白。为此，他先后花去30多年的宝贵时光。《国榷》记录了317年中国明朝的历史，也反映了谈迁求真、求实、秉笔直书的史德，体现了他顽强、坚毅、忘我、拼搏的精神。
【大视角】
正因其勤苦的习惯已成，所以才不辞艰难，不避险境，不计遗稿，所以才老而益壮，挫而弥坚，迫而愈勇。
