当时，唐廷御史大夫贺兰进明屯兵临淮，另一位挂御史大夫衔的许叔冀拥兵彭城，这两个人分属朝廷不同的帮派，各自心怀鬼胎，怕对方趁乱攻击自己，都坐看睢阳危急，不肯出兵相救。张巡派南霁云先去许叔冀处求兵，这位大夫只从城墙上扔下千多匹布给南霁云，气得这位将军在马上高骂，唤许叔冀下城一决死斗，“叔冀不敢应。”无奈，张巡又派南霁云带三十骑出城突围前往临淮求救。贼兵万余一拥而上前来阻挡，南霁云弯弓搭箭，左右驰射，无一虚发，贼众披靡，一行人趁机突出。
贺兰进明也是进士出身，但精神境界比起张巡简直是天上地下，怯懦不说，又忌妒张巡声威赫赫，恐怕自己助他成功守城后更显衬得自己渺微，根本没有任何出兵相救的意思。他反劝南霁云：“睢阳陷落是早晚的事，救也无益。”南将军乞求：“城池应该还没被攻陷，请您出兵，如果兵到时睢阳不存，我当以死相谢！”见南霁云勇武绝伦，贺兰进明也顿起惜才之意，想把这位姿容俊美的青年将军留在自己军中效力。为此，贺兰进明大摆宴席，盛设声乐，与临淮诸将频频举杯向南霁云敬酒。
丝竹艳声弥弥于耳，山珍海味盈盈于席，南将军悲不自胜，泫然涕下，说：“昨天我冲出睢阳的时候，将士们已经有一个月没有牙沾粒米，天天吃树皮、草根。现在大夫您不肯出兵相救，却在此广设声乐请我大吃大喝，我怎忍心自己享用这些东西呢。即使吃进嘴里，想想睢阳城里的兄弟，又怎能下咽进腹！如今，主将派我的任务我没有完成，霁云我留下一指以示信！”言毕，南霁云拔出佩刀，剁下一指。“一座大惊为出涕”。南霁云一口东西没吃，纵马离城。
出城之后，南霁云抽箭回射佛寺浮图，镞深入砖，恨恨而言：“等我破贼后，必灭贺兰进明，这只箭就表示我的决心！”
南霁云回睢阳路上，从真源和宁陵守将处各得马一百多匹，军士三千人，趁黑夜冒围而入。叛军惊起，众兵层围，南霁云率军且战且进，到城下时身边兵士剩下不到一千。当时大雾弥漫，张巡听见城外厮杀声起，叹息说：“这是南霁云回来了。”城门开启，南霁云与士兵又把刚刚夺取的贼军数百头牛赶进城中。守城将士见外面并无唐军救援大部队，知道待援无望，纷纷相持而泣。
贼军得知周围唐兵不救睢阳，攻城愈急。众将中有人主张弃城东奔以图将来，张巡、许远坚持不可，认为如果丢掉睢阳，江淮必被叛军一鼓而下。而且饥兵行远，半路就会被消灭干净。在最后的日子里，为了困守孤城，睢阳城内妇女老弱三万余人战死或将死之际都为守军吞泪而食。“人知将死，莫有畔者。”可谓是一城忠义，千秋难匹。张巡在他生前最后一首诗《守睢阳作》中，表述了他自己的心境：“接战春来苦，孤城日渐危。合围侔月晕，分守若鱼丽。屡厌黄尘起，时将白羽挥。裹疮犹出阵，饮血更登陴。忠信应难敌，坚贞谅不移。无人报天子，心计欲何施。”
至德二年（公元757年）十一月，贼兵又聚众猛攻，守城将士皆伤病不能再战，大多数人连站起来的力气都没有。张巡西向拜跪天子：“为臣力竭不支，生不能报答陛下，死当为厉鬼击贼！”士兵痛哭呜咽，不能仰视。城陷。
已成“独眼龙”的贼将尹子奇按捺住一腔的邪火，迎面看见昂头挺胸、被缚而来的张巡，阴阳怪气地问：“闻公督战，大呼辄眦裂血面，嚼齿皆碎，何至于此？”张巡答道：“吾欲气吞逆贼！”尹子奇大怒，用刀刃剔割张巡嘴唇，撬开之后，果然见将军嘴里只剩下三颗牙齿。张巡怒骂：“我为君父死节。你依附叛贼，猪狗不如！”尹子奇以刀刃抵张巡喉头要他投降，张巡大笑。
见张巡不屈，尹子奇又踱到南霁云面前说降。南霁云低头不吭声。张巡大呼道：“南八（南霁云大排行第八），男儿死则死耳，不可为不义屈！”南霁云笑答：“欲将有为也（意思是本来想假装投降趁机再找机会杀贼），公即有言，敢不致死！”摇头不降。
于是，张巡、南霁云、雷万春、姚訚等三十六将同时被杀。张巡时年四十九。太守许远被贼军俘送洛阳，大骂不屈，至偃师被杀。事后，人们因为许远未受惨刑而俘送洛阳一事议论纷纷，张巡的儿子张去疾成人后也追翻旧案，上诉朝廷说当时许远有贰心。直至元和年间，大儒韩愈才予以定论：“许远是睢阳太守，一般屠陷城池以生擒主将为功，所以许远稍后死节只不过是徇节先后的问题，不存在许远畏死而变节的事情。睢阳城被围时内有军民六万，城破后，仅存四百人。古来忠节惨烈者，莫若此城！
睢阳城陷三日后，代替贺兰进明的河南节度史张镐援军大至；十日后，广平王李俶（后来为唐代宗，改名李豫）收复东京洛阳。张镐知道张巡事迹后感动异常，上表朝廷请求赠谥。当时，朝中有好几个腐儒还对张巡守军在睢阳食人为粮一事大为抵毁，“与夫食人，宁若全人？”意即还不如或走或降，保全一城性命。朝廷犹疑之际，张翰、李纾等诸多当代名士纷纷抗表，极言张巡睢阳之守的显赫大功，认为他狙遏贼势，保全江淮，致使天下不亡，功劳莫匹。由此，天下再无异言。
陋儒矜以小节，贬善扬恶，倘若睢阳数万人得命（还不一定能活），江淮乃至天下百千万人会惨遭残暴的安史叛军杀戮，而且，牵制住几十万叛军攻围一城，唐廷有足够时间重新部署，反败为胜。因此，以此保全天下之奇功，瑕不掩瑜。若以迂腐俗儒用什么“人道主义”眼光看问题，只要有敌军压境，大家一起投降算了，俯首泥中称妇称臣作顺民以免死翘翘，如此，天理良心何在！忠孝节义何在！
皇帝下诏，赠张巡扬州大都督，许远荆州大都督，南霁云开府仪同三司、再赠扬州大都督，立庙祭祠，并重用这些忠臣的子孙。
自雍丘守战以来，不到两年时间，张巡等人率兵抵御叛军，大小四百余战，斩敌将三百，杀伤敌卒十余万。张巡进士为将，指挥若定，义薄云天，人皆尽死。正是依赖这些仁臣义士，唐朝才能亡而复存。时至今日，仍不禁感叹汉、唐时代中国人的勃勃血性，宁死不屈，宁互食而不投降，真是勇烈大丈夫，比至弱宋、晚明，数十万人解甲匍伏而降，仍难逃残戮。古人之义，渐已远矣！
“安史之乱”起，唐朝的华夷大将，文臣士人，争赴国难，忠心为主，颜真卿、袁履谦、程千里、段秀实、李嗣业、马燧、李抱玉、李抱真、路嗣恭、王思礼、鲁炅、王难得、辛云京、冯河清、白孝德、浑等等，或中华茂族，或出身行伍，或高丽铁勒，或突厥杂胡，智勇守节，心如铁石，忘身许国，构筑了中华民族信义忠勇的道德基石，千载之下，凛凛犹生！