在接下来的一段时间内，日军由于在察哈尔一战中惨败，损失惨重。华北日军受兵力所限，暂时无力在对察哈尔，绥远等地发动大规模的反攻，华北局势暂时平稳了下来。
趁着这个难得的机会，八路军加紧扩充兵力，进一步加强了对新收复的察哈尔等地的控制。而八路军第七纵队，也按照上级的指示，趁着这个机会，整编备战。
1940年5月，华中日军第11军，在司令官园部和一郎的指挥下，对我枣阳，宜昌等地发动大举进攻，枣宜会战爆发。
日军大举进攻我襄河防线，当时中国军队的第33集团军只有张自忠两个团驻守襄河西岸。张自忠作为集团军总司令，本来可以不必亲自率领部队出击作战，但他不顾部下的再三劝阻，坚持由副总司令留守，5月6日晚致书副总司令兼77军军长冯治安一函：
“仰之吾弟如晤：因为战区全面战争之关系，及本身之责任，均须过河与敌一拼，现已决定于今晚往襄河东岸进发，到河东后，如能与38师，179师取得联络，即率两部与马师不顾一切，向北进之敌死拼。若与179师，38师取不上联络，即带马师之三个团，奔着我们最终之目标往北迈进。无论作好作坏，一定求良心得到安慰，以后公私均得请我弟负责。由现在起，以后或暂别，永离，不得而知，专此布达。”
张自忠亲笔昭告各部队、各将领：“国家到了如此地步，除我等为其死，毫无其他办法。更相信，只要我等能本此决心，我们国家及我五千年历史之民族，决不至亡于区区三岛倭奴之手。为国家民族死之决心，海不清，石不烂，决不半点改变。”
张自忠率2000多人东渡襄河后，一路奋勇进攻，将日军第13师拦腰斩断。日军随后以优势兵力对张自忠所部实施包围夹攻。张自忠毫不畏缩，指挥部队向人数比他们多出一倍半的敌人冲杀10多次。日军伤亡惨重。
在日军集结重兵南下时，我方主力本应暂时规避，寻机集中力量分别围歼来犯之敌。但是，当时的中国统帅部被日方的假情报迷惑，错误判断形势，下令第五战区部队同时围歼南北两路日军。
虽然张自忠在河东的部队只有五个师二万余人，兵力仅及对方一半，但军人以服从命令为天职，他立即根据自身情况调整部署。然而不幸的是，张自忠的电报密码被日军截获破译，他的军事部署已完全被敌方掌握。日军当即调集两个师团另加四个大队奔袭而来。14日，双方发生遭遇战。
15日，张自忠率领的1500余人被近6000名日寇包围在南瓜店以北的沟沿里村。当日上午，日军发动进攻。敌我力量极其悬殊，战斗异常惨烈。至下午三时，张自忠身边士兵已大部阵亡，他本人也被炮弹炸伤右腿。此时，他已撤至杏仁山，与剩下的十几名卫士奋勇抵抗，竟将蜂拥而至的日军阻于山下达两个多小时。
激战到16日佛晓，张自忠被迫率部退入南瓜店十里长山。日军在飞机大炮的掩护下，向中国军队的阵地发起猛攻。一昼夜发动9次冲锋。张自忠所部伤亡人员急剧上升，战况空前激烈。
到下午2时，张自忠手下只剩下数百官兵，他将自己的卫队悉数调去前方增援，身边只剩下高级参谋张敬和副官马孝堂等8人。
不久，大群日兵已冲到面前。根据日方资料，日军第四队一等兵藤冈是第一个冲到近前的。突然，从血泊中站起来一个身材高大的军官，他那威严的目光竟然使藤冈立即止步，惊愕地愣在那里。冲在后面的第三中队长堂野随即开枪，子弹打中了那军官的头部，但他仍然没有倒下！清醒过来的藤冈端起刺刀，拚尽全身力气猛然刺去，那军官的高大身躯终于轰然倒地。这时是1940年5月16日下午4时。
张自忠战死后，日本人发现张将军遗体，审认无讹，一起膜拜，用上好木盛殓，并竖木牌。并全军向他行礼，甚至在他的遗体运回后方之时，日军收到消息便下令停止空军的空袭一日，避免伤到张自忠的忠骸。可见，张自忠将军在对日抗战所展现军人武德，连当时崇尚军国主义的日军都为之感动。
当天深夜，日军设在汉口的广播电台中断正常广播，插播了张自忠阵亡的消息，并称：“我皇军第三十九师团官兵在荒凉的战场上，对壮烈战死的绝代勇将，奉上了最虔诚的崇敬的默祷，并将遗骸庄重收殓入棺，拟用专机运送汉口。”
日军对张自忠将军表现了极大的崇敬，由军医用酒精仔细清洗遗体，并包扎好伤口，郑重装殓，放进赶制的棺材里。此棺被葬于一处山坡上，并立墓碑，上书：“支那大将张自忠之墓”。
老蒋惊闻张自忠殉国，立即下令第5战区不惜任何代价夺回张自忠遗骸。一百多名优秀将士，抢回张将军的尸骨，经检视，张自忠身有八处伤口，其中炮弹伤二处，刺刀伤一处，枪弹伤五处。当灵柩经过宜昌时，全市下半旗，民众前往吊祭者超过十万人。全城笼罩在悲壮肃穆的气氛中。敌机在上空盘旋吼叫，却无一人躲避，无一人逃散。
1940年5月28日晨，当灵柩运至重庆朝天门码头，蒋、冯等政府军政要员臂缀黑纱，肃立码头迎灵，并登轮绕棺致哀。蒋在船上“抚棺大恸”，令在场者无不动容。
蒋亲自扶灵执绋，再拾级而上，护送灵柩穿越重庆全城。国民政府发布国葬令，颁发“荣字第一号”荣哀状。将张自忠牌位入祀忠烈祠，并列首位。28日下午，蒋与军政要员和各界群众在储奇门为张自忠举行了盛大隆重的祭奠仪式。
张自忠将军英勇抗敌，忠贞不屈，是伟大的民族英雄，其忠义之志，壮烈之气，直可以为中国抗战军人之魂，英魂永存不朽。
张自忠虽死，但他活在中国人民心中，且将永远铭刻在中国人民心中，流芳百世……