1940年5月，日军为了控制长江交通、切断通往重庆运输线，集结30万大军发动枣宜会战。当时中国军队的第33集团军只有张自忠两个团驻守襄河西岸。张自忠作为集团军总司令，本来可以不必亲自率领部队出击作战，但他不顾部下的再三劝阻，坚持由副总司令留守，5月6日晚致书副总司令兼77军军长冯治安一函：

　　“仰之吾弟如晤：因为战区全面战争之关系，及本身之责任，均须过河与敌一拼，现已决定于今晚往襄河东岸进发，到河东后，如能与38师，179师取得联络，即率两部与马师不顾一切，向北进之敌死拼。若与179师，38师取不上联络，即带马师之三个团，奔着我们最终之目标(死)往北迈进。无论作好作坏，一定求良心得到安慰，以后公私均得请我弟负责。由现在起，以后或暂别，永离，不得而知，专此布达。”他自己亲自率领2000多人渡河作战。

　　5月1日，张自忠亲笔昭告各部队、各将领：“国家到了如此地步，除我等为其死，毫无其他办法。更相信，只要我等能本此决心，我们国家及我五千年历史之民族，决不至亡于区区三岛倭奴之手。为国家民族死之决心，海不清，石不烂，决不半点改变。”张自忠率2000多人东渡襄河后，一路奋勇进攻，将日军第13师团拦腰斩断。日军随后以优势兵力对张自忠所部实施包围夹攻。张自忠毫不畏缩，指挥部队向人数比他们多出一倍半的敌人冲杀10多次。日军伤亡惨重。

　　5月7日拂晓，张自忠东渡襄河，率部北进。在日军集结重兵南下时，我方主力本应暂时规避，寻机集中力量分别围歼来犯之敌。但是，蒋介石被日方的假情报迷惑，错误判断形势，下令第五战区部队同时围歼南北两路日军。虽然张自忠在河东的部队只有五个师二万余人，兵力仅及对方一半，但军人以服从命令为天职，他立即根据自身情况调整部署。然而不幸的是，张自忠的电报密码被日军截获破译，他的军事部署已完全被敌方掌握。日军当即调集两个师团另加四个大队奔袭而来。14日，双方发生遭遇战。1938年，时任第三十三集团军总司令的张自忠15日，张自忠率领的1500余人被近6000名日寇包围在南瓜店以北的沟沿里村。当日上午，日军发动进攻。敌我力量极其悬殊，战斗异常惨烈。至下午三时，张自忠身边士兵已大部阵亡，他本人也被炮弹炸伤右腿。此时，他已撤至杏仁山，与剩下的十几名卫士奋勇抵抗，竟将蜂拥而至的日军阻于山下达两个多小时。激战到16日佛晓，张自忠部被迫退入南瓜店十里长山。日军在飞机大炮的掩护下，向中国军队的阵地发起猛攻。一昼夜发动9次冲锋。张自忠所部伤亡人员急剧上升，战况空前激烈。

　　5月16日一天之内，张自忠自晨至午，一直疾呼督战，午时他左臂中弹仍坚持指挥作战。到下午2时，张自忠手下只剩下数百官兵，他将自己的卫队悉数调去前方增援，身边只剩下高级参谋张敬和副官马孝堂等8人。

　　不久，大群日兵已冲到面前。根据日方资料，日军第四队一等兵藤冈是第一个冲到近前的。突然，从血泊中站起来一个身材高大的军官，他那威严的目光竟然使藤冈立即止步，惊愕地愣在那里。冲在后面的第三中队长堂野随即开枪，子弹打中了那军官的头部，但他仍然没有倒下！清醒过来的藤冈端起刺刀，拚尽全身力气猛然刺去，那军官的高大身躯终于轰然倒地。这时是1940年5月16日下午4时。

　　张自忠为国捐躯后，遗体当天晚上被日军13师团草草埋葬在陈家集(现湖北省襄阳县内)。18日，张自忠的遗体被找到，当医疗队人员用酒精擦洗遗体全身时，看到他全身共负重伤7处，最重的是一处洞穿胸部的炮弹伤。

　　张自忠战死后，日本人发现张将军遗体，审认无讹，一起膜拜，用上好棺木盛殓，并竖木牌。并全军向他行礼，甚至在他的遗体运回后方之时，日军收到消息便下令停止空军的空袭一日，避免伤到张自忠的忠骸。可见，张自忠将军在对日抗战所展现军人武德，连当时崇尚军国主义的日军都为之感动。

　　当天深夜，日军设在汉口的广播电台中断正常广播，插播了张自忠阵亡的消息，并称：“我皇军第三十九师团官兵在荒凉的战场上，对壮烈战死的绝代勇将，奉上了最虔诚的崇敬的默祷，并将遗骸庄重收殓入棺，拟用专机运送汉口。”

　　日军对张自忠将军表现了极大的崇敬，由军医用酒精仔细清洗遗体，并包扎好伤口，郑重装殓，放进赶制的棺材里。此棺被葬于一处山坡上，并立墓碑，上书：“支那大将张自忠之墓”。

　　事隔十六年之后，1956年冈村宁次在日本东京与来访的何应钦曾谈到了张自忠之死，冈村宁次说：“我们成了冤家对头，不过这种冤家对头其妙无比。您也许知道，我以前在北平认识了张自忠司令官，而在进攻汉口之后，不幸得很，我们在汉水(即襄河)东岸之战两相对峙下来。那个时候战事爆发，张先生勇往直前，挥兵渡河，进入我方阵地，惟遇我方因战略关系向前进击，他竟冲至我军后面战死。他之死令我感慨无量，因我本身也随时有阵亡的危险。”