一九三八年四月，徐州会战结束，日军攻占了徐州，不过他们没有实现歼灭中国军队主力的战略预想，中国军队主力则是退守武汉，且凭借武汉外围的崇山峻岭以及山河湖泊展开纵深防御，国民政府以武汉为临时大本营指挥全国的抗战。侵华日军为了将中国军队的抵抗意志彻底打垮，便集结了三十多万的兵力进攻武汉，于是，规模浩大的武汉会战便打响了。

　　按照日军的计划，日军以冈村宁次第11集团军为东路军，溯长江西进;以东久迩宫稔彦王第2集团军为北路军，沿大别山北麓进攻，兵分两路展开钳形攻势，计划于武汉会师。日军东路军于长江沿岸遇到了中国军队的顽强阻击，而且他们一整个师团差点被我军于万家岭地区歼灭，所以日本东路军的进展并没能使他们满意，于是便迫切地希望在北线战场能够打开突破口，好策应东路军的进攻。

　　一九三八年九月二日，北路日军第二军之第13师团，直逼大别山峡口的富金山，富金山战役正式打响。富金山处在固始南部史河南岸，当叶(家集)商(城)公路要冲，东连六安、合肥，西通潢川、信阳，山势险峻，战略位置十分重要，要是该地区被日军所占领，那么他们便能够长驱直入，直接把中国军队武汉外围防线给洞穿。

　　13军团属于日军的一个精锐师团，曾经在南京战役里面重创中国军队，更是南京大屠杀的元凶之一。对于日军的突然袭击，国民政府命宋希濂率领第71军前往防守阻击(第71军由第36师以及88师这两大德械师组成，在南京保卫战的时候便跟日军第13师团有过交手)，国民政府这样的布置，也能够看出富金山的重要性。宋希濂在抵达了富金山以后，便把指挥部安置在了山上的千年古刹妙高寺里面。

　　九月八日，日军在对富金山国军阵地展开了长时间的空袭以后，便开始对富金山国军阵地进行攻击，且还增调了第16师团增援13师团去攻打富金山。于是，在富金山的前线，出现了日军用两个师团打击国军一个军的局面，而且日军在火力方面还有兵力方面都占据了优势(敌我双方兵力的对比差不多的二比一)，所以日军非常有信心，准备要在两天时间里结束战斗。

　　当天，日本第10师团开始攻占固始县城，且派出了一个联队的兵力南下去攻打富金山以西的武庙集，严重威胁富金山阵地侧后。宋希濂马上就把预备队88师523团紧急调遣至日军南下必经之路的坳口塘设伏，歼灭了四百多日军，并迫使日军退回固始。就这样，日军的偷袭计划破灭了。

　　日军只得把自己的主攻方向改成了富金山国军的正面方向，集结了第13师团以及16师团的主力，全力猛攻国军正面阵地。面对日军的猛烈进攻，国军伤亡惨重。到了九月九日的时候，将可以开枪的轻伤员加上去，还能够战斗的兵力就只还有千余人。宋希濂亲赴阵地进行动员：“36师要永远站着，绝不能趴下，狠狠地打，弟兄们才能死而无憾。”最终，36师浴血奋战，坚定地守在富金山阵地，力保阵地不失，而担任主攻富金山任务的日军第13师团也是伤亡过半，只得撤出战场进行休整。

　　九月十一日凌晨，日军再次对富金山阵地展开了大规模进攻，他们从富金山跟石门口的战线结合部突破国军防线。在这般危急的情况下，第36师师长陈瑞河亲自带领所部所有可以参与战斗的战士对抗日军，国军官兵们奋勇拼杀，前赴后继，跟日军展开白刃战，战况十分惨烈。不过由于第36师已经进行了连日的血战，队伍减员很严重，在对上日军那如潮水般的进攻以后，还是杯水车薪。到了下午十六时，36师除控制着富金山主峰制高点外，其他阵地全部失守，36师自己也陷到了日军重围之中，日军则是想要将这支国军精锐给全歼了。为了将最后的德械师精华保住，宋希濂指挥部队从富金山右翼发起反击，吸引日军的主力，策应36师进行后撤。

　　富金山战役从九月二日日军进攻，到九月十一日国军撤出战场，打了整整十天。国军以一个军的兵力阻击日军的三个师团，在对上比自己多数倍的敌人的时候，国军战士浴血奋战，死战不退，给日军带去了重创，将中国军人的威风打了出来。日军那时候的随军记者记录着：“此役由于受到敌主力部队宋希濂军的顽强抵抗，伤亡甚大，战况毫无进展，我军遇到强手，束手无策，实为中国事变(七七事变)以来最苦的一战”。据统计，日军三个师团战死了四千多人，尸体皆“运叶家集焚化，臭闻十余里。”伤亡人数更是达到了万人以上。国军同样付出了十分惨重的代价，德械师第36师也从一万余人锐减到了八百人，可以说是伤亡殆尽，为德械师写下了最后的荣光。