1945年8月10日，日本天皇通电接受波茨坦公告。15日中午，向日本全军全民发布了天皇的讲话。自此，日本正式承认战败。

　　可是日军却还在等待进一步的正式军令。8月16日19时07分，“中国派遣军”接到日本大本营发布的大陆命第1382号，命令日军停止“战斗行动”，但又规定“为了自卫可采取战斗行动”。当天21时，冈村宁次向所辖部队转达了上述命令。他当然明白，所谓“自卫战斗”只是过渡措施，不久就会下达停止使用一切武力并全部缴械的命令。而这是冈村宁次所不愿接受的。

　　于是，冈村宁次行动起来。首先，他要稳住中国军队。第二天即8月17日10时，他发布公告：日军已经奉大本营命令转入停战，但有些中国军队仍对日军“不法攻击”。可是日军有自己的纪律，只能根据将来签订的协定“转移”。而且日军相信前述行动不是出于蒋介石的命令，请求蒋介石予以制止。如果中国军队还采取类似行动，日军将视为不服从蒋介石的命令而“断然予以自卫”。

　　对冈村的公告，国民党起初不以为意。但到了8月20-21日，国民党却获悉这警告其实也针对国民党军。日本人还要求美国加以调查干涉。国民党虽然表面上抗议日军“破坏中国军队名誉”，私下却害怕激怒日军。蒋介石还为此训斥了一些“不守纪律”的官长。8月23日，蒋介石致电何应钦：在冈村宁次没有正式签字前，不得迫使日军解除武装，也不得擅自向日方提出条件。

　　在此期间，冈村宁次又向日本政府争取作战授权。17-18日，他向天皇的特使表示，日军撤退时，最好能把武器保留到上船为止。8月20日，冈村宁次又致电大本营，请求不要规定“中国派遣军”停止使用武力的具体时间。于是在8月22日，日本大本营授权冈村可以在日本全军完全停止使用武力后，仍“实行自卫”。

　　8月27日，蒋介石派冷欣到南京与冈村宁次联络。冷欣提出要日军确保8个主要大城市安全，冈村一口答应，但也把他的要求摆在桌面：允许日军保留部分武器直到上船。为此还在9月2日提出书面要求。国民党怕激怒日本人惹起新的战事，逐渐倾向于接受冈村宁次的要求。

　　1945年9月9日，在南京举行了日军的投降仪式。第二天9月10日上午，何应钦与冈村宁次会谈。据国民党所做的会谈记录，何应钦表示在安全地带，日军没必要保留武器，但在“有自卫武器必要的地方，可以借给极少数之步枪”；可冈村宁次却强调，即使在安全地带，日军为了“维持良好纪律”也需要一些武器。

　　最后，何应钦几乎全盘接受冈村宁次的要求。9月中旬，何应钦发布了《陆军总司令部军字第九号命令》，规定日军每个步兵中队可以保留（以“暂借”名义）步枪10支，其他兵种每个中队保留步枪6支。每支步枪配备50发子弹。日本军官和下士官也可以暂时保有私人战刀。

　　那么，日军到底保留了多少武器呢？在河南，日军第110师团于1945年9月25日呈报了一份《武器及附件原始清册》给第1战区副司令长官裴昌会。其中就列有所谓“借用武器”（即日军留用武器）数目，包括38式步枪474支、三八式马枪111支、非日本产步枪5支、手枪1把、刺刀592把、非私人所有的制式战刀7把。

　　而在华东和华北很多地区，很多日军部队直到1946年春仍保持全副武装。举例说，山西大同的日军第4独立警备队，一共是8391人，9月11日象征性“缴械”，可留用的“自卫”武器却有：7265支步枪、159个掷弹筒、171挺轻机枪、11挺重机枪、22门迫击炮、5门山炮。完全是轻重武器都齐装满员状态。

　　根据国民党陆军总司令部的规定，日军的所谓“借用自卫枪弹应于各海港上船前收缴”。也就是说，直到日本人登船回国，才交出这些武器。