这种情况传到了东京的中央部门以后，当时的参谋总长困院宫殿下于是发出了《关于整饬军纪的训示》（中略）。
虽被称为皇军，但这使皇军听后感到讨厌。由于出现这种情况，所以宪兵每占领一个地方，都要在那个城市、村落的人口处和重要地方向日本兵贴出告示，但其语调婉转，避免用露骨的文字和反而为敌人利用的写法，并写了几个大字：防火，防盗，爱护居民（《宪兵三十一年》，第一七六至一七七页）。正如前面所介绍的那样，马吉牧师在信中谈到十二月二十二日那天的情况。从他的那封信中可以知道，日本宪兵说自元旦起已恢复秩序。事实上，一月份以后，安全区的情况稍有缓和。那似乎与十二月底发出命令，禁止在安全区内出入有关。可是，事态的缓和只持续了很短时间。过不了多久，站在入口处的卫兵并不听从关于严格执行纪律的命令，五、六个不戴臂章的士兵又开始在区内徘徊，随之而来的是暴行事件续有发生（洞富华编前引资料集已第一七七页）。对一月份情况开始有所缓和问题，也有另外一种看法，贝获博士在一月十日写的一封信中说：”元旦以来，在难民挤得满满的安全区内，事态没有发展，相当缓和。这主要是由于日本军的主力部队已经出发了。根本见不到‘军纪恢复’的情况，就连宪兵也进行强奸和掠夺，玩忽职守。新的军队到来，或在作战上有变动，很可能会发生新的变化。日本方面没有明确的政策。允许外国的外交官回到市里（本周）之事颇费周折，
看起来，这也反映了要求安定的一种愿望。“（前引书２，第四十八页）宪兵在十二月二十二日说，一月份以后事态将会缓和，他们所以这样说，也许是因为上海派遣军的主力撤离南京估计是在二十三日，那些宪兵预料，如果上海派遣军的主力撤退后，日本兵的暴行也可能减少，这将在《在”欢庆南京胜利“期间》一节中谈到。这样的话，南京的情况稍有改善，即使是暂时的，也还是如同贝茨博士在一月十日所写那封信里说的那样，它与日本军的主力撤离南京有关。
二十三日以后，仅第十六师团留在南京，负责南京的警备任务，但事态有所缓和，时间很短。虽说是警备部队，但这个师团也决不能说是模范部队，这就是所以出现军队再度开始横行不法的原因。因为他们和过去的占领军一样，其中有很多劣质的军官和士兵。单以警备队司令官、师团长中岛今朝吾中将为例，据说他就是残暴的色情狂，是个性格反常的人。松井司令官将重大任务交给这位将军，其措施也有问题。关于中岛中将的问题，希参看第５节中《令人可怕的南京地区警备司令官》有关叙述。
正如马吉牧师在信中所提到的那样，宪兵依然是无能为力的，但外国使馆工作人员回到南京，这对难民来说是个好消息。由于得到日本方面的许可，一月六日和八日，美国代表和英国、德国代表各三人分别到达南京（前引书，第四十二至四十三页）。抓”残兵败卒“和市民遇难前面已经说过，在城外被集体屠杀的人们中间，不仅有被俘的军官、士兵和难民，而且还包括许多占领后在城内被抓去的残兵败卒和被误认为是残兵败卒的一般市民。
在南京陷落前的十二月十二日那天，城内的中国军队崩溃，残兵败卒变成了日本方面所说的”便衣兵“。南京被占领后，在南京逗留了三天的《纽约时报》记者德丁曾目睹中国兵的情况完全变了样，对此，有如下描述。
一九三七年十二月十八日的报道，只是作了简单的记述：记者在星期日（十二日）傍晚驱车在市区内兜了一圈，当时看到一个部队的全体人员脱下了军装，这种光景滑稽极了。许多士兵是在去下关的途中脱下军装的。有人走进小路里换上便衣。也有些士兵光着身子，然后穿上普通老百姓的衣服（前引书２，第二九○至二九一页）。翌年一月九日出版的报纸，有则更为详细的消息，内容是这样的：星期日傍晚，整个安全区都有中国军人，多数人开始脱下了军装。他们有的从过路人那里捡来了普通老百姓的便衣，有的请求把衣服让给他们。
尽管如此，在没有一个”普通老百姓“时，士兵们就脱下了军装，只穿一件衬衣。
武器也和军装一起被丢弃了，马路上堆满了手枪、手榴弹、刺刀、背包、军装、军靴和钢盔。在下关门附近，丢弃的军用品数量很多。从交通部门前到两条马路之间，像是丢弃垃圾的地方，堆积着卡车、炮、公共汽车、指挥官的专用车、运货马车、机枪和小型火器。在市区内，价值二百万美元的最好的建筑物深更半夜被焚烧，储藏在里面的弹药连续爆炸了很长时间，这种情景真令人可怕。
建筑物外面的垃圾山也着了火，一直烧到第二天很晚的时候。拉炮车的军马也被包围在火焰之中，军马的悲鸣声更使现场的情景凄惨万状。大火灾封锁了通向下关的主要马路中山路，小巷拥挤到了极点。
中国的军队好容易走到下关，他们无疑想乘上几艘帆船，从沿江马路出发，
渡过扬子江。但多数人由于恐慌而溺死在江里（前引书２，第二九○至二九一页）。日本军似乎认为，到占领南京后第三天，这些残兵败卒还有二万五千人。对此情况，东京朝日新闻社特派记者曾于十五日发出的电讯中报道过（见本书第七页），十五日前留在南京的记者德丁也报道说：”日本军自己公布，在扫荡南京的最初三天内逮捕了中国兵一万五千名。当时，日本军认为，在市区内还潜有二万五千名士兵。“（前引书２，第二九一至二九二页）这种所谓”便衣兵“，照字面看来就是游击队。由于游击队不适用于陆战法，所以也可以把他们交付审判后予以处决。然而，南京陷落后的所谓”便衣兵“，即便有他们的军籍，也已不能说他们是兵了。因为他们已经丧失斗志，丢掉武器，一面隐瞒自己的身份，一面混入国际委员会所管理的安全区内，要求保护。他们既无当游击队的思想，也无这种能力。所以，称他们为便衣兵并不确切。尽管如此，日本军把他们当作敌军逮捕起来，这在战争法规上是容许的。但他们即使被检举，也是俘虏，对俘虏是不能杀害的。可是，日本军不加审判，就把大半”便衣兵“视同一般俘虏进行屠杀。即使在陷落后的南京城内出现若干游击队活动的情况，那也不能把残兵败卒统统杀光。
在城内，游击队的活动相当厉害，也有一种倾向认为，这是所以发生大屠杀的原因之一。
例如，松平鹰史在其所着《乡土部队奋战史》中叙述说：”城内各处还潜藏着残兵败卒，治安极度混乱，日本军受到狙击……中国散兵换上了老百姓的衣服，扮成一般民众，偷袭日本兵。也可以说，这是引起大屠杀的潜在原因之一。日本军觉得随时随地都会飞来手榴弹和手枪子弹，因此感到极度紧张，于是一面随即进行着彻底的扫荡。在这扫荡中发生了屠杀，所以也可以说，这是具有战争杀伤力的宿命的悲剧。“（第四○○至四○一页）另外，曾参加南京攻陷战的日本兵冈本健山作证说：”游击队的活动在南京也很厉害。我们绝对不能单独行动。当时有掉队什么的，士兵们接连不断地遭到了杀害。他们不是被手枪打死的，而是被刺杀死的。暗杀好像天天发生。“（前引《参加杭州湾敌前登陆》中一士兵谈日华战争）《乡土部队奋战史》所反映的情况，似乎稍微有些过分。冈本所说的日本兵遭到等害，似乎是在”单独行动“时，那也许是在他们胆敢进行某些不法村为时，中国人所采取的正当防卫，或者是出于报复的结果。他所说的情况，似乎显然全都不是在屠杀事件发生时的情况。