守卫南京的主力是刚从上海前线撤退下来的蒋介石的最精锐部队三十六师、八十七师和八十八师，以及由军事学院学生组成的教导总队（1万2千余人）。三十六师、八十七师和八十八师在上海战役中人员损失都已过半，士兵的大多数都是临时补充的新兵。由于中国没有预备役的征兵制度，这些新兵都是从农村临时召集或强行抓来的壮丁。这些新兵完全没有受过基础的军事训练，使三个主力师的战斗力大打折扣，只有教导总队有较强的战斗力。
    1937年11月20日，国民政府宣布迁都重庆。1937年12月1日以后，南京的政府机关已全部撤离南京，蒋介石也于12月7日飞离南京。在国民政府撤离前举行的中外记者招待会上，唐生智司令悲壮地发誓要和南京共存亡。南京的行政机构撤走后，将南京的行政责任委托给由德国人拉贝为首的十几个西方人组成的“国际委员会”。“国际委员会”在南京设立了一个保护一般平民难民的安全区。
    12月8日，日军占领了南京的所有外围阵地，形成了对南京的三面包围，南京守军的唯一退路只剩下北渡长江一条路。可是唐生智却摆出了“背水一战”的布阵，将长江上的渡船全部销毁，自己断绝了南京守军的退路。唐生智还把三十六师布置在面临长江渡口的挹江门，下令如果有人试图向城外逃跑就开枪击杀。
    12月9日，松井司令向南京城内空投了“投降劝告书”，要求中国军队在12月10日以前投降，但中国军队没有理会日军的“投降劝告书”，于是日军在12月10日对南京发动了总攻。
    南京的城墙高达20米，宽13米，一般的山炮无法击破。日军首先向地形上比较容易进攻的光华门发动攻击，但守卫光华门的是最有战斗力的教导总队。战斗十分惨烈，日军曾一度占领光华门，又被教导总队发动反攻夺回。坚守中华门和雨花台的八十八师抵抗也十分顽强，到12月12日为止的3天激战中，日军伤亡人数多达7200余人（死2600人，负伤4600人），仍没有能够突入南京城内。
    然而，在12月12日傍晚7点，唐生智却突然向各路守军发出撤退的命令，自己也背弃了与南京共存亡的誓言，于12月12日傍晚8点，乘坐为他保留的最后一条小汽艇北渡长江逃走。唐生智的带头出逃引起了南京守军的哗然，本来大家都准备战死到最后一个人，可是自己的司令却在最关键时刻首先背信逃走，还有谁愿意继续拼命抵抗？南京守军一下就发生总崩溃，完全失去了组织，官兵们开始各自设法逃命。
    由于南京三面被日军包围，唯一可以逃跑之路就是北渡长江。于是大量士兵在无人指挥的情况下蜂拥向挹江门，试图北渡长江而逃。但唐生智并没有解除他对守卫挹江门发出的三十六师的不准任何人出城逃跑的命令，所以三十六师开枪阻止试图出城逃跑的守军，于是中国军队双方发生了交火，最后城内的守军动用准备进行街巷战的坦克，击破挹江门出城，随后的大量逃兵和试图逃跑的难民也乘势冲出城外。但渡江的船只已全部销毁，很多人就抓一块木板、一条树枝试图游水渡过近2公里宽的长江。但12月份的江水十分寒冷，绝大部分试图渡江的人都冻死在江中。一些逃兵看见无法渡江，就再次返回城中。他们扔掉武器，脱掉军装，抢夺老百姓的服装穿在身上，逃入保护一般平民难民的“安全区”。
    12月13日一早，日军吃惊地发现曾顽强抵抗的中国军队忽然全部退走，日军轻易冲入南京城内。下午2点左右，日军的先头部队到达挹江门，发现挹江门外有成千上万的逃兵和难民挤杂在一起试图渡江，于是日军向逃兵和难民们开火，造成血染长江的大惨案。由于南京城内四处都是中国士兵脱扔的军装和武器，日军认定有大量的中国军人化装成平民潜入“安全区”。由于在上海战役中日军多次遭到平民和学生组成的“便衣队“的袭击，所以日军开始对“安全区”进行大搜捕，抓捕“便衣队”。一旦抓捕到隐藏在“安全区”内的逃兵则就地处死，一些无辜的平民也因此被杀。此外，日军还以缺乏粮食为由，枪害了很多投降的中国士兵。
    日军12月13日进城后的2周内，日军士兵在南京进行了大量的杀人、强奸和抢劫，这就是“南京大屠杀”。据中国政府估计有30万人被害，但多数日本人认为30万人是一个过于夸大的数字。