守衛南京的主力是剛從上海前線撤退下來的蔣介石的最精銳部隊三十六師、八十七師和八十八師，以及由軍事學院學生組成的教導總隊（1萬2千餘人）。三十六師、八十七師和八十八師在上海戰役中人員損失都已過半，士兵的大多數都是臨時補充的新兵。由於中國沒有預備役的征兵製度，這些新兵都是從農村臨時召集或強行抓來的壯丁。這些新兵完全沒有受過基礎的軍事訓練，使三個主力師的戰鬥力大打折扣，隻有教導總隊有較強的戰鬥力。
    1937年11月20日，國民政府宣布遷都重慶。1937年12月1日以後，南京的政府機關已全部撤離南京，蔣介石也於12月7日飛離南京。在國民政府撤離前舉行的中外記者招待會上，唐生智司令悲壯地發誓要和南京共存亡。南京的行政機構撤走後，將南京的行政責任委托給由德國人拉貝為首的十幾個西方人組成的“國際委員會”。“國際委員會”在南京設立了一個保護一般平民難民的安全區。
    12月8日，日軍占領了南京的所有外圍陣地，形成了對南京的三麵包圍，南京守軍的唯一退路隻剩下北渡長江一條路。可是唐生智卻擺出了“背水一戰”的布陣，將長江上的渡船全部銷毀，自己斷絕了南京守軍的退路。唐生智還把三十六師布置在麵臨長江渡口的挹江門，下令如果有人試圖向城外逃跑就開槍擊殺。
    12月9日，鬆井司令向南京城內空投了“投降勸告書”，要求中國軍隊在12月10日以前投降，但中國軍隊沒有理會日軍的“投降勸告書”，於是日軍在12月10日對南京發動了總攻。
    南京的城牆高達20米，寬13米，一般的山炮無法擊破。日軍首先向地形上比較容易進攻的光華門發動攻擊，但守衛光華門的是最有戰鬥力的教導總隊。戰鬥十分慘烈，日軍曾一度占領光華門，又被教導總隊發動反攻奪回。堅守中華門和雨花台的八十八師抵抗也十分頑強，到12月12日為止的3天激戰中，日軍傷亡人數多達7200餘人（死2600人，負傷4600人），仍沒有能夠突入南京城內。
    然而，在12月12日傍晚7點，唐生智卻突然向各路守軍發出撤退的命令，自己也背棄了與南京共存亡的誓言，於12月12日傍晚8點，乘坐為他保留的最後一條小汽艇北渡長江逃走。唐生智的帶頭出逃引起了南京守軍的嘩然，本來大家都準備戰死到最後一個人，可是自己的司令卻在最關鍵時刻首先背信逃走，還有誰願意繼續拚命抵抗？南京守軍一下就發生總崩潰，完全失去了組織，官兵們開始各自設法逃命。
    由於南京三麵被日軍包圍，唯一可以逃跑之路就是北渡長江。於是大量士兵在無人指揮的情況下蜂擁向挹江門，試圖北渡長江而逃。但唐生智並沒有解除他對守衛挹江門發出的三十六師的不準任何人出城逃跑的命令，所以三十六師開槍阻止試圖出城逃跑的守軍，於是中國軍隊雙方發生了交火，最後城內的守軍動用準備進行街巷戰的坦克，擊破挹江門出城，隨後的大量逃兵和試圖逃跑的難民也乘勢衝出城外。但渡江的船隻已全部銷毀，很多人就抓一塊木板、一條樹枝試圖遊水渡過近2公裏寬的長江。但12月份的江水十分寒冷，絕大部分試圖渡江的人都凍死在江中。一些逃兵看見無法渡江，就再次返回城中。他們扔掉武器，脫掉軍裝，搶奪老百姓的服裝穿在身上，逃入保護一般平民難民的“安全區”。
    12月13日一早，日軍吃驚地發現曾頑強抵抗的中國軍隊忽然全部退走，日軍輕易衝入南京城內。下午2點左右，日軍的先頭部隊到達挹江門，發現挹江門外有成千上萬的逃兵和難民擠雜在一起試圖渡江，於是日軍向逃兵和難民們開火，造成血染長江的大慘案。由於南京城內四處都是中國士兵脫扔的軍裝和武器，日軍認定有大量的中國軍人化裝成平民潛入“安全區”。由於在上海戰役中日軍多次遭到平民和學生組成的“便衣隊“的襲擊，所以日軍開始對“安全區”進行大搜捕，抓捕“便衣隊”。一旦抓捕到隱藏在“安全區”內的逃兵則就地處死，一些無辜的平民也因此被殺。此外，日軍還以缺乏糧食為由，槍害了很多投降的中國士兵。
    日軍12月13日進城後的2周內，日軍士兵在南京進行了大量的殺人、強奸和搶劫，這就是“南京大屠殺”。據中國政府估計有30萬人被害，但多數日本人認為30萬人是一個過於誇大的數字。