七.七事變的槍聲打破了拉貝寧靜的生活。1937年8月，日軍開始對南京狂轟濫炸。拉貝正在北戴河休假，他星夜兼程趕了回來。他在院子裏修築了壹個防空洞，提供給家裏的傭人和附近的居民使用。11月，他和壹些西方人設立了壹個安全區，希望在南京淪陷的最危險時刻，為難民提供壹個躲避的場所。他被推為安全區的主席，拉貝明白自己肩負的擔子有多重。他說：“由我出任主席，我不應再有絲毫的猶豫。我壹生中最美好的青年時代都在這個國家愉快渡過，我的兒孫都出生在這裏，我的事業在這裏獲得了成功，我始終得到了中國人的厚待。”
拉貝家避難者名單，有簽名手印 安全區內設有25個難民收容所，聚集了近30萬難民。拉貝作為非常時期的“執行市長”，面對的困難象千萬座大山。他利用自己的納粹身份，與日軍鬥智鬥勇，與日本領事館反復交涉、抗議，阻止日軍的恣意侵犯和屠殺；他把他租住的院子，設為“西門子”難民收容所，收留了600多個附近的居民，丁永慶、宗有琴、李世珍，當年都在這裏得到過拉貝的保護；他在這裏寫下了著名的《拉貝日記》，記錄了日軍暴行的500多個慘案；他帶領他的委員們尋求國際援助，募集資金，購買糧食和藥品，特別是歷盡艱辛，從上海搞來了能預防腳氣漫延的蠶豆。難民們對他頂禮膜拜，稱他為活菩薩。為表達對拉貝的敬意，麥卡勒姆牧師專門譜寫了壹首《南京難民合唱曲》，歌詞幽默中隱匿著辛酸：我們要蠶豆做早飯，我們要蠶豆做午飯……
1938年2月，拉貝應西門子總部要求，返回德國。他把躲在他家養傷的中國飛行員王光漢，扮作他的傭人安全地帶到了上海，又護送到香港。拉貝回到德國後，他在柏林馬不停蹄作了五場報告，義憤填膺地揭露日軍在南京的暴行。他播放了南京紅十字會主席約翰.馬吉牧師拍攝的日軍暴行影片。他還給阿道夫·希特勒本人和赫爾曼·戈林寄了壹份暴行報告，期望德國趕快出面阻止盟友日本仍在繼續的非人道暴行。為此，他受到蓋世太保的迫害。二次大戰結束後，拉貝因為他的納粹身份又受到不公正待遇。在他最消沈的日子裏，在他瀕臨餓斃的絕境中，南京的老鄉沒有拋棄他！來自南京的募捐，食品包裹仿佛從天而降，使他重新燃起了生活的勇氣。晚年的拉貝，對南京的思鄉之苦魂牽夢縈。1950年，拉貝在柏林患中風去世。
第二次世界大戰結束後，拉貝因曾是納粹黨員而被先後蘇聯和英國逮捕。在面見了朱可夫元帥並證實他沒有犯錯之後，他在1946年六月被同盟國去納粹化和釋放，生活拮據。宋美齡很快就找到了拉貝壹家的下落，希望拉貝能在東京審判中作為南京大屠殺的證人出席，但被拉貝婉言拒絕。鑒於在南京時的功績，他因而得到南京市民的捐助及國民政府每月金錢和糧食接濟，全家得以度過戰後物質匱乏的難關，包括蘇聯封鎖西柏林的艱難日子。這種接濟壹直持續到國民政府撤離南京為止。1950年1月5日拉貝於西柏林中風逝世，日記資料由他的家人保存。1996年年底拉貝日記重見天日後，拉貝才重新為世人所知。1997年他的墓碑由柏林搬到南京大屠殺遇難同胞紀念館保存。
拉貝是壹百多年中德關系史當中最重要的人物之壹。2006年10月31日，德國駐上海總領事Dr.Roehr（中文名“芮悟峰”）在南京拉貝故居落成儀式上的講話中說，“還有誰能比他更好地代表德中兩國之間的友誼呢？”
在拉貝的墓碑上，刻畫了壹個具有中國傳統文化內涵的八卦圖；而遠在美國的壹個墓園裏，壹塊墓碑上也鐫刻了中式建築的圖案和“金陵永生”幾個大字，這裏埋葬著當年金陵女子大學的魏特琳女士。這位拯救了無數中國婦孺的美國人，在她生命的最後時刻說道：“如有來生，還將為中國服務。”
拉貝有個中文名叫“艾拉培”，南京人民寫給他的感謝信中，對他就是使用了這個稱呼