1938年2月拉贝被西门子公司召回，4月抵达德国后立即四处公开演讲作展览放映马吉拍摄的纪录片揭露日军暴行，并写信给德国元首希特勒，提交关于南京大屠杀的报告，希望德国政府出面对日本施加压力。但此报告当时没有公开（一般认为，由于德日为盟国，为了维持同盟关系，故德国当局禁止他发表在南京的所见所闻）。之后，他甚至因此一度被盖世太保逮捕。他的关于南京大屠杀的照片和马吉拍摄的影像资料与此期间也被没收。
第二次世界大战结束后，拉贝因曾是纳粹党员而被先后苏联和英国逮捕。在面见了苏联朱可夫元帅并证实他没有犯错之后，他在1946年六月被同盟国无罪释放，生活拮据。宋美龄很快就找到了拉贝一家的下落，希望拉贝能在东京审判中作为南京大屠杀的证人出席，但被拉贝婉言拒绝。
鉴于在南京时的功绩，他因而得到南京市民的捐助及国民政府每月金钱和粮食接济，全家得以度过战后物质匮乏的难关，包括苏联封锁西柏林的艰难日子。这种接济一直持续到中华民国政府撤离南京为止。1950年1月5日拉贝于西柏林中风逝世，日记资料由他的家人保存。
