1931年九一八事变爆发后，蒋介石于12月15日辞去国民政府主席兼行政院院长等实职，只担任国民党中央政治会议常务委员和国民党中央执行委员会常务委员，闲赋在老家——浙江奉化。面对日益复杂的国内国际形势，国民党内部，无论是老资格的胡汉民、汪精卫，还是新任国民政府主席林森、行政院院长孙科，都一筹莫展，束手无策。为解决危机，应对时局，他们或致电蒋介石，或亲自前往奉化，敦促蒋介石重返南京，主持大政。
在各方的敦促下，蒋介石于1932年1月21日偕夫人宋美龄回到南京，并表示“将一本良心道义上之责任，为公义私交而尽力，以赞助政府，共纾国难”。
蒋介石左右抗战方略
1932年1月28日晚上11点30分，蓄意制造事端、发动侵略战争的日本帝国主义，不顾中国当局已完全接受其无理要求的事实，分三路进攻闸北，遭到驻防上海的国民革命军第19路军奋起抵抗，一·二八事变（也称一·二八淞沪抗战）爆发了。
事变发生时，距离蒋介石重返南京，仅一个星期时间。
上海是蒋介石的发迹之地，也是近代中国最大的城市，是當时中国的经济、金融与商业中心，是国际社会关注的重要地区，而且与首都南京近在咫尺。事变爆发后，执政的国民党中央政府当即意识到：日军“攻上海即系对于首都加以直接危害与威胁”。与此同时，国民政府也明确意识到：日本在上海挑起战争，其侵略的范围并不只限于上海一隅，而是有进一步侵犯我国东南富庶地区的可能，其侵略的欲望已超出了国民政府容忍的最大限度。因此，国民政府表现出与九一八事变后截然不同的态度。
1月29日，当蒋介石得知日军进攻上海闸北的消息后，一方面为“昨日对上海日领事要求，我方已予承认，彼亦已满足，且表示傍晚撤兵，何乃至午夜又冲突也”感到不解；另一方面又明确意识到“倭寇必欲再侵略我东南乎？我亦唯有与之决一死战而已”；同时也对日后长期的抗日方略有所考虑——“决心迁移政府，与倭长期作战，将来结果不良，必归罪于余一人，然而两害相权，当取其轻，政府倘不迁移，则随时遭受威胁，将来必作城下之盟，此害之大，远非余一人获罪之可比。”除此之外，蒋介石还手定了“对日交涉原则”“京沪防御与政军部署”“与敌决战”等方面的应对策略，作为国民政府在此复杂、纷乱、重要关头的施政方针。
蒋介石所定的“对日交涉原则”是：一面预备交涉，一面积极抵抗。其交涉的程度，则规定：“交涉必须定一最后防线与最大限度，此限度至少要不妨碍行政与领土完整，即不损害九国公约之精神与不丧失国权也。如果超此限度，退让至不能忍受之防线时，即与之决战，虽至战败而亡，亦所不惜。必具此决心与精神，而后方可言交涉也。”
在“京沪防御与政军部署”中，蒋介石明确规定：“一、十九路军全力守上海；二、前警备军全力守南京；三、各部迁往河南人员之行动，归何部长（何应钦）规定；四、军事委员除何敬之、陈真如之外，其余定午后五时过江，由海军部备船；五、何部长留守南京，所有政府党政军留守机关人员，概归何部长指挥；六、宋副院长（宋子文）留驻京沪，所有上海行政人员归宋部长指挥。”
与此同时，蒋介石还分别致电各将领，将一·二八事变的真相告之，并表示其“与敌决战”的决心。在命何应钦、朱培德致蒋光鼐、蔡廷楷的慰问电中，有“我军此时固宜避免冲突。惟若日人恃强相欺，无理侵犯，应即不惜任何牺牲，竭力抵抗，以尽守土卫国之天责”的指示；在致湖北省政府主席何成浚、湖南省政府主席何键、江西省政府主席熊式辉的电文中，有“我军决与死战，其在汉、浔海军，必有军事行动，务望严密戒备自卫，万勿为其所屈”的部署。
可以看出，一·二八事变爆发时的蒋介石，虽是在野之身，但所有对日大政方针，都由他主宰和制定。这时的蒋介石，实际上已成了掌握国民政府和国民党中央大政方针的第一人，左右着整个局势的变化与发展。
其后，国民政府迁都洛阳，也是由蒋介石一手促成。
党政军要员纷纷北上
在蒋介石的主导和影响下，1932年1月29日下午4点，国民党中央执行委员会政治会议召开紧急会议，一方面决定成立“军事委员会”并通过其组织大纲，推选蒋介石、冯玉祥、阎锡山、张学良、李宗仁、陈铭枢为委员，汪精卫、朱培德、何应钦、陈绍宽、唐生智、陈调元为当然委员，并由蒋介石、冯玉祥、何应钦、朱培德、李宗仁任常务委员，全面负责筹划、指挥国防的有关事宜；一方面经过讨论，决定“实施昨日所确定外交方针之积极抵抗者，先迁移政府于洛阳，免受炮舰之威胁，与之决战，并为长期抗战之策”。
国民政府既已决定迁都洛阳，首都南京又将如何守卫呢？
1月30日上午，蒋介石命令何应钦以军政部部长的名义，委任谷正伦兼任南京警备司令，贺国光为副司令兼参谋长，指挥所有第87师、第88师以及军官学校附属部队，南京附近的航空、宪兵、警察、要塞等部队，并令当日成立，次日就职；命令军事委员会暂留南京，朱培德、林蔚负责办理一切，而指挥前线部队作战之大权，则交何应钦、朱培德共同负责，江苏省政府主席顾祝同也留在南京，协助办理。
安排好南京的守卫后，蒋介石认为“国府主席与行政院长，应先以居于安全之地”，于是商请林森、汪精卫等先行迁往洛阳。不过，无论是林森，或是汪精卫的妻子陈璧君，都面有难色，不愿先行。蒋介石“乃再以诚意与利害婉劝之，至午后一时，林汪始渡江而行”。
随后，蒋介石又请冯玉祥、朱培德、叶楚伧等北迁，并嘱托何应钦、陈铭枢、顾祝同等留守南京人员，要“各尽职责，努力奋勉，勿使所分配任务，少有疏懈”。在安排好这一切后，蒋介石夫妇于下午2点30分渡过长江，再乘车到达浦口，备车等待林森、汪精卫等。
当天晚上8点，载有国民政府主席林森、行政院院长汪精卫以及国民政府直属各机关及各部会官员张继、冯玉祥、李烈钧、李济琛、朱培德、叶楚伧等1000余人的专列，随着汽笛一声长鸣，缓缓驶离南京北岸的浦口车站，沿津浦铁路北上洛阳，从而开创了中国历史上少有的国家都城自南向北的迁徙。
