1921年10月8日，孙中山正式向非常国会提出北伐议案，并得到通过。12月4日，孙中山抵达桂林，设立北伐大本营。同时致电蒋介石，速来桂林，参加北伐。此时，蒋介石已经将母亲灵柩安葬妥帖，无甚牵挂，而且目前革命形势非常高涨，似乎看见了胜利的曙光。更何况北伐之战正是发挥他军事才能的大好机会。于是，蒋介石安排好家事后，于12月12日南下广州，1922年1月18日到达桂林，向孙中山报到。
蒋介石与戴季陶陪同徐树铮至桂林北伐军大本营，蒋仍任第二军参谋长。在与许崇智、李烈钧、胡汉民商讨北伐作战计划时，主张以进攻湖北为目的，其他人主张以江西为目的，最后决定湖北为第一目的，江西为第二目的。
当时接受孙中山北伐大本营统辖的军队有：粤军第二军许崇智部、福军李福林部、滇军朱培德部、赣军彭程万部、黔军谷正伦部，共有13个旅3万人。陈炯明所统率的粤军第一军，邓铿从第一师抽调三个营组成大本营警卫团外，皆不准再派兵参加北伐。
陈炯明身任广州中华民国政府的内务、陆军总长，又任粤军总司令兼广东省省长，控制着军、政、财等大权。他暗中与吴佩孚等北洋军阀相勾结，蓄意阻挠和破坏北伐。他一边串通湖南的赵恒惕阻挡北伐军入湘作战，一面断绝北伐军饷械供给。5月21日，陈的部属还收买歹徒刺杀了支持北伐的粤军参谋长兼第一师师长邓铿。至此，北伐军处在被前后夹击、左右为难的危险境地。
蒋介石见此情形，知道此次北伐已是凶多吉少，危在旦夕，遂写信请廖仲恺发电调其回粤，在后方办兵站，廖仲恺复信答曰：“要弟电兄归粤，此则虽以刀锯加颈亦不肯为。弟自得兄西行已不啻如灭之福，岂得于此破坏大局之举，以重罪戾。”看似指责，实有褒奖鼓励之意。
3月26日，因情况突变，孙中山在桂林主持召开紧急军事会议，蒋介石主张先回粤，后北伐，遂决议潜师回粤，但此时直奉战争爆发，为顾全大局，经多数人赞成改道北伐。4月16日，孙中山偕北伐军主力由桂林抵达梧州，电召陈炯明前来会晤，但陈异志日露，心虚胆寒，不敢亲赴梧州，仅电请梧州的廖仲恺先探询孙中山意见，并以辞职要挟，廖复电告以孙中山回粤系添调军队图赣无他希图。孙以陈无诚意，即下令免去陈炯明的省长兼粤军总司令职。命令尚未发表，廖仲恺恐关系破裂酿成事端，影响北伐全局，于是匆匆返省力图转圜，劝陈往梧州向孙中山当面解释一切。
陈当时态度犹豫，曾一度准备前往，但陈的左右从安全考虑，力劝不去。蒋介石受孙中山之命到广州会晤陈炯明，但陈炯明已于21日晚离广州，与粤军总部人员退据惠州，陈兵布阵。
22日，蒋介石在三水见孙中山时，认为陈炯明意图谋叛，逆迹已彰，向孙中山建议“先清内患，再图中原”。但孙中山对陈炯明的“忠诚”仍保留些许期待，其实孙中山自己也犹豫不决，徘徊不止，加之部队内部对于这个建议意见纷呈，一时之间，蒋介石的意见没有被及时采纳，又见陈炯明占据粤东自立必有事端，乃借辞于4月23日再次擅离广州。孙中山挽留说：“此时你若走，则就与汝为机能全失，人无灵魂，躯壳何用?”但蒋介石依然拂袖而去。
1922年5月，孙中山誓师北伐。北伐军由粤、滇、赣、湘军组成，共4万多人，在李烈钧、许崇智的指挥下，进攻北洋军。北伐军初战告捷，迅速占领赣州城，一路杀来，直逼南昌，形势十分喜人。但“祸患生于肘腋，干戈起于肺腑”，陈炯明见北伐军挥师北上，后方空虚，乃乘机造反，将部分粤军自广西调回广州。
孙中山为稳定局势，很想以三寸之舌说服陈炯明，便只身返回广州，当时孙中山把服从自己的军队全部调往江西境内作战，留在广州的直属部队仅有警卫团约500名，而陈炯明控制的军队达25000人。并且，又没有人能够统一指挥这500人的队伍，一旦有战事，很容易被冲为一盘散沙，毫无作用可言。
孙中山就于6月2日急电蒋介石：“粤局危急，军事无人负责，无论如何请兄即来助我，千钧一发，有船即来。”真是千钧一发之际。
但是，一切都迟了。6月16日凌晨，陈炯明军队在叶举指挥下，发动兵变，洪兆麟、杨坤如等率4000多人进攻广州城北观音山麓的非常大总统府，孙中山在秘书林自勉等人的掩护下，冒着枪林弹雨，突出重围，登上停泊在珠江上的宝壁舰，次日转登永丰舰。
孙中山在逃亡过程中，一边率七艘军舰组成的舰队炮击叛军，一边给蒋介石加急电报：事紧急，盼速来。
孙中山虽然从虎口逃出，只是留得身家性命，并没有从包围圈中解脱出去，四面楚歌，危在旦夕。虽然此时的孙中山手中有七艘军舰可以调用，那只能保证孙中山有藏身之处，形势依然危急万分。
这时，孙中山鉴于形势所需，不得不改变整个北伐方案，电令李烈钧迅速归师回粤，讨平叛迹。但是李远在天边，一时无法解燃眉之急。孙中山不得不在永丰舰上与叛军做斗争，只等援军到达。
孙中山盼来的是蒋介石。
蒋介石接到孙中山18日加急电报后，才知事情的严重性，遂于25日离沪赴粤，一路上披星戴月、快马加鞭。29日抵黄埔，然后又马不停蹄直赴黄埔永丰舰晋见孙中山。孙中山见蒋介石危难之中不远千里，不畏炮火，勇扑虎穴，助其脱险，感动无比。直到此时，孙才明白“患难见真情”的滋味。对于自己对蒋的误解，他表示无比的惭愧。此情此景，颇有点唐僧在三打白骨精后对孙悟空产生误会，将其驱回花果山后又被妖怪捉住，饱受牢笼之灾时，孙悟空又回到唐僧的身边，助其降妖除魔的味道。
从那时起，蒋介石在孙中山的心目中的地位重要起来，孙中山是将他视作“救星”的，只听孙中山说了一句：“蒋君一人来此足当两万援军。”其言语之分量，可想而知，随即委蒋以海上指挥全权。蒋介石表示在患难之中，随侍左右，安危共仗，生死相伴，孙中山更是感动得涕泪纵横。
蒋介石赴难登上永丰舰，使陈炯明感到格外惊讶，“面色发青”，说到“他在先生身边，必定出许多鬼主意”。看起来，陈炯明对蒋介石是颇有几分余悸的。
蒋介石确实并非浪得虚名，自他统兵应险以来，情势发生了逆转。针对陈炯明分化瓦解海军舰艇并以炮火威胁永丰舰的诡计，蒋协助孙中山率舰队移泊黄埔附近的新道河面，并决定率舰进驻白鹅潭。
7月10日，永丰、楚豫、豫章等舰攻击东歪炮台，冲过敌军炮火封锁，如期到达白鹅潭。蒋介石一路上陪同孙中山站立在舵楼中，当永丰舰遭受炮击受损后，蒋介石劝孙中山返回舱内，自己指挥战舰继续前进。****企图用施放水雷的办法谋杀孙中山，也未能得逞。北伐军受到****和直系军阀的前后夹击，遭受重大损失，此路援军不得进展。两个月的反击叛军斗争由于孤立无援，指挥欠妥，难以有所突破。
韶关未复，赣南复失，南雄不保，一师降敌，前方军队已失重心，战局无法挽救，孙中山留粤维持人心和军心，亦未有效，再呆下去，凶多吉少，因而蒋介石规劝孙中山即离广州，暂作躲避，调养休整后再作打算。
9日，蒋介石随孙中山由白鹅潭乘英舰去港，10日，换乘俄船返沪。
蒋介石陪同孙中山从广东回到上海，在孙寓协助工作一周后，到宁波游览普陀山、天福庵南天门等处名胜。闲暇之时，游山玩水，观光旅行是蒋介石的一大爱好，奇怪的是他的四处观光，周游景致，往往都发生在政治斗争最激烈的时刻，可能蒋介石的游玩有更多的含义：除了放松节奏、舒畅心情之外，就是韬光养晦，隔岸观火，以静制动。这样做，蒋介石往往能发现许多别人发现不了的问题，或许就是蒋介石的这点特别之处，决定了他与别人的结局不同。
永丰舰赴难之后，其实蒋介石也是心有余悸，久久不能从兵荒马乱的动荡中安静下来。很长时间内，蒋介石因为心情燥乱，理智混沌，不能对此次事件做出理性的思考和科学的总结。在宁波逍遥一些时日后，心境恢复，开始回忆那激流勇进，身先士卒，不畏艰苦的千里一跃，遂提笔作《孙大总统广州蒙难记》，后又游览太湖，兴趣大作，再题《孙大总统广州蒙难记》之跋。完后交予孙中山，孙中山为此记撰序曰：“陈逆之变，介石赴难来粤，入舰日侍余侧，而筹策多中，乐与余及海军将士共生死，兹纪殆为实录，亦直其带荦荦大省，其洋乃未遽实仆数，余非有取于其溢诃，仅冀掬诚与国人相见而已。”对蒋在此劫难的功劳给以再度褒扬。
其实这本完整的《蒙难记》对蒋介石来说其全部意义在于孙中山的序言上，蒋介石作此文的动机包括有促使孙中山对自己的表现做出肯定和永久性纪念，文在功在，功在人在。而对孙中山来说，其意义在于又发现了一个信得过、提得起的心腹将领。
永丰舰赴难后，孙中山完全信任了蒋介石，不遗余力地满足蒋介石的政治需求。永丰舰事件后，孙中山虽脱险离粤，但是广东局势仍然是陈炯明占有主动，操持着军政大权，叛军尚未消除，讨伐需要继续进行。但陈炯明背离孙中山实属叛逆行径，毕竟名不正言不顺，所以粤军大为分化。
拥护孙中山的北伐军，由许崇智率领，继续东进，于10月12日攻克福州，孙中山即于17日将北伐军改组为东路讨贼军，以许崇智为总司令，蒋介石任司令部参谋长，随军出征。东路军计划取道闽南，直捣陈的老巢。由滇、桂、粤联合与西路讨贼军先行东下讨贼，12月份东路军平定福建，指向广州。西路军控制梧州，也向广州进军。
在此次北伐出师前，蒋介石壮志满怀，决心痛击贼军，为民除害，伸张正义。他在日记上力表立志杀敌之决心，谓“此次讨逆杀贼，复仇雪耻之责，吾当以一身任之。招疑招忌，任劳任怨，以求达到目的而已。”
但是说归说，做归做，说做本是两码儿事，当蒋在东路讨贼军上一段时日后，对军队内部的勾心斗角，派系争斗，开始厌恶起来，并且越来越难以忍受，去意又起。
孙中山获悉后一阵惊愕，急忙回电，嘱托蒋介石无论如何困难必须完成任务，方可释肩，万勿轻去，以致偾事，如果有阻力可随时与他联系。另外，廖仲恺也即刻助蒋解决，然而这种空头许诺并不能给蒋介石减轻多少心理障碍，蒋遂登船往沪。
廖仲恺得知蒋介石又要远离职位，赶忙携孙中山长信追至马尾船上，阻止蒋回沪，并责问蒋介石，“孙中山将讨贼重任托付于你，你怎能如此志气不长，毫无进取之心呢!天下之事，十有八九不尽如人意，只有坚忍耐烦，劳怨不避，才能有所成就。只因为10日无有进步而半途而废，志向坠落，则任何事都不会有所成绩。”接着说：“只有将陈炯明消灭之后，事业才算是有所成效，人生才是一个段落，如果不这样做，百事无成也。”态度诚恳之致，但无济于事，蒋介石只能向廖仲恺深表歉意，转身登船而去。
到上海之后，见到孙中山，他也知道事情做得有点不太合体，就主动承认错误，为表歉意保证说：“任何工作都不敢违命，惟望准我不再回闽。”孙中山也顺水推舟，不加厉词，只是语重心长地奉劝几句，要“坚忍耐烦，劳怨不避”等诸如此类的话语。
1923年1月16日，陈炯明在东西两路讨贼军的联合攻击下，被迫放弃广州，逃往惠州。孙中山回广州续行大元帅职，正式成立大本营，随即任命蒋介石为大本营参谋长，蒋因治眼病不能前往广州，乃辞未就任。时值沈鸿英叛乱，孙致电于蒋：“已发表参谋长，军事枢机不可一日无人。”蒋奉孙急电，返抵广州。
此后几个月内，蒋介石始终伴随孙中山左右，参佐军务，要么与孙中山同室谋划，要么陪同孙中山赶赴前线，慰问将士，抑或是替代孙中山，与众将领共谋起兵大计，无论是在军事前线和战略后方，都能够看到蒋介石的身影。
在辅佐孙中山统领全军过程中，蒋介石出了不少行之有效的“好点子”。譬如：5月20日，讨贼军对陈炯明根据地——惠州发动攻击，但陈部出奇地迂回作战，将讨贼军包围起来，形势极为不妙，蒋介石献计，请孙中山亲督前线督战，以挽战局。并随同孙出发，形影不离，因此在攻克惠州之前的6月16日，孙特任蒋介石为大元帅行营参谋长。
蒋新官上任三把火，蒋分别致函许崇智、刘震寰等各路将领，提出自己的看法和主张，应该首先向哪里进攻，怎样组织进攻等，但很快蒋发现自己的智慧大多被冷置下来，他才重新清醒起来。感到自己不是土生土长的实力派人物，没有掌握可以自成体系的私家军队，虽跻身讨贼军领导阶层，但是底气不足，头重脚轻，根基不牢。要想立于不败之地，必须有一支绝对服从自己的忠诚武装，老是寄人篱下，终究是难入主流、难秉实权。这原本是蒋介石在往返徜徉生活中悟出的真理。