叶剑英随陈策在码头上迎接孙中山，接着护送孙中山乘小艇登上了停泊在江中的“宝璧”舰。这是一艘内河浅水军舰，武器装备较差，攻防能力较弱。孙中山于是转登“永翔”舰，后又改乘“永丰”舰。“永丰”舰，后来改称为“中山”舰，是中国近代海军史上一艘有名的炮舰。孙中山登上“永丰”舰后，命令舰队移驻黄埔，并召集海军司令温树德、海军陆战队司令陈策以及各舰长官开会，决定亲率海军各舰讨伐叛逆，炮击省城叛军，以示“正义之不屈，政府威信之犹在”。由于有人向叛军告密，叶举迅速调集多门大炮，布置在珠江两岸，准备阻击。孙中山得知这一情况，决定先发制人，率领“永丰”、“永翔”、“楚豫”、“豫章”、“同安”、“宝璧”、“广玉”等舰，立即向白鹅潭挺进。
叶剑英在“宝璧”舰上，同舰长李芳指挥“宝壁”舰炮手对准岸上叛军据点进行炮击。叛军则不断向舰队开枪开炮。“永丰”舰首先被炮弹击中。跟在后面的“宝壁”舰也中了炮弹，甲板起火。叶剑英和李芳坚定地立在甲板上，指挥士兵一面灭火，一面向叛军猛烈还击。
一连数日，孙中山率领舰队，与叛军顽强作战。一天，叶剑英看到一艘悬挂英国国旗的白色小艇驶近“永丰”舰，从艇上下来几个英国人，登扶梯上了“永丰”舰。叶剑英后来得知，这几个洋人竟以白鹅潭为通商港口和毗邻沙面租界为借口，向孙中山提出无理要求：舰队驶离白鹅潭，孙中山离粤，以平息事态。孙中山当即给予严词驳斥。但孙中山毕竟因兵力不足，难以控制广州。
陈炯明叛变后，在广州市区纵兵抢掠，激起了广州人民群众的极大义愤。叶剑英找到警卫团机关枪连连长张国森，并与旅粤的云南讲武学校华侨同学曾其清、曾俊伟等10余人多次到小马站曾家祠秘密集会，商量声讨陈炯明。叶剑英亲自起草了讨陈电文，由张国森带到香港发出。电文中历数陈逆“粤土自私，包藏祸心，阻挠北伐，称兵叛乱”的罪行，号召同学“誓为前驱，歼灭逆贼”。港澳和华侨各埠报纸，纷纷转载此电，引起了广泛的反响。当时，马来亚芙蓉埠华侨巨商蔡质三（广东梅县人）素与陈炯明交好，陈曾赠与照片并聘他为参议。他听到陈叛变消息，开始还不相信，后来读到这封电文，又接到他儿子蔡公武（云南讲武学校第十五期学生）的信，才明白了真相，当即大骂陈炯明该杀，并把陈所赠的照片和参议聘书掷入厕坑，以示鄙弃。
在孙中山广州蒙难55天的日子里，叶剑英始终忠于职守，率领士兵护卫着这位民主革命的领袖。孙中山临危不惧，威武不屈，为了革命事业，丝毫不顾及个人安危的高尚品德，给了他极大的鼓舞和教益。
四香港筹款
8月9日，孙中山离开广州，转道香港乘轮赴沪。陈炯明把持了广州军政大权，勒令海军舰队官兵缴械，与孙中山脱离关系、叶剑英遂与同事商议，决定暂避香港。
到香港后，叶剑英首先找到先期赴港的谢良牧。在谢的支持下，同粤军华侨陆军学生救国会的同志一起，四处奔走，在粤籍同学、海外华侨以及社会贤达、爱国人士中间进行串连，揭露陈炯明叛变真相，宣扬孙中山坚持平叛的正义立场。
这时，张国森也来到了香港。叶剑英，谢良牧与张国森等人经过商议后，派张国森去上海晋谒孙大总统。9月初，张国森从上海返回香港，传达孙中山对香港革命工作的意见。孙中山要求他们设法向南洋华侨筹款，以支援北伐正义之师，讨平叛逆，统一中华，特别要求他们迅速与老同盟会员、著名侨胞邓泽如取得联系求助。叶剑英和梁国材当即起草致邓泽如函：“务恳先生指示迷途，惠以臂助，并请将南邦各埠同志团体通信地点见示，以便修书前往着手进行，以付元首托之仕殷，不胜厚幸。”
邓泽如一向拥护孙中山的革命主张，接到叶剑英等人的信后，当即捐赠一笔款项，并将南洋爱国华侨数十人的名单和通讯地址寄给叶剑英等人。叶剑英等逐个发函募捐，同时还给海外各埠云南讲武堂同学写信求援：
“学长无恙。……迩者，陈逆竞存，数月以来劫杀奸淫，惨无人道，近复包藏祸心，窥窃公器，恝然以吾粤市政各局抵押自肥，作外人监督财政之俑，陷粤人于万劫不复之灾。凡有血气之伦，对兹逆贼当手刃其胸，生食其肉……凡我侨胞，或还海外，或职军营，当本爱国之忱，建成义成仁之举。侧然悯前线战士征伐之苦况，毅然续汉代卜式输财之美谈，则作战无饷糈之忧，转运有萧何之助，行见义师所至，秋叶疾风，藐尔么魔，瞬将消灭，吾辈负航留滇之初衷，三年鸡剑之夙愿，于心为不负，于事为有成。兄等才长识卓，为侪辈所推崇，区区义务，维兄等任之。对于侨胞热心同志，恐海山远阻，国势不明，务恳竭力宣传，以资鼓吹。弟等日前赴沪禀承元首命，召集海外同学组织华侨陆军学生救国会，俾吾辈精诚团结，更向海外各团体，劝解义囊，以纾国难，裘成集腋，不计巨微。务望兄等在外努力进行，则国家幸甚，吾党幸甚。”
海外同学收到叶剑英等人的信，纷纷响应。一笔笔捐款由海外寄到香港，叶剑英等人细心登记，然后转送至北伐部队，支援作战。
1922年10月中旬，北伐军许崇智部打垮了北洋闽督李厚基，攻克福州，革命局势出现转机。身在上海的孙中山，立即派廖仲恺等赴闽慰劳北伐军。接着孙中山将入闽粤军组成东路讨贼军，任命许崇智为总司令，蒋介石为参谋长。又将驻广西的桂军、滇军及驻西江一带的粤军组成西路讨贼军。叶剑英在香港听到讨贼军组成的消息，立即赶赴福州，投效东路讨贼军，被委任为总部参谋。东路讨贼军第八旅旅长张民达，是广东梅县人。他听说叶剑英是个难得的军事人才，就向许崇智提出，要叶剑英到八旅当参谋长。得到许崇智的批准后，叶剑英于是到第八旅赴任。
五参加讨陈战役
1923年1月4日，孙中山在上海发出讨陈通电，号召讨贼军“为国家除叛逆，为广东去凶残”。孙中山令西路讨贼军出梧州沿西江东下，于16日占领广州。陈炯明通电下野，逃回老巢惠州。孙中山随即由上海返回广州，第三次在广州建立革命政权，设立大元帅府，复任陆海军大元帅。
陈炯明不甘心失败。他将部将叶举、杨坤如等部部署在东江、惠州一带，令林虎、洪兆麟等据守潮梅，伺机东山再起，夺回广州。
在这种形势下，孙中山以肃清东江陈炯明叛军为急务，并瞩望于许崇智的东路讨贼军来完成此重任。东路讨贼军于2月1日自福州、泉州经漳州分路入粤。许崇智亲率先头部队攻打潮汕。由于中了叛军的“假降计”，潮汕得而复失，先头部队在向揭阳退却途中，与叛军在揭阳县城附近的言岭关激战，损失惨重。
叶剑英听到言岭关失守，主动请命，率第八旅开抵关前，准备反攻，同时报告此刻正在广州养病的张民达。张旅长闻讯，抱病返前线督战。经过一天一夜激烈战斗，终于挫敌破关，夺回要地。守敌大部投降，小部逃窜。言岭关大捷，使粤军士气大振。张民达、叶剑英由于打赢了这个硬仗，成为名震一时的战将。
攻克言岭关以后，第八旅于6月初乘胜进军，沿老隆、河源一线，直捣“陈家军”老巢惠州。部队到达惠州新村后，向增援惠州的叛将熊略部发起突袭。敌军毫无准备，仓惶溃逃。八旅乘胜追击。敌军被追到一条河边，正赶上河水暴涨，退路断绝，于是纷纷缴械投降。这次战斗俘获熊略部3000余人，缴枪千余枝，取得全胜。大本营对这一仗非常满意。孙中山于7月间在《复邓演达函》中写道：“敌人来援惠州之军已被张民达完全击灭，我宜乘胜速下惠、潮，则广东从此可告太平，而此敌亦不敢再犯广东矣！”
8月23日，孙中山迁大本营予石龙，亲自督师东征。叛军总指挥叶举趁东征军立足未稳之机，命熊略、陈修爵等部，集中5000兵力，先行袭击博罗城。许崇智率部在博罗坚守，抗击叛军的进攻。这时，适逢连日大雨，东江水涨，洪水侵入博罗。许崇智率部坚守十余日，伤亡很大，连连向孙中山告急。孙中山遂命第八旅前去解围。张民达、叶剑英接到命令后，率部星夜驰援，击退叛军，使博罗转危为安。张旅乘胜追击，配合友军，攻取博罗以北的重镇河源，从而截断了固守惠州之敌的水上交通。
接着，张民达、叶剑英奉命率部围攻惠州城。在历时数月的攻坚战中，八旅打了许多苦仗硬仗，特别是在惠州外围争夺柏唐、泰尾的战斗中，八旅多次与敌激战，连挫强敌，受到许崇智的嘉勉。许崇智特意报请孙中山批准给张民达旅长记大功两次。可惜，由于讨贼军其他各部心怀异志，进攻不力，结果在叛军反击下，节节败退。孙中山的大本营又不得不从石龙移没于石滩车站。11月12日，叛军攻占石龙。讨贼军向石滩退却，溃兵如潮。孙中山见此情景，心急如焚，亲自出面阻止败军退却。他在石滩车站竖起一面大旗，上面写着八个大字：“我在石滩，退者枪毙！”尽管如此，仍然阻止不了败兵的溃退。孙中山的专车停在桥上，溃兵们向专车开枪，车上的玻璃都被打破了。在十分危急的情况下，孙中山仍坚持督师不退。最后，左右参军无奈，只好假传命令，命司机把专车开走。孙中山无奈，被迫退回广州。
孙中山返回广州后，下令东路讨贼军各部集结整编。他特别嘉勉张民达的第八旅。第八旅从进军福建，攻克水口，到转战潮汕，大战言岭关，解围博罗，克服泰美，连战皆捷，屡建战功。这是旅长张民达正确指挥的结果，同时也是与参谋长叶剑英的谋划辅佐分不开的。
1924年初，叶剑英与医务工作者冯华在广州结婚。
1924年3月10日，孙中山特意召见了东路讨贼军第八旅所部长官，并发表了讲话。他说：“诸君是许总司令和张旅长的部下，许崇智同张民达都是我们革命很热心的同志。”表彰说，第八旅是一支真正的革命军队。孙中山的召见和讲话，给了张民达、叶剑英和第八旅官兵极大的鼓舞。