1926年10月，胡琏从黄埔军校四期毕业后，随即投入北伐战争。1927年夏，胡所在部队遭遣散，他因此失了业。1928年初，陈诚任南京警备司令。胡琏得知同乡、黄埔一期学生关麟征此时任警卫第二团团长，乃赴蚌埠见关，请关替他在部队中找个差事。关亲自对胡进行口试，并作实兵指挥测验，认为胡具备一个军官的水平，即任命他为第一连连长。是年8月，陈诚调任第十一师副师长，大量罗致黄埔学生，用为中、下级军官。关麟征团并入陈诚师为第六十一团，胡琏仍任连长。这是胡琏成为陈诚“土木系”的开始。军阀混战中的十一师
国民革命军第11师这支在抗日战场与内战战场上叱喝风云的蒋军嫡系，在成立之初却并非是由蒋介石亲手培养的嫡系部队。1928年7月1日编遣会议后，国民政府开始将所属部队进行编遣，其中原国民革命军第17军被缩编为第11师。
第17军前身为闽军李凤翔第3师所属的曹万顺第5旅、杜起云第6旅扩编而成。1926年10月8日，曹、杜两位旅长在广东蕉岭通电，宣布参加革命，投奔国民政府。他们指挥的两个旅被扩编为国民革命军第17军，军长由原第5旅旅长曹万顺代理（12月实任），下辖曹万顺（兼）第1师和杜起云第2师。该军编成后即参加北伐，其中11月在松口、12月在福州配合友军的作战中出力颇多。
福州战后该军又收编闽军第12师23旅为该军第3师，以原旅长李春生任第17军副军长、原团长王成芳任第3师师长。后来由于该师军纪败坏，于1927年2月被缴械遣散。
1927年1月该军被编入东路军第4纵队继续北伐。4月该军进占扬州。5月从镇江渡江，一直挺进至山东日照。7月，该军回调江南，同时又收编陈以燊部为该军第3师，以李德铭为第3师师长。
1927年9月该军隶属第1路军参加讨伐孙传芳的战斗。11月23日，第2师师长杜起云调升副军长，以邓振铨接任师长兼军参谋长。1928年3月杜起云、邓振铨相继辞职，以李明扬接任副军长兼第2师师长、林蔚接任军参谋长。同时所属之三个师的番号相继改为第53、54、55师。
1928年7月25日该军第53、55师被缩编为国民革命军第11师，第54师缩编为第2师第6旅。原第17军军长曹万顺担任第11师的首任师长。
第17军缩编前的序列为：
军长曹万顺、副军长李明扬、参谋长林蔚
第53师，师长曹万顺（兼）
第54师，师长李明扬（兼）
第55师，师长李德铭
曹万顺，河南藁城人，号际昌。原为福建都督李厚基的部署。作为一名行伍出身的军人，曹万顺在旧军队里由士兵逐步升任至旅长，已属不益。其后又在北伐军攻打福州时主动率部参加国民革命军，官至军长。此番部队缩编改任师长使他知道一个无半点文化的军人，想在新式军队里立足是十分困难的，但是要想带好部队，又显的困难重重。
由于蒋介石不相信非嫡系将领掌握自己的部队，而其第1集团军所属的六个师里只有第11师的师长不是黄埔出身的教官，便指派原来的21师师长陈诚率领北伐军总司令部的两个警卫团改编为第31旅隶属11师，对曹万顺进行监视，并且随时准备以陈诚接替曹万顺。
这位出身行伍大字不识几个的师长曹万顺对蒋介石的用意自也心知肚明，他知道自己的这个师长位子只是过度性质，加之陈诚到任后对曹万顺显得恭恭敬敬，且办事认真，以身作则，便在表面上任由陈诚掌管全师事务，好让蒋介石对他放心。
陈诚到任后为了改变11师原有的旧军阀习气，立即采取措施，整肃军纪，并时常与全师官佐共进早餐和谈心。此举获得了团长李明等人的部分原17军老人的支持。
第17军缩编为11师后师部驻芜湖，第31旅驻大通、青阳、贵池，第32旅驻杭州、嘉兴，第33旅驻芜湖、宣城。是时该师序列为：
师长曹万顺，副师长陈诚，参谋长罗卓英
第31旅，旅长桂永清/李默庵
第61团，团长关麟征
第62团，团长陈又新/李守维（代）/萧乾
第32旅，旅长林蔚/殷祖绳
第63团，团长冯圣法/吴良琛
第64团，团长霍揆彰
第33旅，旅长余仲麒
第65团，团长李明
第66团，团长高魁升/滕云////、