1923年底，唐生智以湘南善后督办名义移驻衡阳，将所部第四师李品仙、刘兴、何键三个旅分驻衡、永、郴、桂一带，开始了“经营湘南”的岁月。
谭、赵战争结束后的湖南仍然处于南北对峙的狭缝地带。1924年初，孙中山在中国共产党和共产国际的帮助下，改组了国民党，确立了联俄、联共、扶助农工三大政策，接着又建立了国民政府，并创建了黄埔军校，大力发展军队，积极准备北伐。湖南处于北伐的前沿地带。吴佩孚则把湖南当作对付西南军阀和广东政府的缓冲地带，并逐渐加强对赵恒惕的控制。唐生智不满于赵恒惕勾结北兵祸湘，又通过谭赵战争看到了自己的力量和所起的作用，便萌发了取赵代之和称雄湖南的念头。于是，他利用南北战争未开这段时间大力扩充自己的实力，“苦心经营”湘南二十四县。
早在1923年8月，正值谭赵战争期间，水口山工人俱乐部趁机领导工人向矿局进行索饷斗争，驱逐赵恒惕政府委派之矿局局长。水口山矿乃赵氏政府军费政费的重要来源。谭赵战争一结束，赵恒惕便立即以武力“整饬”水口山矿。11月下旬，赵派其谋士宾步程为矿局局长，并以提供军费为条件要唐生智给宾一连步兵同赴水口山。宾带着这一连军队到达水口山，便占据了工人俱乐部，并打死打伤工人多人，引起全矿工人愤怒。经宾步程请求和赵恒惕首肯，唐生智等又派三连军队并带机枪前往镇压，悬赏捉拿工人俱乐部负责人蒋先云，挨户逼迫工人上班。
工人罢工平息后，唐生智根据赵恒惕原先的承诺和宾步程借兵的协议，向宾催讨六万元军费。宾无钱付给，虽一再电请赵恒惕斡旋，唐仍不肯罢休。唐不顾与宾同乡（皆东安人）的情面，便于1924年1月派兵至水口山，强提矿砂六百吨作抵押。此后，宾不但无法上交赵恒惕政府分文利税，连工人的工资也无法支付。赵只得让宾辞职，另派与唐关系密切的邓寿荃接任矿局局长。从此，唐生智逐渐控制了水口山矿，并将其收入用于扩充军备。通过这一事件，唐生智发现赵恒惕外强中干，胆子便一天比一天大起来。
为了固守湘南地盘，唐生智开展了剿匪收枪运动。湘南因连年征战，民不聊生，社会秩序混乱，土匪四处横行。而各县、乡编散之游击队又与土匪勾结，危害更大。唐生智为了保境安民，委任何键为招抚处处长，负责招抚散兵游勇，限期上缴枪枝。1924年初，抽调部分兵力围剿湘南匪首陈炎德，将其击溃。然后，剿抚并用，散匪纷纷缴械。于是，湘南得以安定下来。
唐生智还积极调处应付周边的战事，以争取境内安宁。1924年7月，唐生智与刘钅刑同赴广西全州，调停湘桂边境桂系陆荣廷、沈鸿英部之间的战事。后来，陆荣廷部因被沈鸿英部所包围，特向湖南求援。因在护国、护法战争中，陆荣廷桂军曾出师湖南，支援湘军，赵恒惕令唐生智派兵入桂支援。唐生智只求边境无事，无意卷入纷争，便派广西籍旅长李品仙在湘桂边境陈兵呼应，而不参战。后来，陆荣廷在李宗仁、白崇禧的联合攻击下，只好通电下野。这时，唐又为陆经过湖南提供了方便。唐还积极部署对粤北和赣西的防务。9月，孙中山在韶关誓师北伐，并派一部抵达湖南边境。唐生智率部击退北伐豫军樊钟秀部。11月23日，北伐军程潜部攻克宜章，守军唐生智部团长张元达战死。25日，唐部反攻，程军向广东坪石退却。此时，唐部一幕僚致电程潜，讥讽其“假称北伐，骚扰百姓，一经出击，如鸟兽散”，使程十分难堪。从此，唐、程二人交恶。12月，唐生智部又在汝城击退陈嘉佑部的进攻。
经过多次征战，唐生智意识到没有足够的精良武器是无法克敌制胜的，于是，便着力加强军队装备。他在谭赵战争中就缴获了大批的枪械，后来又通过桂系军阀马济从吴佩孚处购置了大量的军火。为了减少对别人的依赖，唐生智加紧扩大军火生产。早在1918年，湖南省政府就拨款数十万元，从美国购进制造兵器的专用设备，于衡阳城郊东阳渡开办兵工厂。唐生智督办湘南后，给兵工厂增拨大量资金，又从美国购进一批机械设备，建成两个造枪车间、五个子弹车间和一个动力车间，共有各种机械两百余台，技术工人一千一百余人，形成流水生产线。该厂能够制造步枪、水机关枪，生产步枪、手枪、水机关枪子弹，还可以修理迫击炮和其他枪炮，其规模之大，设备之精良，在全省当时都是堪称一流的。
唐生智为了建立一支听命于自己的军队，一方面注意扩充军队，另一方面竭力笼络部将。唐生智除了整补原有的三个旅外，还增设了一个警备旅，以周斓为旅长。此外，唐还组织了“挨户团”，以维持乡村秩序。第四师的高级将领如何键、李品仙、刘兴、周斓等，大都与唐生智在保定军校先后同学，且随唐征战多年，唯唐马首是瞻，于是，在湘军中逐渐形成了以唐生智为首的“保定派”，与赵恒惕的“干部派”（主要由赵在广西军事干部学校的学生蒋锄欧、首斌等组成）、亲贵派（由以赵筠、赵子威为首的赵氏亲信组成）形成对立。由于保定派的形成，唐生智部的凝聚力得到加强。
1924年5月底，驻扎在攸县的唐生智部一连士兵哗变，打死营长、连长，抢劫县公署。唐生智大为震惊，立即令该团团长前往震慑。此后，唐十分注意整训军队。士兵不但终日操练，且在晚间教以各种战术。各级军官每晚7时至9时，一律上课，教以军事知识。唐生智对军队实行严格管制，规定士兵不得上戏院，不得游街戏耍。如有发现，任何军营的军官都可以对其进行打骂。这样一来，在乡镇闹市平时很少能够见到他的士兵。唐生智每年都要到湘南各县亲自察看军队，严饬军纪，明令：不准借民众器物，不准官兵拉夫，不准抑价强买，等等。由于唐生智强化了军事训练，严格了军队纪律，其部队指挥灵活，战斗力强，只要接到命令，一个小时以内就能开拔。唐还在每连设有二十到三十个运输兵，减少了官兵拉夫的现象，也适应了战事的需要。
唐生智驻守衡阳期间，仍与蒋百里保持密切的联系。蒋每年来湘一两次，都要与这位得意门生晤谈。当时，湖南的师、旅、团长绝大多数是保定毕业生，蒋百里对他们寄予厚望。蒋希望唐生智派人去各省联系保定的同学，等机会到来时，全国都宣布省和省之间不交兵，大家互相援助，这样一来联省自治就可以实现了。他还强调，尤其要派人去广东，因为两广也有不少保定的学生。后来，唐生智与两广的保定同学接上了头，为他接受新的思想、投奔革命阵营准备了条件。蒋百里还就军队整训等问题对唐生智进行指点。蒋百里一向重视军事教育，唐生智受他的影响，在第四师开办了军官讲习所，以培养骨干力量。唐亲自兼任所长，何键、李品仙、刘兴兼任副所长，周斓兼任教育长。讲习所先设在衡阳湖南第三师范学校内，后随唐部北上迁至长沙湖南第一中学。讲习所除选调一部分连长、排长受训外，还吸收一部分青年学生予以训练，以充实基层军官队伍。训练时间为一年。讲习所的开办为唐生智日后军事势力的发展网罗了一批人才。
通过以上种种手段，唐生智在任湘南督办两年多一点的时间内，便练就了一支约二万五千人、枪械充足、纪律较严的军队，成为湘军中实力最强的一支部队。在湘军四个师中，除第四师外，第二师刘钅刑部也有反赵倾向。赵恒惕能够左右的只有贺耀组的第一师和叶开鑫的第三师。然而，贺部兵士枪械不齐，素无训练，实力不强。叶部虽较精锐，但在屡次战争中损失巨大，其部下旅长刘重威又与叶离心，因此，其实力也不及唐生智第四师。
唐生智在经营湘南的同时，也注意观察省内省外的政治风声。他一方面敷衍赵恒惕和吴佩孚，另一方面密切注视广东革命形势的变化。在吴佩孚的高压之下，赵恒惕忙于修改省宪，决定以暂保“自治”之名行附北之实。唐生智也附和着支持修改省宪。他利用吴、赵争夺湖南的矛盾，通过在吴佩孚幕内任总参谋长的蒋百里跟吴套近乎，以离间吴、赵关系。吴佩孚见唐生智力量日益强大且有取赵代之的野心，为分化瓦解湘军，便拉唐制赵。吴还许以接济军火，鼓动唐生智进兵广东。唐以堵防两广为由确实从吴佩孚那里购置了大批军火，但并未答应南下。相反，自从国民党实现改组并建立国民政府之后，唐生智就派人去广东联系。他利用在辛亥革命前后与同盟会有过联系的那段光荣历史，托黄绍竑向广州国民政府输诚，并派自己的胞弟唐生明等去黄埔军校学习，以观察南方的动向。担任黄埔军校校长的蒋介石为了拉拢地方实力派唐生智，争取唐归附广州国民政府，便对唐生明特别优待，把他安排在黄埔军校第四期学习。
在1926年以前，唐生智以湘南督办名义，在军事上造就了一支较为强大的部队，在政治上游移于南北之间，既不臣服于吴佩孚、赵恒惕等军阀政权，又未归附广州革命政府，基本上处于一种独自为政的状态。南北势力对峙，吴佩孚、赵恒惕又勾心斗角、同床异梦，为唐生智拥兵自重、称雄湘南提供了契机。
唐生智自负不凡，“领袖欲极强，生就一副不能屈居人下、刚愎自用的性格，也缺乏纳言听谏的雅量”。不过，“他对于事务的处理，每有出人意料的独特见解，甚至在游戏场中也常有惊人的举措，处处表现出他的卓荦不凡，胜人一等”。俨然“湘南大王”。
唐生智在督办湘南期间，从事过一些公益性、建设性工作。1925年4月上旬，唐生智承担组织了全省第八届体育运动会，亲自担任会长。到会男女运动员达一千五百人，运动项目有球类、田径、游泳等。9月上、中旬，唐生智在衡阳主持召开了湘南筑路会议，会议通过了“湘南兴修汽车站路纲要”十二条，决定修筑衡宜、衡丰、永宜、永耒、郴资、耒龙六条公路。10月底，湘南汽车路务局成立，唐生智兼任监督。他还创办了交通钱局，发行纸币，筹集筑路资金。于是，“路务之进行，亦极迅速”，相比之下，“湘中路务有逊色”。但是，不久因南北战争爆发，筑路之事便搁置下来。
1925年，唐生智老家东安县遭受了严重的虫灾，粮食产量大减，有的地方颗粒无收。到了1926年春夏，因青黄不接，粮食极缺，饥民众多，老弱者饿得皮包骨头，强壮者逃奔他乡。唐生智闻知后，筹集了一大笔资金，从长沙及洞庭湖地区采购大批粮食，委派得力人员，火速运回家乡救灾。为了防止粮食散失，唐生智特地下了道手令：“拖延误事者重罚，贪污中饱者处死。”救灾粮食陆续运回东安后，除分给受灾贫困户以外，还在芦洪市和伍家桥一带设点施粥。唐生智还动员和责令当地殷实富户平粜粮食，严禁囤积居奇、高利盘剥，违者“严惩不贷”。这样一来，终于使老百姓渡过了饥荒，能够安居乐业，重建家园。