唐生智等来到上海后，被安排在都督府当科员。然而，他却对坐办公室抄抄写写感到厌烦，只想凭借自己所学的军事知识拼搏一方。正在他犹豫彷徨的时候，一件意外的事情发生了。一次，唐生智与几个朋友去游上海兆丰公园，见公园门口挂了一块“华人与狗不得入内”的牌子，十分气愤。性格好强的唐生智觉得外国人欺人太甚，于是，便不顾一切地朝公园里面冲去。印度巡捕强行阻拦，他们就夺去巡捕的警棍。巡捕见来者不善，便吹响了警笛，呼叫增援。唐生智等见势不妙，便打落巡捕的警笛，然后扬长而去。这件事对唐生智刺激很深，他痛感到要改变国弱民贫、受列强宰割的局面，非进行革命、赶跑洋鬼子不可。唐生智一方面出于气忿，另一方面为了逃避巡捕的追捕，便仓促离沪回湘。
革命党人在策动长沙新军于10月22日起义成功后，宣布湖南独立，并成立了中华民国湖南军政府，旋又改为都督府，推焦达峰、陈作新为正副都督。然而，以谭延闿为首的立宪派坚持军民分治，把持着都督府参议院和民政部，并排挤革命党人。革命党人与立宪派的矛盾更加激化。于是，立宪派勾结封建官绅举行了武装政变，谋杀焦达峰、陈作新，拥谭延闿为都督，湖南政权落入立宪派之手。
唐生智回到湖南后，主要通过谭人凤等人与同盟会保持联系，倾向革命党人。当时，湖南新军为扩充兵力，急需招收军校学生入伍，一些同学也邀唐生智参加军队工作。可是，满怀信心的唐生智见湖南政局不稳，立宪派得势，革命党上层人物软弱妥协，下层处处受气，军队也很混乱，便心灰意冷，折回上海。
回到上海的唐生智与欧阳起莘等人接受上海都督府委派，专程北上赴大连、营口游说张作霖、张作相等“绿林豪杰”，希望东北起兵反清。然而，大连、营口由于日本侵略者控制很严，革命力量一时难成声势，加之唐生智又深感自己不善于交际联络，对纵横游说日见其烦，不久就放弃了这一工作，离开东北，转赴烟台。
当时，烟台都督李燮和系湖南人，唐生智与欧阳起莘利用与谭人凤的关系，到烟台都督府谋事。唐生智首先担任都督府的参谋，不久又调到部队当连长，开始直接掌管一部分军队。可是，当他第一次到连队清点人数时，就发现该连少了三十多名士兵，原来其缺额被营长贪污了，余下的士兵中又有四十多人得了花柳病，卧床不起。唐生智针对这种腐败情况，下决心整顿军队，一方面医治病兵，补充本地新兵，另一方面，加强平时军事训练。同时，唐生智还将上司营长贪污吃缺的情况报告了都督府，使营长受到撤职处分。但是，这样一来，又开罪了团长，团长以唐越级控告不妥为由，坚决要求将他调离。都督府舍车保帅，将唐调到司令部当参谋。整顿军队的尝试受挫后，唐生智更加认识到军队的腐败，深感军队非大力改革不可。