鸦片战争后清政府把战争费用、赔款等以各种名目转嫁到劳动人民头上，五口通商又使传统的手工业、陆路商业受到严重冲击，这样就使得国内的阶级矛盾迅速激化，人民对清政府的仇恨在急剧增加。从1840年到1850年10年间，各地小股“民变”此起彼伏，1851年爆发的金田起义最终把反抗政府的农民、手工业者汇聚到一起，形成了近代中国历史上一次轰轰烈烈的太平天国农民大革命。
1852年，太平军从广西入湖南。9月，太平军围攻长沙，全省震动。为躲避战乱，郭嵩焘兄弟带着全家老小避入湘阴玉池山梓木洞，同时进山避乱的还有后来成为“中兴名将”的左宗棠。左宗棠也是湖南湘阴人，才华横溢，精研地理、兵法、经济等学问，常以诸葛亮自比，自称“今亮”。当太平军打入湖南时，湖南巡抚张亮基根据贵州知府胡林翼的极力推荐，派人送重金礼请左宗棠到省协助军事。左宗棠摆出名士架子，没有答应。但就在这时，郭嵩焘却力劝左宗棠出山，干一番大事业。最后，左宗棠在郭嵩焘等人的敦促下，终于踏上了镇压农民革命的道路。事有凑巧的是，在后来被称为清廷“中兴”的四位名将（曾国藩、左宗棠、李鸿章、胡林翼）中，曾与李的出山也与郭嵩焘的力劝有关。因此，郭嵩焘在晚年回忆这一段历史时，仍洋洋得意地说：“他们出将入相，都是我在关键时刻出了大力，也算奇了。”
郭嵩焘劝人出山，最后自己也被人强邀出来。太平天国运动在两湖如火如荼开展之时，湖南的地主阶级也在“保卫桑梓”的共同目标下形成一股日趋强大的反革命势力。郭嵩焘虽然深知自己文人气质太浓，出主意、当参谋还可以，但要亲自上前线，带兵作战，却是自己不感兴趣的。然而，当湖北按察使、同科举人江忠源在1853年以“为天下计”这顶大帽子压他时，他也就没有理由不出山了。因而，江忠源一激他，他也就参加到湘军这个大营垒里来了。这年5月，太平军围攻南昌，江忠源奉命率楚勇抵御。曾国藩又调罗泽南率一部湘军援南昌，郭嵩焘即随此军出征。从7月23日至10月28日，郭嵩焘追随江忠源，与太平军战于南昌、九江、湖北田家镇等地，屡战屡败，狼狈不堪。郭嵩焘未立寸功，又对艰苦的军旅生活不能适应，因而牢骚满腹。三个月后，他终于决计求归，与江忠源长揖而别。有趣的是，清政府却以他援江西有功，授为翰林院编修。
郭嵩焘在军中时间虽短，但对湘军和太平军的角逐却有深刻的认识。他看到太平军水师声势浩大，控制了长江水面，而清军和湘军只能进行陆地作战，对大平军的水师唯有望江兴叹，莫能奈何，因此，他建议江忠源急治水师。这个建议在清政府镇压太平天国运动的历史上影响不能算小。但面对纷纷扰扰的世局，郭嵩焘没有激流勇进，而是激流勇退，甘愿在湘军中扮演一个摇羽毛扇的高参角色。从1853年到1856年，郭嵩焘一直追随曾国藩，为曾氏兄弟献计献策，同时又主持湖南厘捐，为湘军筹饷，作好后勤工作。
在这一时期，郭嵩焘还于1855年底奉曾国藩命到浙江筹办盐务，实际也是为湘军筹饷。但郭嵩焘此行的一个意外收获是他看到了洋钱、洋人、洋货，读到了洋书，参观了英国兵船和墨海书馆.与外国人有了实际的接触，这一切使得郭嵩焘眼界大开，对西方的文明有了虽是初步的但却比较真实的了解。此后，他就自觉地花更多的时间、精力去关注西方文明这个问题，并力图把西方文明中优秀的东西移植到中国文化中来。