1859年，郭嵩焘因僧格林沁参劾愤而辞官南归，在家闲居。1862年，李鸿章率淮军援上海，旋升江苏巡抚。为巩固自己的地盘，李鸿章保荐同科进士郭嵩焘任苏松粮道。郭嵩焘因第一次出任碰了大钉子，所以，心存犹豫，不想再出，但又经不住曾国荃、刘蓉、李鸿章等好友的再三苦劝，遂于这年10月赴上海接任。
在任苏松粮道期间，郭嵩焘看到所辖的苏州、松江、太仓等三府赋税太重，往往因此激起民变，因而向李鸿章提出了减赋的建议。1863年6月，曾国藩和李鸿章联名上奏，请求减轻苏松太三府粮赋。7月9日，清政府批准了曾、李的请求。此举的实行，普遍得到了当地人民的好感。郭嵩焘作为这项措施的倡议者，其本意是在维护清王朝的长治久安，但客观上却减轻了人民的负担，为当地百姓办了一件好事。与此同时，郭嵩焘官升两淮盐运使，他又通过整顿盐厘的措施，搜刮到大量财富，为湘淮军筹集了巨额饷银，因而，也得到曾国藩、李鸿章的交口称赞。不久，郭嵩焘即被奏保升任广东巡抚。
在这一时期，郭嵩焘对西方的科技进步留下了更深的印象。他亲见英人为淮军演放“开放炮”，深感洋人兵精而器利。1863年3月，他到沙利洋行参观机器生产，对洋人的生产技术叹为观止。由此，他深深认识到，中国要想扭转落后挨打的局面，只有向西方学习，除此别无它途。这时，正好他的好友冯桂芬向李鸿章提议在上海设立与北京同文馆类似的学校，用来培养洋务人才。冯桂芬的这一建议得到郭嵩焘的积极响应。当李鸿章接受这个建议向清政府奏请在上海设立外国语言文字学馆时，郭嵩焘为即将开办的这所学堂（后定名为上海广方言馆）拟订了章程14条。因此，可以说，对近代中国的第一批外语学校，从北京的同文馆到上海的广方言馆以及继之而起的广州同文馆，郭嵩焘都作出了积极的贡献。
1863年6月，因郭嵩焘在两淮理财有方，又有通晓洋务之名，于是清政府任命他署理广东巡抚，主管一省民政。9月6日，当郭嵩焘得知官升广东巡抚的消息后，兴奋不已，很想有一番大的作为，以展平生抱负，当即上奏清政府，陈述了振兴军事、整顿吏治、清理厘务的宏大计划，颇为清廷赞赏。10月23日，郭嵩焘抵广州，接任广东巡抚。
广东海关收入颇丰，但大小官吏从中渔利，富商又与洋人勾结，躲避官府勒索，所以，清政府早有整顿之意。这次郭高焘向清政府陈述了自己的施政计划，清政府很快就同意他将军务、饷务、吏治分别轻重缓急，次第整理，于是，郭嵩焘急于作出成绩。但事情并没有郭嵩焘想象的那么容易。郭嵩焘在上任的第三天，就下劝捐之令，结果不但没有捞到好处，反而闹得民间鼎沸。因劝捐损害了当地富室大户的利益，结果在北京的广东士大夫也有不满。郭嵩焘的这一举措，虽然旨在为清政府搜刮财富，但因触犯了广东地方大大小小地头蛇的利益，反对声浪很高，清政府于是降下严旨查问事由，郭嵩焘顿感内心受到严重挫伤。加上和两广总督毛鸿宾以及继任的总督瑞麟合不到一起，因而，工作起来，苦不堪言。不久，又与闽浙总督左宗棠发生矛盾，终被左纠参去职。
在广东巡抚任内，郭嵩焘与洋人打交道的机会更多了。他与英国领事罗伯逊等频繁往来，广泛了解西方的经济、军事、政治及其它方面的情况，他还曾与罗伯逊反复商谈华人制造轮船之事。1864年6月，在郭嵩焘的主持下，广州同文馆正式开馆，从此，清政府又多了一个与西方交流的窗口。1866年4月，清政府将英籍中国海关总税务司赫德所呈《局外旁观论》及英国驻华使馆参赞威妥玛的《新议略论》发交各省督抚“妥议”，各省督抚纷纷复奏。郭嵩焘因为去职在即，所以只把自己的意见写了一封长信寄给总理衙门。在信中，他对清政府的政治提出了尖锐批评，指出清政府对外对内实行的都是瞒和骗的政策。譬如对清政府的禁海政策，他认为自五口通商以后，中国的大门已经打开，轮船出海贸易，已是利之所在，虽禁不止。更为严重的是，广东等沿海商人为了逃避政府的勒索迫害，已有人与洋人深相结纳，依附洋人制造火轮船，因为有洋人为靠山，清政府地方官不能过问。这样的“海禁”政策，对政府、对百姓都不利，得便宜的反而是洋人。为此.郭嵩焘建议清政府在沿海设立市舶司，主管出海商船的贸易，并准允商人制造火轮船，对于商办轮船制造业不能歧视，而应与官办企业一视同仁。他的这些批评是很有见地的，但是，这些建议并没有引起清政府的足够重视。
1870年以后，洋务派开始兴办民用工业。当洋务派在大肆鼓吹兴办民用工业是求富的要策时，郭嵩焘却一眼洞穿了洋务派兴办的官办企业的体制弊病。他指出，官办企业把官场作风带到企业中来，结果必然是贪污贿赂之风盛行，资财落入个人私囊，而在技术上又处处受洋人掣肘。因此，郭嵩焘大胆提出企业商办，建议清政府依靠商人与洋人争利角胜。但可惜的是，郭嵩焘的这些建议没有得到洋务派的响应，也没有受到清政府的重视。而洋务派发起的洋务运动的命运却被他不幸而言中。