《马关条约》签订后，张謇看到帝国主义掠夺中国原料在中国办厂，又将产品销售给中国牟取暴利，十分痛心。他说：“捐我之产以资人，即用资于我之货以售我，无异沥血肥虎而袒肉以继之，利之不保，我民日贫，国于何赖！”他的这一主张正与当时署理两江总督的张之洞不谋而合。当时张之洞正在江宁（今南京）、苏州、上海设立商务局，准备开设工厂，并积极物色人员。当他得知张謇有此志向，立即委派他办理上海一带商务，兴办通州纱厂和丝厂。
要开设工厂，首先是资金问题，张之洞非常支持，他调职后，返任的总督刘坤一也很支持，答应给予部分“官助”，余者以“自筹”为主。
1896年春夏之交，张謇以状元公的身份奔走于海门，上海等地，得到沈燮均，潘鹤琴，刘桂馨、郭茂之等几位财团的支持，组成了一个筹建纱厂的董事会，开始筹集资金。同年9月7日选定离城15里的唐家闸陶朱坝做厂址。那里紧靠长江，水运极为便利，同时可以使城里免受机器轰鸣的震扰与喷吐的烟尘之害。
当时有人不同意，认为离城太远，张謇说，那是一块宝地，并指示烟囱一定要建在龟背上，钟楼要建在龟顶上。厂址既定，便专力于筹款。10月18日，张謇与省署等方面议定，决定股份官商各半，各凑50万两。次年2月24日，董事会再次决议，在3个月内将30万两银子筹集到手，以保证工程如期进行。
对于办厂这件新鲜事，通州、海门的乡绅豪富疑虑重重，不相信能办成，因此不肯出钱相助。张謇心里着急，求援于张之洞，并告急于刘坤一。刘坤一饬令通州知州、海门同知协助募款。
谁料，通州知州汪树堂是个心地狭窄的守财奴，以前张謇曾支持过商民请愿，撤销了税卡巡船，打断了他的财路，因此怀恨在心，正好借机报复。上方有令命他筹款，他不好不执行，就同绍兴师爷黄阶平密谋，由知府衙门发出公文勒令通州境内各绅董出钱，并派皂役吆五喝六，四处胁迫，搅得鸡飞狗叫，人心惶惶，迫使张謇不得不请求废除此举。
见此无望，是有苦难言，张謇只好追官股。可官股也无着落，最后得到的回音是用一批纺织机器来顶替。这批机器本是张之洞在湖北时从英国买来的，停放在上海。不久，张之洞从湖北调任两江总督，要为江苏办厂，就用江苏筹防局的款子买下来。日久天长，日晒雨淋，这批机器都生了锈。官方就用这批烂机器作为50份股金。可上海董事提出：官机不能用，用了官机，如果以后再请官股，厂成立后必然受到官方的掣肘，影响私股的利益，要求退出董事会。
上海一动摇，南通的几位股东也提出：“（上海）前后闪烁支离，不能共事”。双方都想打退堂鼓，急得张謇“反复筹虑，彻夜不能寐，绕屋而走”。
这种进退维谷的境地，只得低下头，“忍侮蒙讥，伍生平不伍之人，道生平不道之事”。
经多方奔走磋商，最后仍决定用官机。为此，张謇发誓说：“一个人到了危险的境遇，还是要抱定拿牙齿打落在嘴里含血吞，连手都用不着去摸肚子。”
由于他的矢志努力，得到好友沙元炳及有关地方父老的支持，终于化险为夷，筹到了必要的办厂资金。
张謇根据《易经》上“天地之大德日生”这句话，取名“大生”，并亲自撰就一副楹联；“枢机之发动寻天地，衣被所及遍找东南。”这副对联后经翁同龢手书，笔力千钧，气势宏大，道出了纺织工业关于国计民生的重要性。
1899年，拥有二万零四百纱绽的大生厂终于开机生产了，开火发电时，张謇整肃衣冠，冲着电火灯光三叩首。回顾4年多的艰辛历程，终于初战告成，张謇心中万分激动。
开工之后，要收棉花，需要有一笔周转资金，刘绅一指示通海下属，将存在典当的地方公款，转存到纱厂，以先应急用。这举手之劳之事，本不难办，而且仅通州存典公款就有相当数量，理应给予支持。可还是汪树堂，又要耍新的花招。他一面向总督衙门呈文报告一定照办，一面又不让转拨公款。并采取两条办法：一条是假装支持办厂，动员地方绅董出钱。这些地方财阀，拿钱比割肉还疼，立刻哗声四起。另一条将反对张謇的那班读书人召集起来，宣布说：上面指令将“宾兴”、“公车”等两项款子1万多元转拨纱厂。这两项本是地方政府用于秀才、举人乡试、会试时的津贴等款，关系到他们的仕途前程，因而遭到这些人的齐声反对。一个科场落第、对张謇怀恨多年的老副贡还联名300多个秀才，写了禀帖上告知府，反对张謇借款办厂。师爷黄阶平又私下与这个副贡勾结，修改数次，对张謇的谴责之词无所不用其极，内外勾通，造成一种“黑云压城”的气势。
奸刁成性的汪树堂表面上支持了张謇，暗中却将秀才联名上告之事报告刘坤一，说张謇办纱厂“不合舆情”，要政府不予支持。刘坤一识破汪树堂的用心，专门致函张謇，嘱咐他提高警惕。那班秀才被汪树堂捉弄一番后，终于醒悟过来，改变态度支持张謇。汪树堂迫于形势，不得不拿出1万元，并约定还期1年。张謇气愤已极，本不想要，也是迫于无奈，只好叫沈燮钧办手续领取。后来，张謇为记取事业艰难，在大生纱厂的总办事楼厅里，特意悬挂了4幅“厂儆图”。其中“水草藏毒”一幅，据说此喻意很深，用“水草”暗指“汪、黄”二人，提醒大家。“时时存必成之心，时时作可败之计”。
为着事业，张謇不惜屈身向一切愿意赞助的人求借，而且不论多少，一概借用。唐家闸有家杂货店，拿出20块钱入股，张謇很高兴地收下，有位老奶奶仅6块银元，怕状元公嫌麻烦，可张謇看出老人的真诚情意，连连作揖，感谢她的支持。
然而，筹款并不容易，今日筹到，明日用光，每日需工本费就是4000元，3个月就是36万元，到那里去搞这笔款子呢？张謇一连数日都独自徘徊，仰天俯首，一筹莫展。
特别可恶的是上海招商局督办盛宣怀，他明明答应投资，可就是迟迟不予兑现。张謇赴沪催款。盛宣怀佯称正在筹集，要张謇为他写字。张謇这个老实人不辞劳苦，踏踏实实给他写了两个月，使盛宣怀卖得2万多元。可到最后，这家伙仍将张謇一脚踢开，分文不出，气得张謇跑到黄浦滩头，望着昏黄的江水，真想一跳了事！
面对种种困境，张謇只得走一步算一步。后来工厂要开工，要购买大量棉花，而手头实在拿不出这笔钱，迫不得已，他想出一个“进花纺纱，卖纱收花，更续周转”的好主意。用这个办法，加速了资金周转，使大生厂在资金困难的初期，仍然大获市利。
为把工厂办好，张謇亲自抓生产管理及其重要事务。尤其是狠抓了“任人”、“花红”和“堵漏”三个环节。
按照张謇的要求，厂里的“执事”要选取“熟手及性情勤谨名素好之人”，并采取“保荐”办法，明确保荐人，立定保荐书，日后如果经济上出了差错亏空，向保荐人追查。厂里各车间、工种，某处需要几人，某人何职经办何事，从张謇自己开始，下至各董事、各执事以至勤杂百工，各个条例明确，有章可循，且写在板上，悬挂于各处，以便检查，做到赏罚分明。
厂里的工人，按照工种，技术高低、劳动强度，定不同的工资标准。各级管理人员，也都按职事大小合理领取薪金。除此以外，“每年余利，除提保险公债外，分十三股，以十股归股东，三股作在事人花红”。这个“花红”，随着盈利升降而升降。生产越好，各级执事管理的人员收入就越多。
为了把工厂办好，张謇时时告诫大家不许奢侈浪费。在厂里，只有聘来的洋工程师和技工可以例外，他们可以拿高薪，吃两餐，一个月到厂里只工作几天，主要是技术指导。对于其他人，则严加管束，连执事人员的饭菜标准都有规定。对于工人就更苛刻了。他们每天做工12小时以上，并身受三四百条：“规定”的束缚，违者常处以扣薪、体罚和关押等处分。
张謇对自己要求更加严格，平时极为节俭。办厂之初，数年不领工资，出门办事也都住在朋友家中，尽量不花公款。厂里的杂絮寸纱都不许浪费，连丢在地上的一块小红纸也要拾起，并嘱咐身边的人说：“寸纸尺线都不要丢掉，要好生节约。”
大生纱厂建成以后，充分利用当地丰富原料，廉价的劳动力，抵制了洋货的输入，多少实现了以实业救国的初衷，具有积极的社会意义。
工厂的存在和发展依赖原料，纱厂的兴盛靠棉花。江淮之间产棉基础原是不错，但能不能满足新形势下工业生产的需要，张謇为此专程到农村调查了解，东海之滨沉睡的荒滩更引起他极大兴趣。
苏北沿海，由于长江和黄河的泥沙冲积，海滩不断地伸延发展。长期以来，从启东海门到赣榆沿海的老百姓，大都以煎盐为主，兼及垦牧。随着海岸线不断推移，为农垦提供的自然条件也越来越可行了。
早在光绪二十一年（1895年），张謇为加强地方自治到东海边去办“团练”，看到通、海二境交界的大片海滩，就曾动过兴垦之念。现在纱厂已成，为保证棉花供给，就着手搞垦植。
他与刘坤一商议，希望借助两江总督的权势得到多方面的支持。经几次洽谈，刘坤一果然心热起来，张謇就代他写了一篇《拟变通开垦海门荒滩奏略》呈报朝廷。不久，清政府批准了“奏略”，准许张謇“奉旨行事”，于是在光绪二十六年（1900年）秋天，在通、海交界的吕回一带，着手筹建“通海垦牧公司”。
名称定了以后，即开始集股。因有大生厂作后盾，又得到当地乡绅的支持和赞助，先后集到资金30万两。接着派了陆师学堂毕业生中的骨干携带应用的仪器到海边去勘察测量，制订垦牧规划。
由于土地产权复杂，引起不少纠纷，后经各级派员清查处理，才得以平息。张謇征地获得成功，廉价取得了大片土地的产权。光绪二十七年（1901年）“通海垦牧公司”正式成立，着手开垦。
但是，谁来开垦这块兔奔狐突的土地，谁又来种植这片充满诱惑的土地呢？公司决定用“招佃”的办法来雇用大批劳动力。张謇亲自动手并七易其稿，具体制订了《招佃章程》，向沿海村民广为招雇。许多谋生的农民和苦力纷纷前来，以血汗求取生计，用自己的双手来拓荒垦植。
垦植的第一道工程是拦海筑堤，幸得二三千民工日夜赶筑，不到一个月就完工了。谁料第二年秋天，几次大风潮到来，堤坝被海浪打得零零碎碎、残破不堪。
紧要关头，张謇带着江导岷一行，赶往现场，不分日夜，不顾风吹雨打，佇立在破堤上，分不清雨水和汗水，鼓动民夫拿出所有的血汗与大风潮抗争，下决心战胜潮灾。他常到险工险段查巡，指挥调拨抢堵物资。其时虽有小车相随，但常常是迈动双腿在芦苇丛里穿行，辛苦之状可以想见。
张謇还以资本主义大农业的方式统一规划，在200平方里的范围之内，格局整齐划一，桥、堤、路、闸各得其所。沿堤和堗界各按统一标准筑有大道，纵横相交。每条大道都平直伸延，两旁植有槐柏或冬青、银杏等树木，蔚为壮观。
公司总机构设在二堤以内，各区都建有分属机构，上下之间便于加强管理。公司重点营建海复镇，作为政治、经济中心。镇上设有钟楼、工场、消防室、拘留所和各种杂货店铺。各区佃农建屋，亦要求在指定地位成排成线。到处讲规矩，有标准。仅数年功夫，黄海滩头，俨然成了一个崭新的世界。
在拦海堤和筑路、建桥、盖房、造闸等配套工程有了一定的安排后，然后就是开荒种植了。公司招佃的方法是：每亩交“顶首”（押金）6元，然后再看收成收租。租取“议租”方式，即到收花时节“主佃公估俩议成，主收四，佃收六；春熟每亩纳小洋一角五分”。张謇还在棉垦区推广从美国引来的优质棉种。那时，当地的老百姓习惯种通州棉，不肯改种。张謇采取措施，与棉农订条件，按通棉估算产量，若洋棉产量低于通棉，则照通棉算钱，若是高于通棉，则按洋棉的实际产量论价。但总的一条，公司生产的棉花，专售给大生厂，不得卖给他人。
种种举措，不断刺激着农民，他们用勤劳的双手，开拓着这片处女地。因为长年荒草丛生，自生自灭，腐植质丰富，加之冲积而成，砂性透气性能好，适宜棉花生长发育。每到夏季，绿苗遍地，枝叶婆娑。到了晚秋，银花齐放，近看繁星万颗，远望似白云片片，一派丰饶景象。未过数年，收入大增，至1910年左右，每年可获净棉2万多担了。
张謇一介书生，办厂经商的博大胸襟和深远的战略眼光。历经数年努力，他以南通大生纱厂的资本为基础，用其盈利的资金，像母鸡孵蛋那样，办起了大生二厂、三厂、广生油厂，上海大达外江轮船公司和天生港轮船公司及资生冶厂等。这一系列企业的发展，奠定了南通民族工商经济发展的基础，使20世纪初南通近代工业初具规模，也为整个中国民族工业的壮大出了一把力。
继通海垦牧公司之后，张謇利用已取得的经验，大兴垦植之业。1914年，成立了大有晋公司，1918年成立了华成公司，第二年又成立了大丰公司、大纲公司、阜余公司，1920年成立了中孚公司、遂济公司等，先后成立了21个公司，遍及江苏沿海。
这些公司开垦荒地共约100多万亩，每年可产棉花20万担左右。张謇的全部开垦计划虽然后来因负债过多未能实现，但对于解决纺织原料确是起了很大作用。一条龙的综合开发，从原料生产到加工、外运，反映了他不愧是一位实业大家，也使他的“棉铁主义”有了基础。