几经反复，康有为认识到斗争的艰难曲折。他懂得了：原来以为只要皇帝下诏，变法事业即可大功告成的想法是幼稚的，期望朝廷自上而下实行变法，时机还不够成熟。当务之急是团结一批志同道合的同志，形成群体力量。要倡新学，通风气，开发民智，动员国民共同起来，为改变中国积贫积弱局面而努力。
为了宣传新学，开通风气，他决定创办一份中国人自己的报纸。在梁启超、麦孟华两位弟子帮助下，他捐资在北京办起了中国人办的第一份报纸——《万国公报》。这份报纸主要由梁、麦二人撰文，介绍西方各国的政治、经济、社会、文化、风土人情，及新闻消息等，每期还刊一篇论说，宣传富国强兵之道、教士养民之法。这份报纸起初为双日刊，主要向政府官员、朝士大夫发行。它创办后，在京城产生了很大影响，上层社会渐渐对世界大势有了一定程度的了解，变法维新主张得到很多人的理解。报纸发行45期后，因与英、美传教士创办的广学会机关报《万国公报》同名，改为《中外纪闻》，以梁启超、汪大燮为主笔。当时维新派已成立了自己的组织——强学会，《中外纪闻》就成了强学会的机关报。《中外纪闻》加大了对维新变法的宣传，扩大了发行范围，产生了更广泛的社会影响。
康有为认为通过建立学会，可以把拥护变法的人团结在一起，形成政治势力，发挥更大的作用，而建立学会应当先从北京开始，因为北京是全国的政治中心，可以产生登高呼远的效果。可是建立学会是违反清政府律令的，有坐牢甚至杀头的危险。康、梁等人不辞千辛万苦，四处奔走，反复动员，终于博得了朝中大臣翁同□、孙家鼐、李鸿藻、张荫桓、张之洞等人的同情与支持。1895年9月，以康有为为首的维新派和帝党官僚结合组成的强学会在北京成立，基本会员有康有为、梁启超、麦孟华、汪大燮、陈炽、张孝廉、杨锐、文廷式、王鹏运、沈曾植等人。康有为受大家推举起草了《强学会序》，作为组织纲领。这是一篇维新变法的政治宣言，产生了较大社会影响。
康有为在京的活动，引起了顽固派的不安。他们竭力造谣生事，挑拨维新派与帝党官僚集团的关系，甚至策划对康实施迫害。为避祸，康有为不得已离开北京，南下上海开辟新的维新阵地。
11月，他先到南京，争取洋务派官僚张之洞对在成立上海强学会的支持。当月，张之洞幕僚梁鼎芬、黄绍箕等人陪同康来到上海。12月，上海强学会开局，成员主要有康有为、梁鼎芬、黄绍箕、张謇、黄遵宪、章炳麟等。康有为拟定章程，规定上海强学会专为中国自强而立，专求中国自强之学。确立强学会的工作主要是译印图书、刊行报纸、成立图书馆、创办博物馆等，以传播西学、新学，变法图强为宗旨。章程还强调强学会总会设于上海，建立与北京强学会的联系，并在各省相继设会。康有为重视舆论作用，将办报作为学会重要工作之一。他把学生徐勤、何树龄由广东调来，于1996年初创办了上海强学会机关报——《强学报》。《强学报》在创刊号上以孔子卒年纪年，置于光绪年号之前，隐含与清政权对抗之意，反映了康有为托古改制的主张。
维新派的一系列活动和维新思潮的迅速传播，让封建顽固派看到了新思想的巨大威力。他们意识到：如再让维新派继续进行新政的宣传鼓动，就有危及他们统治的危险，于是他们组织了一次大规模的反攻。先是，李鸿章授意御史杨崇伊奏参强学会从事非法活动，包藏祸心。继而，慈禧太后逼迫光绪下令查封北京强学会。接着，张之洞以康有为行为过于激进，作出解散上海强学会，停刊《强学报》的决定。
维新事业虽暂时遭到沉重打击，但北京、上海强学会的成立和上述报纸的创办，对宣传民众，开通风气，传播维新思潮所起的客观作用已无法逆转。此后，人心思变，办报组会之风遍于天下，维新思潮演成全国范围普遍性的社会运动。
康有为回到广州，继续在万木草堂讲学，修订他的《孔子改制考》，撰写新的著作。他时刻在注视着政坛的风云变化，准备发动新的进攻。梁启超在北京受到打击后，感到北京受专制政府的直接控制，保守势力太强，不如从上海打破缺口，通过办报推动变法运动。在康有为的支持下，梁启超来到上海，于1896年8月正式创办了《时务报》。他自任主笔，汪康年任经理。因为在一些枝节问题上做了些让步，得到了张之洞一派开明官僚的支持。《时务报》很快发行全国，发行量达1. 7万余份，居全国各类报纸之首，受读者欢迎程度为中国有报以来所未有。在传播新思想方面，它起到了当时其他宣传工具无法取代的作用。它打破了清廷封禁维新思想报刊的无形禁令，使形势出现了新的转机。在它的影响下，一些重要城市相继出现了各种类似报刊，新思想的潮流已不可阻挡，古老的赤县神州已是“山雨欲来风满楼”了。
康有为看到基督教在中国得到很快传播，中国却不知独尊孔教，致使思想混乱，文化衰微。为了宣传孔教，推进维新运动，他于1897年3月在广西发起圣学会。又创办《广仁报》，介绍中国国情及各国政治，呼吁士人奋起救国图强。这些行动，使长期闭塞的边地风气大开，卷进了变法图强的时代潮流。
正当康有为救亡图强努力奋斗之时，列强又一次掀起了瓜分中国的狂潮。12月，德国帝国主义借故侵入我国胶州湾，次年3月，以武力胁迫手段，强行将胶州湾租借99年。俄帝国主义接踵而至，强行租借了旅顺口和大连湾。法、英、日等其他列强也相继来切割中国领土。至此，中国已被划分为若干块帝国主义的势力范围，主权遭到严重破坏，亡国危机迫在眼前。
当德侵略我胶州湾的民族危难关键时刻，康有为再次拍案而起，第五次向光绪帝上书。在上书中，他尖锐批评了清政府的不抵抗政策，指出苟且偷安只会一步步走向灭亡。强调国势日衰，又不思振作是导致当时危机的主要原因。他沉痛指出，其时除变法外已没有其他救国之策了。在书中他提出上、中、下三策供光绪皇帝采择：上策是效法俄、日两国，以定国是，彻底变法；中策是广泛听取群臣意见，讨论如何进行变法；下策是允许各省官员自行变法，3年后将这些新政结合起来，形成全国统一的制度。他认为行上策可使国家强盛，行中策可维持积弱局面，行下策则不至于亡国。在上书中他还正式提出国事需经国会议行和颁布宪法的主张。可惜这次上书又被有关衙口扣压而未能送到皇帝手中。
这年冬天，他顶风冒雪，奔走于公卿大臣之间，争取更多的实力人物的支持。他的顽强精神使翁同□、孙家鼐等稍有爱国之心的朝中大员深受感动，暗地里对他进行帮助。当他处于斗争最困难时刻，准备离京南下，另谋出路之时，翁同□亲临南海会馆，挽留康有为，告知他已向皇上推荐了康有为，康即将受到重用。
第二天，给事中高燮在翁授意下向光绪皇帝上奏，举荐康有为学识渊博，对国家大事有精到见解，请求皇帝召见，并委以重任。翁乘机为康说好话，光绪皇帝曾读过康有为的上书，留下十分深刻印象，近几年又一直有意于实行变法，便同意召见康有为，当面咨询。首席军机大臣恭亲王不便直接反对，搬出“非四品官以上不能召见”的陈规，加以阻拦。光绪帝遂命总理衙门大臣召见康有为，询问变法事宜。1898年1月24日，康有为奉旨来到总理衙门，总理衙门大臣李鸿章、翁同□、荣禄、刑部尚书廖寿恒，户部左侍郎张荫桓等官员与康有为展开热烈的讨论。康有为有力论述了变法的必要性，详细阐述了他在各领域进行变法的具体设想。次日，翁同□向光绪帝汇奏咨询结果。光绪命康有为条陈所见，并命进呈所著《日本变政考》及《俄大彼得变政记》亲览。
康有为奉诏后，十分兴奋，连夜起草奏章。29日，他呈上《应诏统筹全局折》，即《上清帝第六书》。奏折中论证了变法的必要性，以波兰、缅甸等国历史说明不变则亡，请求光绪帝审时度势，排除干扰，下定决心，迅速变法。他建议就近取法于日本的成功经验，召集变法人才，设立变法机构，实行以下变法措施：一、大集群臣，下诏明定国是，宣布除旧布新，与民更始。二、让群臣上奏表态，支持变法，反对者或不表态者予以免职。三、设“上书所”，接纳天下士民上书，一般官员上书也可直接送达，不必由各部主管人员转递。四、开制度局于宫中，选天下通才十余人入局，其地位与王公卿士平等。皇帝在制度局与这些通才重新商定一切政事制度，然后颁布实行。以制度局为变法改革的首脑机构，再设12个局行使国家行政职能。这12局分别是：法律局、税计局、学校局、农商局、工务局、矿政局、铁路局、邮政局、造币局、游历局、社会局、武备局。康有为还建议改革地方行政制度，在每道设一民政局，每县设一民政分局，它们的主要职能是创办新政，包括绘制地图、调查户口、修筑铁路、发展农工商各业、开设学校、兴办卫生事业、设置警察局等。康有为坚信：地方新政如果得到士绅支持，会在短时间内取得很大成效。这次上书较完整反映了中国资产阶级的改革要求，对光绪皇帝和戊戌变法运动产生了重大影响。
康有为将这封上书交工部代呈，工部尚书许应骙迟至3月5日才送达皇帝手中。光绪帝读后，被深深打动，坚定了实行变法的决心。他将这一奏折下发总理衙门，交大臣们讨论，同时吩咐以后收到康的奏章，不许延误，即日进呈。
康有为听到这一消息，受到极大鼓舞，3月12日，又呈递了《上清帝第七书》和他撰写的《俄彼得变政记》。康有为在《俄彼得变政记》中详记俄从弱转强的历史过程，认为俄国改革的成功给中国树立了榜样。中国与俄国有许多相似之处，如：君权最尊，曾被别国削弱等。只要中国像俄国那样帝王奋发有为，实行变法，就一定能很快转弱为强，崛起于东方。不久，康有为将他的另一部著作《日本变政记》呈给光绪皇帝及慈禧太后。《日本变政记》按时间顺序记述日本明治维新的兴起与发展，重点介绍日本政府的变法措施及由来与实行情况。书中康有为还用按语形式提出了自己对维新运动的看法及变法的具体设想。这部书对光绪皇帝和百日维新产生了很大影响，成为指导新政的一部重要著作。光绪皇帝在康有为鼓动下跃跃欲试，一场伟大的改革运动即将在神州大地卷起万丈狂澜。