1894年，农历甲午年，中国近代史上极不平凡的一年。这年，发生了中日甲午战争。古老的东方泱泱大国，竟败在东邻小邦日本手下。接踵而来的《马关条约》，割地赔款，丧权辱国，更使举国为之震惊。同正直的中国人一样，蔡元培也震惊了。他悲愤交加，心如刀割，转而激昂奋起，与其他忧国爱土之士一齐，联名上书清政府，反对议和，力主抵抗。他感到，《马关条约》是中国数千年历史上前所未有的奇耻大辱。“聚铁铸错，一至于此，可为痛哭流涕长太息者也。”中国的失败，不平等条约的签字，深深刺痛了这位爱国学子之心。两年后，德国人又占领了胶州湾。他感到，要想挽救国家，已经不能依靠那个给予他功名然而却腐败无能的清政府，必须向西方先进国家学习救国救民的道理。于是，他开始从故纸堆中走出来，从熟读勤写、孜孜研求的经史子集古典著作中走出来，转而以极大的热情，去阅读西方的新式书籍。这种阅读，几乎是没有选择的。举凡史地政教，声光化电；自然人文，数学物理，无不恣意披阅，以满足自己救国救民、寻求知识的强烈欲望。一些先进的中国启蒙人物，如郑观应、马建忠、梁启超的著作，不但阅读，还特别给以评注。他还自修日文，在翰林院内钻研那些被封建顽固派骂为“奇技淫巧”、“左道旁门”的西方科学知识。此情此景，正像他北京寓所书房中悬挂的十个大字所说：“都无做官意，惟有读书声。”
几年后，蔡元培已经具有相当的科学与民主思想。到1898年（农历戊戌年）前后，改革派领袖康有为、梁启超等人发动波及全国的戊戌维新运动，思想已经发生变化的蔡元培深表赞同。本来，他与大才子梁启超具有己丑（1889年）同年的关系，对豪气纵横、敢于“冲决一切网罗”的谭嗣同更是格外佩服。但那时梁启超与谭嗣同在社会上知名度很高，他不愿让人家说自己“攀龙附凤”，便没有前去结交。但是，在思想感情上，他与维新党人却是相通的。所以，当“戊戌六君子”血洒菜市口的噩耗传来，他再也没有心思在北京当官了，断然于同年秋天离开北京南归。这种举动，使同乡人怀疑他是康梁同党，他也丝毫不作辩解。
回到家乡，恰好绍兴成立了一所中西学堂，他便被推荐为这所学堂的监督（校长）。当时，他身材短小，文质彬彬，儒雅风流，时常与朋友喝酒聊天，分析戊戌变法失败的原因。他觉得，康梁变法所以失败，就在于没有预先培养革新人才，致使以少数人夺取政权，排斥顽旧，不能不归于失败。所以，他接受监督这一职务，就是想利用学校储备革新人才，以满足国家的需要。
本来，学校里只有英、法两门外语课，他上任后，又新增加了一门日语，并且和几位志同道合的老师一起，提倡民权、女权，讲授进化论。这样一来，便把学校中的旧派保守人物惹怒了。特别不能让旧派人物容忍的是，1900年6月，他的夫人不幸病逝，人们都很关心这位年轻翰林的婚事，帮忙介绍对象的人踏破门槛。而他居然公开征婚，并提出五项非常“苛刻”的原则：第一，女子必须不缠足；第二，必须识字；第三，男人不许纳妾；第四，丈夫死后，女人可以改嫁；第五，夫妇如果感情不相合，可以离婚。这在当时那个封建时代，简直就是吓人。结果，给他介绍对象的媒人纷纷沮丧而去。经过一年选择，他终于得到了意中人。结婚那天，蔡元培还变革婚礼习俗，不搞闹房，只请一般好朋友来家演讲男女平权、男女平等。有一位客人当场说：假如你的夫人比你学问高，那你就应该把夫人当做老师，以对待老师的礼节对待夫人。蔡元培笑着回答：学问总是有大有小，但从人格上看，却无所谓大小，而是平等的。
由于类似的举动，所以旧派人物恨他，便去告状；他的顶头上司拿皇帝“正人心”的“上谕”来压他，让他恭敬书写下来，挂在家中的大堂里，每天反省。他不服，一气之下，干脆辞职不再干什么“监督”了，任期只有一年左右。
通过上面的事情，可以看出来，蔡元培已经变了一个人。他已经不是先前那个一心一意在科举道路上攀登的蔡元培了，而是转变成为开时代风气的先进人物了。这种变化，主要得益于时代的激荡，同时，也与蔡元培卓尔不群的胆识相关。在男尊女卑等封建礼教统治人们思想的旧时代、旧环境下，蔡元培敢于提倡男女平权，并且能够以身作则，需要有非凡的胆识，这是值得人们赞誉的。
辞职后，蔡元培在1901年秋又得到南洋公学特班总教习的职务。所谓南洋公学，就是上海交通大学的前身，1896年由大官僚盛宣怀开办于上海的徐家汇。这所学校为中国培养了最早的一批科技人才，所以在教育史上非常有名。蔡元培上任后，便教学生阅读翻译日文书，尽一切机会培养学生的爱国心。例如，他尽给学生出这样的作文题目：“试列举春秋战国时爱国事实而加以评论”、“论刑逼招供之非理”、“论监禁与流放两刑用意之异同”等等，通过学生的作文，让学生们了解，中国人一向具有爱国的好传统，应该尊重人民的权利。他还通过给学生日记与作文写评语的方式，向学生们灌输民权思想。每天早晨5点来钟，他必起床，步行十几里，到马相伯先生那里学习拉丁文。有时去得太早，马老先生便要他8点以后再来，他便按时再来。中国近现代史上的许多著名人物，如邵力子、谢无量、李叔同、黄炎培等，都是蔡元培这时期教过的学生。
第二年4月，蔡元培又与叶浩吾、蒋观云等近代有名的人物一起，在上海发起成立了中国教育会和爱国女学、爱国学社，并被推举为会长、总理。教育会“表面办理教育，暗中鼓吹革命”，是近代中国最早出现的革命团体之一，发展会员达到100多人，蔡元培的革命活动也由此开始。但是，没有钱办不成事。为筹措经费，他前往南京筹款。当他来到码头，正准备上船时，忽然得知：大儿子在家中病死了。听到这个不幸的消息，作为父亲的蔡元培心如刀割。然而，他没有回家，义无反顾地毅然登船，向着古城南京驶去。3天后，借得6千元而归。
有了钱，蔡元培与师生们便轰轰烈烈地干开了。他们开办了科学仪器馆、镜今书局、《中国白话报》、军事讲习会、同川学堂、女子俱乐部等，还在常熟办了小学。对南洋公学退学的同学，便在爱国学社重新开课。但是，他们不是不问世事的书呆子，而是积极参加政治，把个人命运与国家前途紧紧连在一起。他们参加拒法运动、拒俄运动，大唱《爱国歌》，举行演讲会，进行军事训练。蔡元培剪掉辫子，脱掉长袍，换上操练衣，与学生们一起进行军训。他们还把《苏报》变成机关报，发表文章，宏扬爱国主义精神。同时，与人合作出版《俄事警闻》（后改名为《警钟日报》），号召革命。蔡元培在上面发表政治小说《新年梦》，痛骂清朝统治者“厚脸皮”，是“糊涂东西”，提出要推翻封建专制统治，驱逐帝国主义势力，收复被侵占的国土，造就一个强大的新中国。
在革命活动中，蔡元培总是吃苦在前，勤勤恳恳，不怕艰难。办《警钟日报》的时候，他不仅早已剪掉辫子，而且也不再穿旧式的长袍马褂，而是改穿新式的德国装（即中山装），外套一件蓝色棉大衣。天气非常寒冷，编辑室既大又空，没有火炉。他右手冻疮溃裂，肿得像个大馒头，只好在右手上套一个半截露指的手套，左手放在大衣口袋，一边发抖，一边写作。每天晚上，他必须赶写两篇论文，一篇文言的，一篇白话的。而且，编辑所的伙食、印刷、开支、发行等繁琐事情，他都要管。到过年的时候，所里一分钱没有，蔡元培只好向人借了一串珠子，让同事拿到典当铺子去抵押，结果典当铺的老板说那珠子是假的，只能当一元钱，因此年也就只好不过了。但最让蔡元培着急的还是报纸的销路。为扩大销路，他让一位同乡的工人背一面旗子，上面写着爱国标语，或画上爱国漫画，手里敲着一面小锣，带着报纸到街上叫卖，每天居然能够多卖出一二百份，蔡元培非常高兴，用绍兴话夸奖这位工人说：“真弗错气”（真不简单的意思）。但没有多久，就有人来干涉，不能再继续叫卖了。
特别令人钦佩的是，蔡元培还参加了谋杀清朝官吏的暗杀团，租房子，造炸弹，饮鸡血，发誓言，搞暗杀。本来，暗杀并不是进行革命的正当手段，不宜提倡。但是，它表现了蔡元培当时大无畏的好汉精神。为制造暗杀工具，他找来懂化学的朋友，还弄来一只猫进行试验。开始，他们造出一种液体毒药，给猫服下，只几滴便毒死。但蔡元培觉得，液体毒药使用起来不方便，也容易被人发现，必须改进为固体的毒药粉末。于是，他向日本邮购了一批药物学、生药学、法医学方面的书，从头进行研究。随后，就进入对炸药的研制与试验。制造炸药的工作庄严而神秘。在秘密工厂，供奉着中华民族祖先黄帝的牌位，志士们写好誓言，书于纸上，人手一纸，签上自己的名字，神情严肃。有人宰掉一只鸡，将鸡血洒在纸上，又滴在酒碗中，人们跪下宣誓，尔后将鸡血酒一饮而下。仪式过后，人们将宣誓纸条揣入怀中，制造炸药的工作便正式开始了。
清政府非常害怕，两次开列逮捕名单，蔡元培的名字都排在第一位。但由于爱国学社设在租界里，租界当局尽管连续六次传讯蔡元培，他每次也都留下住处地址，清政府想抓他的目的还是没有达到。
1903年夏，清政府逮捕章太炎和邹容，查封《苏报》，制造了轰动一时的“《苏报》案”。蔡元培不顾个人安危，每月都到监狱去探望邹容和章太炎。邹容在监狱病死以后，蔡元培又积极参加办理丧事，举行追悼大会，并在墓地建立邹容纪念塔。他还迎接章太炎出狱，并送章先生上船去日本。
那时，有个叫沈荩的爱国志士，在北京得到消息，清政府同沙俄相勾结，准备让沙俄独占中国的东三省，当即在日本报纸上发表文章，将这一阴谋披露出来。留学生们听说此事，立刻组织了拒俄义勇队，上海的爱国学社也召开拒俄大会。清朝廷又害怕又恼怒，便把沈荩逮捕，用竹鞭子抽打，达4个小时之久。沈荩全身血肉横飞，惨不忍睹，但并没有被打死。最后，刽子手用绳索勒沈荩的脖子，才把他勒死。消息传出，上海的革命志士异常悲愤，在愚园举行追悼会，蔡元培当众演说，痛骂清朝廷政治暴虐，蔑视人权，听众全都感动得流下了眼泪。
1904年11月，暗杀团在上海扩大改组为反清的资产阶级革命团体光复会，他被推举为会长。入会仪式上，蔡元培佩带金牌徽章，中间用篆文刻一个“复”字，举手宣誓：“光复汉族，还我河山，以身许国，功成身退。”光复会成立后，继续从事暗杀和暴动，成为清末最著名的革命团体之一，为辛亥革命的成功作出了卓越贡献。1905年8月，孙中山领导的中国同盟会在日本东京成立，蔡元培经何海樵介绍，在上海加入这一革命组织，并被孙中山委任为同盟会上海分会会长。此后，蔡元培便在上海设立了同盟会的秘密机关，为辛亥革命建立了坚固基础。
在革命洪流中，蔡元培日益成熟，留下一串串传奇式的英雄故事。他不但对清王朝再不抱任何幻想，而且极力要推翻这个封建王朝。他所从事的各种社会活动，都是从反封建的革命需要出发的，与当时整个革命的发展形势相一致，成为以孙中山为代表的资产阶级民主革命的重要组成部分。他自己曾经回忆说：“自组织爱国学社，我已离开公学为学社教员。那时候同任教员吴稚晖、章太炎诸君，都喜言革命，并在张园开演说会，凡是来会演说的人，都是讲排满革命的。我在南洋公学时，所评改之日记及月课，本已倾向于民权女权的提倡，及到学社，受热烈环境的影响，遂以公言革命无所忌。”又说：“自36岁（1902年）以后，我已决意参加革命工作。觉得革命自有两途：一是暴动，一是暗杀。在爱国学社中竭力助成军事训练，算是下暴动的种子。又以暗杀于女子更为相宜，于爱国女学，预备下暗杀的种子。”正因为他的这种革命气概，人们称赞他，佩服他，说他是“翰林革命”。