担任北京大学校长的时候，蔡元培已经51岁了。他抱着为国家培育人才和改革旧教育体制的雄心壮志，劳碌半生，终于有了施展才能和实现抱负的用武之地。他大刀阔斧地改造北京大学，使腐化堕落的旧北大焕然一新，一举成为推动时代前进的新型大学，从而展示出蔡元培教育生涯中最光辉灿烂的一章。
在蔡元培的直接领导与扶持下，各种各样的社团成立了。例如，新闻研究会、地质研究会、孔子研究会、雄辩会、化学研究会、哲学研究会、音乐会、数理学会、世界语学会、体育会、进德会、国民杂志社、新潮杂志社、平民教育讲演团、阅书报社等等，如雨后春笋一般，纷纷而起，活跃一时。蔡元培或参加活动，或到会致词，或兼任社团职务，等等，总是极力促进社团活动的开展。各社团不仅传播知识、交流学术，还讨论政治、交流思想、创办刊物，形成一个个传播新思想、新知识的策源地。社团中的许多老师、学生，也在交流与斗争中不断充实与成熟起来，有的成为大科学家，有的成为大文学家，有的成为大思想家，有的成为大政治家等等，为祖国的发展壮大作出了贡献，在现代史上留下令人敬仰的足迹。
值得一提的是，当时毛泽东在北京大学工作，也参加了北大一些社团的活动，并开始接受马克思主义。原来，1918年8月，毛泽东因为家乡湖南新民学会的会员去法国勤工俭学的事情，来到北京，住在北京大学教授杨昌济老先生在鼓楼后豆腐池胡同的家中。后来，杨老先生把他介绍给李大钊，李大钊把毛泽东安排在自己管理的北京大学图书馆工作。工作之余，毛泽东经常在北大旁听课程，充实自己。由于毛泽东喜欢看报纸，又喜欢哲学，便参加了北大新闻学研究会和哲学研究会的活动，还得到过听讲半年课程期满的结业证书。新闻研究会定期请大名鼎鼎的名记者邵飘萍来讲课，给毛泽东留下很深刻的印象，曾经回忆说：“我参加了哲学会和新闻会，为的是能够在北大旁听。在新闻学会里，我遇到邵飘萍，对我帮助很大。他是新闻会的讲师，是一个自由主义者，一个具有热烈理想和优良品质的人。”毛泽东还说：“我在李大钊手下在国立北京大学当图书馆助理员的时候，就迅速地朝着马克思主义的方向发展。”
蔡元培还改革旧体制，建立民主治校的大学评议会，组织各系教授会，使整个学校充满自由、民主、活泼的气氛。他认为，学校不能校长一人独揽大权，有事情应该大家商量，并把这种民主作风通过规章制度固定下来，不因校长的去留而改变。这种改革，发挥了教授、职员的积极性和主动性，从根本上克服了一长制的传统和官僚衙门作风。有些改革措施，一直为今天的大专院校所沿用。
除此之外，蔡元培还招收女生入学，带头提倡平民教育；宣传白话文，反对文言文；宣传科学与民主，攻击旧思想与旧道德，提出“以美育代宗教”的著名口号。特别是招收女生这件事，当时轰动了全北大、全北京。但更了不起的是，他公开喊出“劳工神圣”的口号，庄严宣告：“此后的世界，全是劳动的世界。”在他笔下，像什么凭借遗产过活的纨（wán）绔（kù）儿，卖国营私的坏官僚，克扣军饷的贪军官，操纵股票市场的奸商人，拿钱不做事的顾问、咨（zī）议、议员，等等，全都原形毕露，受到猛烈抨击。他还把新思潮比作洪水，把军阀比作吃人猛兽，认为对洪水要用疏导的方法，使其自由发展，去冲卷淹没（mò）那吃人的猛兽。在蔡元培的支持带动下，北京大学成了全国的思想中心。有人甚至说，蔡元培做北京大学校长为中国学术界开创了新纪元。
封建顽固势力的代表者再也坐不住了。他们发现，蔡元培在“兼容并包”的旗帜下，实际上暗中支持新文化的代表陈独秀、胡适等人，并且就是一伙的。于是，按捺（nà）不住心头的恼怒，起而攻击蔡元培。
当时，有一位很有名气又很会写古文的封建旧文人，名叫林纾（shū），字琴南，带头向蔡元培发难。他先是写了两篇叫《荆生》、《妖梦》的小说，含沙射影地攻击新文化运动及其领导人。在小说《荆生》中，林琴南瞎编乱造，说陈独秀、钱玄同、胡适3个人在北京陶然亭公园相互议论，大骂孔子的纲常伦纪，主张用白话文代替古文。正在他们谈得热闹的时候，猛然听到一声巨响，墙壁崩塌，从里面出来一个“伟丈夫”，名叫荆生，手持一把铜简，重18斤，指着3个人大声喝道：你们这些畜生，居然在此胡说八道，该当何罪？陈独秀刚想辩解，只见荆生捻起二指，在其头顶一按，陈独秀立刻头痛倒地，宛如锥刺。接着，荆生一脚把胡适踹倒，疼得胡适仿佛腰都断了。钱玄同是近视眼，荆生把他的眼镜扔到地上，吓得钱玄同急忙磕头，仿佛刺猬似的。荆生冷笑一声，说道：你们这些怪物，给我滚。3人屁滚尿流被赶下山，荆生在山上发出长长的狞笑！小说《妖梦》则骂蔡元培是“鬼”，最后被一个能吃月亮的妖精吃到肚子里，然后又被变成大粪排泄出来，臭不可近。这两篇小说把封建顽固派对蔡元培以及新文化运动的仇恨心理淋漓尽致地暴露出来了。
但是，林琴南发觉自己的小说并没有发生效果，于是，撕下伪装，摆出一副“拚我残年，竭力卫道”的架势，用文言文发表一封致蔡元培的公开信，气势汹汹地向蔡元培兴师问罪。他怪里怪气地攻击新文化运动倡导者“覆孔孟，铲伦常”，“尽废古书，行用土语为文字”；“叛亲蔑伦”，“人头畜鸣”；咒骂蔡元培凭借校长的位子和势力施行“趋怪走奇之教育”，要求蔡元培安守本分，不要与新文化运动的领导者同流合污。
在林纾发表公开信的前后，一些封建顽固人士也都蠢蠢欲动，活跃一时。他们写文章，搞串联，甚至勾结军阀政府，恨不能把新文化运动一把掐死。
针对林纾的公开挑战，蔡元培没有屈服。一天晚上，有两个人在蔡元培家对他说，应该把陈独秀解聘，同时约束一下胡适，只有这样才能平息对北大的各种不满。蔡元培等他们唠唠叨叨把话说完，站起来说：“这些事我都不怕，我忍辱至此，皆为学校，但忍辱是有止境的。北京大学一切的事，都在我蔡元培一人身上，与这些人毫不相干。”之后，在陈独秀、李大钊、鲁迅等人的积极支持与配合下，他也回敬给林纾一封公开信，摆事实，讲道理，把林纾的指责与北京大学的实际情况逐一对照，使人们明白，林纾对北大的指责全是造谣污蔑。至于林纾对他所作的人格污蔑，蔡元培表示，自已平生不喜欢讲骂人的话、轻薄的话，对林的“失德”言语置之不理。对传播谣言、败坏学校名誉、与林纾里应外合的坏学生，蔡元培则根据校规，给予开除。这个学生被开除后，无话可说，就去拜见林纾。林纾赠给他文章，给他安慰，希望他回家去读孔孟之书，而自己心里却不免有些悲凉。就这样，林纾被批驳下去，这场被人们称作“蔡林之争”的论战进一步推动了新文化运动的发展。