就这样民国政府教育部批准蔡元培的请求，同意由蒋梦麟代理北大校长的职务。蒋梦麟初来乍到，凭什么才能在北大站得住脚？何况当初在他答应众人之劝代理北大之时，也并非所有教员都持欢迎态度的。在当时，门户之见、地域之见还是存在的。蒋梦麟对此倒是有心理准备的，头脑从未发过热、膨胀过。在全体学生欢迎大会结束后召开的教职员会上，蒋梦麟谦虚地说：“我只是蔡先生派来代捺印子的，一切请各位主持。”他这么一说，反对者也不便于再指责什么了。于是，在校评议会上通过了聘他做教授，担任总务长的决议。看起来蒋梦麟不惊不险地在北大被认可了，可棘手的事情还在后面。一方面被警厅拘押的学生还有一部分没放出来，一方面国会中还有人在觊觎北大校长一职。面对校内外的纷扰，尤其是民国政府官僚政客与旧势力的干扰，蒋梦麟本着《诗经·邶风·雄雉》所云“不忮不求，何用不臧”（意思是“不去害人不贪吝，走到哪儿都得成”）之精神，在胡适、汤尔和、马叙伦等一班朋友的帮助下，四处奔波，向前奋斗，终于使所有在押学生得以无条件释放，暑期结束后，新学期顺利招得新生400名。蒋梦麟总算在北大初步站稳了脚跟。
暴风雨过去了，霁日重现，新的学期开始了。蔡元培在各方一再督促之下，于是年9月20日到校，蒋梦麟向恩师蔡元培交了一份满意的答卷。蔡元培在北大任校长十年半，而实际在校办事不过五年半。凡蔡元培不在校，不论是他赴欧美考察，还是因政府腐败愤而辞职，总是由总务长蒋梦麟代理校务。除了三次代行校长职务外，蒋梦麟长期以总务长的身份，将主要精力用在协助蔡元培进行北大的体制改革上，成为蔡元培治理北大的得力助手。在蔡元培的主导下，蒋梦麟与胡适、陈独秀等人通力合作，共同把北大引上了现代大学的轨道。
在中国新文化运动史上，北大是无法抹去的一个名词，这固然与蔡元培密不可分。然而，倘若没有蒋梦麟、胡适、傅斯年等人，只怕北大在中国教育史上也要逊色不少。但对蔡元培与胡适这两位先生的办事水平，傅斯年曾批评说，真是不敢恭维。而认为自己的办事能力超过胡适，蒋梦麟的办事能力超过蔡元培。有一次傅斯年对胡适说：“论办事能力，你不如我，论学问，我不如你，我是你的一条狗；蒋梦麟学问不如蔡孑民先生，但办事能力比蔡先生高明，蒋先生是蔡先生的一条狗。”以后，蒋梦麟也说自己是蔡先生的一条“狗”，“蔡先生是北大‘功人’，我是蔡先生的一条狗。”只不过蒋梦麟是条“功狗”。事实也确实如此，在不少人的心目中，都认为蒋梦麟是北大自由派中最有办事能力的人。蔡元培也认可此说，在北大，学校的发展、部门的设置是请蒋梦麟君通盘计划的。
由于有傅斯年与蒋梦麟的这么一说一和，于是，蒋梦麟就落了个“功狗”校长之戏称。
说起“功狗”，这是有典故的。话说刘邦做了皇帝后，大封功臣，那些出身草莽、没有什么文化，却在刀光剑影中出生入死、提着脑袋南征北战，为刘邦打下若大江山的伙伴虽说个个封侯拜将，然而名列功臣第一的却是一个文人--在后方协助刘邦的萧何！这一下炸锅了，群情激奋。萧何凭什么名列功臣第一？刘邦对他手下这批开国武将说了一段颇有见地的话，他说：“猎狗只有追擒野兽的功能，而猎人却能指挥猎狗。你们只不过是擒杀野兽有功的猎狗（功狗），只有萧何才称得上是猎人（功人）。”这就是蒋梦麟讲的“功狗”一词的由来。
1930年12月，代校长蒋梦麟接任北大校长。蒋梦麟到校视察后，随即提出“教授治学，学生求学，职员治事，校长治校”的办学方针。根据这个方针北大公布了《国立北京大学组织大纲》，规定北大的职志是“研究高深学术，养成专门人才，陶融健全品格”。重建文、理、法三学院，实行学院制，各设院长一名。院长由校长就教授中聘任。改原评议会为校务会议，人员组成与职权同原评议会，必要时可延聘专家列席，所以，校务会实际上是教授会。原行政会议、教务会议仍旧保留，职权不变。推行学分制，要求毕业生撰写论文并授予学位，追求高等教育的正规化。蒋梦麟接任北大校长后，推行的仍是他当年协助蔡元培时制定的那一套管理模式，只不过突出了他那美国式的“十六字”管理方针和办事原则而已。
一个学校教学质量的好坏除了管理就看师资队伍的质量了。蒋梦麟一面将流失的教授请回来，一面延揽大批留学生来校任教，充实师资。他对文学院院长胡适以及理学院院长周炳琳、法学院院长刘树杞说：“辞退旧人，我去做；选聘新人，你们去做。”蒋梦麟用人继承了蔡元培不拘一格的好传统，挑选教师只看学术上的贡献。如钱穆没有高学历，国学水平却很高，蒋梦麟毫不犹豫地将其请到北大当教授。犹如当年蔡元培延请梁漱溟。在蒋梦麟的诚挚待人下，20世纪30年代的北大聚集了一大批学有专长、业有专攻的专家、教授，北大成为人才荟萃之地，这就保证了北大的整体教学水平。
为了促使教学科研的健全发展，对蔡元培执掌北大时期形成的“囊括大典，网罗众家，思想自由，兼容并包”的传统，蒋梦麟坚持不变。在“大度包容”的方针下，自由主义传统得以延续下来。他对全校同仁宣告：“我们当继续不断地向‘容’字一方面努力。‘宰相肚里好撑船’，本校‘肚’里要驶飞艇才好。”
蒋梦麟以自己的渊博学识和精明干练，在那段艰苦岁月里，克服重重困难，小心翼翼地把握着北大之舵，竭智尽能，把希望之舟平稳渡过惊涛骇浪，二十年如一日，终使北大的教学与科研水平稳步提升，达到了北大历史上的最高峰，为当时北平国立八校之首。到抗战前北大已跻身世界一流大学。对此，蒋梦麟十分谦逊地说：“我在北大工作二十几年，主持校政十七年，但知谨守蔡校长余绪，把学术自由的风气，维持不堕。”又说：“我自到北大后，始终得到适之、孟真的全力帮助，方才有北大的发展。”
“郭子仪第二”
在蒋梦麟的教育理念中，青年学生一般不应该介入现实政治，现实政治是成年人的事情，青年学生的根本目标是将自己培养、造就成有知识、有能力的有用之才，以供国家驱使。只有当现实政治实在惨不忍睹，成年人太不负责任的时候，青年学生利用自己的热情，出而唤醒民众，昭示天下，达成此目标即应返回教室，无论如何都不应该荒废学业，放弃其自身的职责，自坏国家将来之干城。
至于成年人的责任，蒋梦麟在当北大校长那些年里，从来未敢放弃，并以北平文化界领袖的身份冲锋在前，以致引起日本军方的关注，并将之列入应予逮捕的黑名单。1935年11月29日下午，日本宪兵径直来到北大校长室，“邀请”蒋梦麟到日本驻防军司令部“解释”其反对日本的事情。蒋梦麟本着“临难毋苟免”的古训，答应在一个小时之内就去。
当蒋梦麟将这件事告诉家里的时候，有朋友劝他不要去日本军营，听日本人到北大来逮捕好了。但是，他们敢吗？然而考虑再三，蒋梦麟依然决定单独前往，在天黑以前抵达设在东交民巷的日军司令部。
蒋梦麟独自前往，显然出乎日军的预料。日军大佐说：“我们司令请你到这里来，希望知道你为什么要进行大规模的反日宣传？”边说边递给蒋梦麟一支香烟。
“你说什么？我进行反日宣传？绝无其事！”蒋梦麟一边回答，一边接过日本人的香烟。
“那么，你有没有在那个反对自治运动的宣言上签字？”
“是的。我是签了字的。那是我们中国的内政问题，与反日运动毫无关系。”
“你写过一本攻击日本的书？”
“拿这本书出来给我看看！”
“那么，你是日本的朋友吗？”
“这话不一定对。我是日本人民的朋友，但是也是日本军国主义的敌人，正像我是中国军国主义的敌人一样。”
“呃，你知道，关东军对这件事有点小误会。你愿不愿意到大连去与板垣将军谈谈？”这时电话响了，大佐接了电话以后转身对蒋梦麟说：“已经给你准备了专车。你愿意今晚去大连吗？”
“我不去。”
“不要怕。日本宪兵是要陪你去的，他们可以保护你。”
听闻此言，蒋梦麟正色道：“我不是怕。如果我真的怕，我也不会单独到这里来了。如果你们要强迫我去，那就请便吧--我已经在你们掌握之中了。不过，我劝你们不要强迫我。如果全世界人士，包括东京在内，知道日本军队绑架了北京大学校长，那你们可就要成为笑柄了。”
这位日本大佐听到这句话脸色立即变了，好像蒋梦麟忽然成了一个棘手的问题。“你不要怕呀！”他心不在焉地说。
“怕吗？不，不。中国圣人说过，要我们临难毋苟免。我相信你也一定知道这句话。你是相信武士道的。武士道决不会损害一个毫无能力的人。”蒋梦麟抽着烟，很平静地对日本人说。
电话又响了，这位日本大佐再度转身对蒋梦麟说：“好了。蒋校长，司令要我谢谢你这次光临。你或许愿意改天再去大连--你愿意什么时候去都行。谢谢你。再见。”
对于这件事，罗家伦后来评价说，蒋梦麟是郭子仪第二，大有英雄精神。
七七事变爆发的时候，蒋梦麟正在南方，旋赴庐山参加蒋介石召开的谈话会，为全面抗战建言献策。7月底，北平沦陷，北大也成为日本的军营。根据国民政府的指示，相继沦陷的平津各高校陆续内迁，北大与清华、南开组建联合大学，先设长沙，后移昆明，是为抗战时期闻名国内外的西南联合大学。
西南联大由三个着名大学组建，蒋梦麟与清华校长梅贻琦、南开校长张伯苓为三常委，共同负责联大的日常事务，殚精竭虑，克服重重困难，为民族复兴、为建立新的国家保留了难得的读书种子，谱写了中国近代教育史上最辉煌的一页。
由于西南联大的三个学校都是名校，有着各自不同的传统、优长之处及学风，以学校的历史及校长的资历而论，蒋梦麟应该居于领导地位。但他为了三校的团结，为了中华民族的整体利益，坚决主张不设校长，实行常委负责制，共同主持校务。大政方针实行合议制，推请梅贻琦为主席，实际主持学校的一切日常行政事务，而蒋梦麟主要负责对外，校内的事务基本不管。蒋梦麟就此常说：在联大，我不管就是管。
“家是我痛苦的深渊”
1936年，时任北京大学校长的蒋梦麟迎娶陶曾谷女士，在北平举办婚礼，邀请胡适做证婚人。可是胡适的妻子江冬秀因为蒋梦麟为娶陶曾谷遗弃原配，不赞成胡适为两人证婚，把大门一关，就是不让他出去。原来，蒋梦麟为继娶陶曾谷而与原配离异，在江冬秀看来，蒋梦麟道德上是有愧的。胡适只能跳窗“脱逃”，成其美事。
蒋陶联姻最大的压力还不在蒋梦麟与原配离异，而是他迎娶的陶曾谷是其莫逆之交兼同事高仁山的遗孀。高仁山先后执教北京大学、北京师范大学，并在北京大学创立教育系。1928年，高仁山被奉系军阀杀害于天桥刑场。高仁山死后，蒋梦麟对其妻陶曾谷照顾备至。尽管蒋梦麟使君有妇，但陶曾谷的处境令他同情，长期的照顾和相处，感情慢慢发生了变化，两人互生爱意，坠入爱河。婚礼上，蒋梦麟答谢宾客时表示：“我一生最敬爱高仁山兄，所以我愿意继续他的志愿去从事教育。因为爱高兄，所以我更爱他爱过的人，且更加倍地爱她，这样才对得起亡友。”
1958年，蒋梦麟的夫人陶曾谷在台湾因病去世。陶曾谷卧床时，陶曾谷的一位表亲常去照应病人。陶女士曾经对她说：“孟邻（蒋梦麟）的身体很好，而且太重情感了，我死了以后，他一定会受不住的；而且，我不忍心他受长期的寂寞；所以，我希望你能够帮他找一个合适的对象，陪伴他……”由于陶女士临终前的嘱咐，使蒋梦麟的续弦问题，变成了那位太太无时或忘的“责任”。
因夫人去世后，蒋梦麟非常落寞，也就接受了妻子表亲的安排。据报道这位女士在陶女士逝世一年以后，就开始为蒋梦麟提亲说媒，但都没有使他动心。直到1960年在圆山饭店的一次宴会中，通过这个媒人介绍，他认识了徐贤乐，情形就不一样了。
徐贤乐认识蒋梦麟时，虽已年过半百，但风韵犹存。蒋梦麟对于徐贤乐可以说是一见钟情，而在一开始时，徐贤乐觉得蒋梦麟年纪太大，而且恐怕性格不合。但蒋梦麟托由媒人向她致意，表达自己意思：他觉得徐女士的家庭身世很好，而且品貌双全，一切都太理想了。蒋梦麟在写给徐女士的第一封情书里面就有：“在我见过的一些女士中，你是最使我心动的人……”认识三四个月之后，蒋梦麟对徐贤乐已难舍难分了，有次为了一点事闹了个小别扭，两人数日不见，蒋梦麟就寝食难安，于是用一张横幅一尺的日本绘画金边绉纹水色纸，以中小楷写了一首艳词相赠。两情不可不谓绸缪，因此不久就互相论及婚嫁。
这事在他们亲友中有“赞成”与“反对”两派，而在北大同学会的师友中，几乎都是不赞成，就连胡适也持反对意见。当时胡适在因病住院，还在调养身体之际，提笔给好友蒋梦麟写了一封长信，在信中，胡适表达了自己的意见，絮絮叨叨，说徐贤乐爱财，她向你要20万，你虽给了8万，也最好悬崖勒马。又以50年的友谊和蒋与陶证婚人的身份对其进行劝说，要他与陈诚（当时陈诚也是持反对意见者）郑重地谈一谈。据《胡适之先生晚年谈话录》书中说，陈诚曾告诉蒋梦麟说：“我的太太接到蒋夫人--第一夫人宋美龄的电话，她坚决反对你跟这位徐小姐结婚，我的太太也反对，都要我转告于你。如果你一定要和她结婚，那么我们以后不能见面了，至少，你的夫人我们是不能见面了。”
胡适将信交给蒋梦麟时，蒋梦麟直接问他是支持还是反对，胡适说反对，蒋梦麟直接告诉他：“那我就不看了。”遂将胡适的这封信撕碎掷于废纸篓中，后蒋梦麟秘书拾获细心拼合，始恢复原状，并得以保存。
蒋梦麟不顾各方反对，坚持要与徐贤乐再婚。他在7月间给陈诚写了一封长信，除申述自己“非立即结婚不可”的理由外，还极力为徐贤乐辩护。
因反对的人多势众，蒋梦麟不便举行公开婚礼，而改采家庭式秘密婚礼，于是在1961年7月18日在台北市临沂街陈能家中举行。陈能的太太是徐贤乐的亲侄女。婚礼极为简单，由端木恺律师证婚，郑曼青、居浩然分任双方介绍人，双方在结婚证书上用了印，婚礼就算完成了。时年蒋梦麟75岁，而徐贤乐也已54岁了。由于婚礼仓促，以至于很多人来不及准备礼物。