1916年新文化运动正式展开并蓬勃发展。是年张元济改任经理，商务印书馆也在这一年作出出版重心转移的决策，即从教科书、工具书转向主要出版学术著作。1918年7月，张元济应蔡元培邀请赴北京大学座谈，洽谈的中心议题之一就是由“商务”出版北大教授撰写的专著或讲义，出版《北京大学丛书》。陆续推出的有陈大齐的《心理学大纲》、陈映璜的《人类学》、周作人的《欧洲文学史》、胡适的《中国哲学史大纲》（上卷）、梁漱溟的《印度哲学概论》、高一涵的《欧洲政治思想史》、丁绪贤的《化学史通考》及何炳松译的美国鲁滨逊的《新史学》等。这些书在各自领域中堪称开创性的力作，在中国近代学术史上占有重要的位置。随着“五四”运动的发生，新文化运动跨入了一个崭新的时期。1920年初，“商务”还约请蔡元培、胡适、蒋梦麟等北大教授出面组织编译了一部《二十世纪丛书》，并于同年10月份起陆续推出。这套书出版后易名为《世界丛书》，共有25种。内容涉及政治、经济、法律、教育、美术、小说、戏剧等方面。其中收入了李季翻译的马克思著作《价值、价格及利润》，并先后重印三次。20年代后期，商务印书馆还出版了一套蔡元培主编、介绍各国外交及社会状况的《新时代史地丛书》，共94种。张元济尤其重视收集、出版世界各国名著，把收书的范围扩大到欧美名家撰述和著名外文报刊。据茅盾先生回忆，在1918年左右，“商务印书馆”编译所已出版不少英文名著，如《人人文库》、《新时代丛书》等。
在与北京、上海等高校合作出版学术专著的同时，张元济也积极支持民间社团活动。1920年9月，梁启超等人在北京组织了一个“永久性”学术团体，定名为讲学社，主要是聘请欧美文化名人来华讲学，张元济被邀请担任该社董事会成员之一。张元济每年资助讲学社5000元，先后聘请罗素等来华讲学。1921年1月4日，郑振铎、耿济之、沈雁冰、叶圣陶、王统照、郭绍虞等人在北京发起成立文学研究会。该组织不久即重心南移，以上海的分会作为活动中心，并在短时期里从众多社会团体中脱颖而出，发展成为“五四”以后规模最大、自成流派的新文学社团，直接原因就在于它和商务印书馆的密切结合。张元济支持文学研究会出版《小说月报》杂志，推荐沈雁冰为该杂志主编，使《小说月报》成为中国现代文学史上最有影响的文学杂志之一。商务印书馆还先后为文学研究会出版《文学研究会丛书》、《文学研究会通俗戏曲丛书》、《文学研究会世界文学名著丛书》等系列丛书共达206种，内容包括各种体裁形式的译作和创作，对现代文学的发展起到了积极的推动作用。
图书资料与出版工作有着直接的关系，如果没有足够的图书资料，出版工作就不会有扎实的基础，甚至寸步难行。为了给出版创造更好的条件，1904年，“商务”开始设立编译所图书资料室，广泛搜购图书资料，寻访善本秘籍。张元济自己本身就是著名的目录版本学家，他十分重视民族文化遗产和世界各国的名著，对古籍和善本书的收购倾注了极大的精力，把收藏珍本秘籍看成是保存民族文化遗产、制止帝国主义肆意掠夺我国文物的重要任务。经蔡元培介绍，商务印书馆首先购进绍兴徐树兰熔经铸史斋的全部藏书，接着购进长洲蒋氏秦汉十印斋藏书、广东丰顺丁氏持静斋和清宗室盛氏意园部分藏书。接着，张元济又亲赴太仓收进顾氏疚耪的藏书，其中不少藏本为黄荛圃、汪阆源两家故物，极为珍贵。后来垦舳耸稀巴陵方氏、荆川田氏、南海孔氏、海宁孙氏、江阴缪氏的藏书相继散出，张元济辗转搜求，颇有所获。这些藏书中有不少宋元旧椠和名贵秘籍，如宋刊元修的《资治通鉴》、宋庆元刊的《春秋左传正义》等。以后他又陆续搜集到10余本《永乐大典》等精本。商务印书馆发行所每天都要收到大量的木刻书，张元济总是要亲往查看挑选一番，以决定是否购买。此外，他还向公私藏家┞几北荆或分别借照。如通过缪荃孙从南京图书馆┞己贾荻∈8000卷的佳椠，从著名藏书家傅增湘借影《冷斋夜话》、《老学庵笔记》等。张元济不仅在国内而且在国外借照珍本秘籍。1928年，他远赴日本访书，用了一个多月时间，走访静嘉堂文库等几个收藏我国珍本秘籍的图书馆及私人收藏家，并按图索骥，商议借照。计从各库借照的有《论语注疏》、《太平御览》等宋刊图书18种，《全相平话》等元刊图书2种，《醒世恒言》、《古今小说》等明刊图书23种。
在收藏和抢救国内古籍的同时，他把收书的范围扩大到欧美名家撰述和著名外文报刊上。著名的外文报刊有荷兰出版的《通报》，英国亚洲文会出版的《学报》，德国《李比希化学杂志》等，此外还收藏了公元15世纪前西洋古籍多卷。在收藏的图片中，内有罗马教皇梵蒂冈宫所藏明末唐王的影片，这是张元济在欧美考察时所收购的，极具文献价值。还有如德、英、美诸国所出地质地图、人体解剖图、西洋历史地图等，不可胜数。随着善本藏书的日益积增，商务印书馆图书室逐渐出名，并于1909年正式命名为“涵芬楼”。
涵芬楼藏书的日益丰富，使张元济萌生了扩大藏书楼的想法，于是他和夏瑞芳决定从公益金中提取10万元建造一座新馆。经数年的建设，一座占地300方丈的五层楼新馆于1924年5月落成。次年，在商务印书馆成立三十周年之际，由张元济提议，董事会同意，将新楼取名为“东方图书馆”，以“聊示与西方并驾，发扬我国固有精神”。原涵芬楼的善本藏书置于三楼，仍叫“涵芬楼”，成为新馆的一个重要组成部分。1926年5月2日，东方图书馆举行开幕式，闸北宝山路上车水马龙，均为参观而来，人数达千余人，包括许多外国友人。1927年，东方图书馆正式对外开放，次年开办图书馆讲习班，1930年增设了儿童借阅部，并陆续设立了流通部、汽车图书馆等，以方便读者借阅。除星期日外，每日下午2时至5时，晚6时半至9时半，图书馆对外开放，供读者阅览。优良的服务和大量的藏书，使东方图书馆名声大震，影响颇大，为世人所称道。据统计，1929年至1930年两年间，阅览人次达66000余人，形成了一个自发学习的社会热潮。东方图书馆的开办，对我国科学文化和图书馆事业的发展作出了重要的贡献。截至1932年“一·二八”事变前，其藏书共计46万余册，图片、照片5万余幅。其中善本书经鉴定和整理的分别为3745种、35083册。加上当时尚未鉴别整理的扬州何氏藏书4万册中的善本，善本书当近5万册。其中海内孤本和精品约有500多种，5000余册。地方志则达2641种，25682册，其中元明刊本141种，遍及22行省和边远地区，所藏地方志之多当时在国内首推东方图书馆。这些古籍的收藏，不仅为商务印书馆影印古籍准备了母本，也避免了一部分古籍的流失，保存了民族文化遗产。