1855年，生于河南卫辉。
1871年开始课人兼自学，以经营薪米。
1872年因善书小楷，随叔祖父充县衙方案及家庭塾师。
1873年为某知府治函札兼会计，以文会友。
1879年遇袁世凯，一见倾心，与袁世凯结为盟兄弟，得袁资助北上应试。先中举人，后中进士，授翰林院编修。
1886年中进士，任翰林院庶吉士。
1897年，袁世凯在小站练兵时，成为袁的重要谋士，此后累获擢升。
1904年，袁世凯创建警察，保举徐世昌为巡警部尚书，负责京师的治安。
1907年，东北改设行省，徐被任命为东三省总督，曾多所举措，施于巩固清政府在东北地区的统治。
1909年，袁世凯被摄政王载沣罢黜，徐世昌自请病退，调任邮传部尚书，京浦铁路督办。
1911年5月，清廷设皇族内阁，徐任协理大臣。辛亥革命爆发，徐力主起用袁世凯镇压革命。同年11月袁组织责任内阁，徐改任军谘大臣，加太保衔。至袁世凯就任临时大总统方向清室请辞。
1912年3月，袁世凯继任中华民国临时大总统，徐力辞太保，观望时局变化。
1914年5月，袁世凯改制新约法，改责任内阁制为总统制，由任徐世昌为国务卿，其时袁世凯称呼徐世昌、赵尔巽、李经义、张骞为“嵩山四友”。次年，袁公开推行帝制，徐以局势难卜求去，退居河南辉县水竹村。
1916年3月，袁被迫取消帝制，恢复民国年号，起用徐为国务卿。徐在公私两方面为袁尽力。因要求讨袁护国军停战议和遭到拒绝，徐任职仅一月力荐段祺瑞继任。袁世凯死後，黎元洪任总统，段祺瑞任总理。二人不久即发生府院之争，徐以北洋元老资格应邀抵京，先调解黎元洪和段祺瑞之间的权力斗争，后又调解直系军阀首领冯国璋和段祺瑞的矛盾。
1918年10月，徐世昌经皖系操纵的安福国会选举为总统。他标榜“偃武修文”，下令对南方停战，次年2月召开南北议和会议，但无结果。
1919年五四运动爆发，徐被迫免去曹汝霖、章宗祥、陆宗舆的职务，以缓和全国舆论的反对。为了阻止新文化运动的高涨，徐极力鼓吹尊孔读经以为抵制。在北洋军阀各派系的斗争中，徐世昌惯以元老身份和居间调和者的角色因势操纵。
1922年第一次直奉战争后，直系获胜，控制了北京政府，曹锟、吴佩孚指徐世昌总统为非法，迫其去职，自此徐世昌退出政界，居住天津租界。晚年日本人尝试邀徐出任华北政府职务，徐世昌拒绝参加日军组建的华北傀儡政府，保持了民族气节。
1939年6月6日于天津病逝，享年85岁。