从杨坚建立隋朝，到杨广被绞死，隋朝只存在了37年。这个短命的王朝，为了加强中央集权，巩固国家统一，在政治、经济、法律、兵制等方面，整顿并建立一系列制度。这些制度对隋唐以后各王朝，都产生了深远的影响，做出了很大的贡献。
——隋初的政治
隋文帝取得政权以后，为了加强中央集权，巩固隋王朝的统治，整顿并建立了一系列制度。
官制开皇元年（581）， 废北周的六官制度， 建立三省六部制度。三省即尚书省（管理全国政务）、内史省（起草诏令）、门下省（审查政令及封驳），三省长官都是宰相。在尚书省以下，分设吏（掌人事）、礼（学校、科举、祭祀）、兵（国防）、都官（司法）、度支（财政）、工（掌营造屯田等）部，每部设尚书一人，侍郎二人。开皇三年，改都官为刑部，度支为户部，六部尚书分管全国各种政务。从此以后，历唐、宋、元、明、清各朝，基本上沿袭这种制度，不过稍有一些变更。此外尚有御史台（监察各级官员）、都水台（掌水利）及大理（全国最高审判机关）、太常（掌礼乐）、将作等十一寺卿，还有左右卫（掌禁卫）、十二府（管府兵）。
地方官制，最初沿用周齐的州郡县三级制，开皇三年，取消郡，实行州、县两级制。同时，并省了不少州县，裁汰了一些冗官，从而节省了政府的开支，提高了行政效率。
汉魏以来，州郡县长官有权就地自辟僚属。不仅如此，而且当时刺史多掌兵权。故史言：“自魏晋以后，刺史多带将军开府，则州与府，各置僚属，州官理民，府官理戎”（《通典》卷三十二《职官典》十四《总论州佐》）。直到南朝灭亡，大体都是如此。北魏和南朝相似。北齐北周时期，地方属僚的任命权，已逐渐转移到中央政府。到了隋朝，任何官员都要由吏部任命。过去州郡长官就地征辟僚佐，多是本地豪强地主。隋朝规定：县佐不准任用本乡人士。这样一来，本地人便无法把持本地政务了。这些措施既改善了吏治，又加强了中央集权。
改革府兵制府兵制是西魏建立的兵制。当时，宇文泰为了巩固自己地位，防止境内分裂，利用鲜卑族的血缘关系以维系复杂的部族混合体，于是便利用恢复鲜卑姓氏和赐鲜卑隋文帝姓氏的方式拉拢各族将士。具体办法是：凡是六柱国将军、十二大将军、二十四开府将军都要恢复鲜卑旧姓或赐以鲜卑姓。至于普通士兵，也跟随其主帅改为鲜卑姓氏。西魏的这种做法实质是对孝文帝改制的反动。到隋文帝掌权以后，正式下诏：“诸改姓者，悉宜复旧。”首先隋文帝自己废弃了普六如氏，复姓杨氏。接着，全国其他将领也跟着恢复自己原来的姓氏。隋文帝这样做，一方面争取了广大汉族的同情和支持，同时又加强了中央政府对军队的控制，削弱军队统领方面的分散倾向。开皇十年（590）， 颁布了关于军人编入户贯的诏令，这是府兵制度的重大改革。西魏北周的府兵，一般是家属随营，列于兵户，不属州县。军队南征北战时，家属也跟军队调动。 因此当时的府兵都是“家无完堵，地罕苞桑。”隋朝把兵户编入民籍，改属州县管辖，从此不再有兵户的存在，“垦田籍帐，一同编户。”这就是说，府兵可以按均田令保有自己的土地或领受一份田地。隋文帝这样做，实际扩大了府兵的兵源，从而巩固了中央集权。
制定新律开皇元年，隋文帝即位不久，便令高颎、郑译、杨素、常明、韩浚、李谔、柳雄亮等制定新律。两年后，又令苏威、牛弘等更定新律， 这就是开皇律。后来，隋炀帝又制定了大业律。隋律的渊源主要是北魏和北齐律，当时是律令格式并行，但以律为主。开皇律包括名例、卫禁、职制、户婚、厩库、擅兴、盗贼、斗讼、诈伪、杂、捕亡、断狱十二篇。刑罚分五种：一为死刑，有斩和绞；二为流刑，分为一千里、一千五百里、二千里共三等；三为徒刑，分一年、一年半、二年、二年半、三年共五等；四为杖刑，从六十到一百共五等；五为笞刑，从十到五十共五等。隋朝又把北齐的重罪十条改为“十恶”之条，一曰谋反，二曰谋大逆，三曰谋叛，四曰恶逆，五曰不道，六曰大不敬，七曰不孝，八曰不睦，九曰不义，十曰内乱。犯“十恶”之条和故意杀人者，虽然遇大赦之机，仍要除名。
隋朝法律是为统治阶级服务的，贵族官僚在法律上享有特权，犯法之后可以减免刑罚。 《隋书》卷二十五《刑法志》说：“其在八议之科及官品第七以上犯罪，皆例减一等；其品第九以上犯者，听赎，赎皆以铜代绢。”所谓八议，系指议亲、议故、议贤、议能、议功、议贵、议勤、议宾，就是皇族及其亲故、贵族、功臣、大官僚等犯罪都可以根据平时表现减刑或免刑。一般官员有权减一等治罪和以铜赎罪。
隋律比较北魏律，刑罚多少有所减轻，取消了宫刑、辕刑、枭首、鞭刑和孥戮相坐等残酷刑罚。另一方面，开皇律又除去死罪81条，流罪154条，及徒杖若干条，只保留500条。孥戮见于殷朝，连坐兴自商鞅，这种野蛮的刑罚，至隋朝废除。
律文以外，在诉讼程序等方面，隋朝又制定一些有利于人民的制度。如人民有冤枉上告，假若县官不理，允许越级向州官上诉，直到朝廷。穷人虽未必能到朝廷上诉，但这些规定客观上起了保护人民的作用。开皇二年（582）下诏，全国各地死罪犯人，不准在本地处决，必须送大理寺（全国最高司法机关）复审，审毕再送尚书省奏请皇帝裁定。九年以后，又勅令死罪犯人要经过三次奏请才决定行刑。总之，隋朝新律注意“以轻代重，化死为生”的精神，比秦汉南北朝法律确有很大改进。但是，在封建社会，律文和实际要有很大出入，皇帝个人可任意立法，也可以破坏法律， 各级官员也难守法。到了隋末，法制彻底废弛。
创立科举制度隋文帝为了加强中央集权，限制士族门阀的权势，于开皇年间取消九品中正制，实行科举，用分科考试方式选拔官员。当时的科举大体有两种情况：一类属于临时的特科，相当于唐朝的制科，有“贤良、志行修谨、清平干济”等科。第二种是常设科目，有秀才、明经、进士科。最初只设秀才、明经两科。秀才先试策，并加杂文。如开皇十五年（595），杜正玄投考秀才科，当时杂文考试很难。那年的题目是拟作《司马相如上林赋》、《王褒圣主得贤臣颂》、《班固燕然山铭》、《白鹦鹉赋》。次年的考题是拟作《贾谊过秦论》及《尚书·汤誓》、《匠人箴》、《几赋》等。当时秀才科录取的标准非常高，每次考试及第人数极少，几乎成为虚悬的科目。后来又增置了进士科，只试策，不考杂文，增加了录取人数。明经科只考《九经》，或贴经或问经义，及第人数较多。隋朝的刘焯、王贞、杜正玄、杜正藏、许敬宗等都是秀才出身，房玄龄、侯君素、孙伏伽、杨纂等都是进士出身，孔颖达、韦云起等是明经出身。
以上谈的是隋初几项重要制度。这些制度能否实施，关键在于各级官员的态度。隋文帝为了贯彻他的政策，非常注意地方官的选拔，并且实施法治，严明赏罚。如开皇元年，他专门下诏表扬岐州刺史梁彦光，后来又表扬相州刺史樊叔略、新丰县令房恭懿。开皇十一年（591），因临颍县令刘旷的考绩名列天下第一，被升为莒州刺史。五年以后，汴州刺史令狐熙，吏部考绩第一，赐帛三百匹，布告天下进行表扬。开皇二十年（600），齐州有个小官王伽，执法认真，关心群众，使归家的罪犯自己按期到京城报到。这件事感动了隋文帝，他立即召见王伽，同时敕令全国官员，以王伽为榜样，教各级官员以诚待民。
隋文帝不仅奖励良吏，另一方面，还励行法治，严惩贪官污吏。经常派人侦察内外官员，发现犯法行为便加严惩。他儿子杨俊因生活奢侈，私造宫室，被他发现后，即敕令归第禁闭。开皇二十年（600），他发现太子杨勇奢侈好色，便把杨勇废黜，立杨广为太子（实际杨广更腐化）。由于隋文帝励行法治，一般官员有所畏惧，贪污行为相对减少，对人民群众多少是有利的。