魏征还主张取信于民，不要朝令夕改，让人无所适从。唐朝原定政策是十八岁的男子才能参加征兵服役，有一次，为了多征兵戍边境，唐太宗要求十六岁以上的男子全部应征，魏征不同意。按照当时的规定，皇帝的命令要等与会的大臣全部签字以后才能生效，魏征认为这个法令与唐朝以前的法令相冲突，而且过于苛刻，便屡次拒签。唐太宗十分生气，当面责问他为什么阻挠皇帝的命令，魏征回答说：“涸泽而渔，焚林而猎，是杀鸡取卵的做法。兵不在多而在精，何必为了充数，把不够年龄的人也弄来当兵呢？况且这也是失信于民。”唐太宗问自己是否有失信于民的事，魏征列举了一串例子，证明他办了不少出尔反尔、失信天下的事，把唐太宗弄得张口结舌。最后，唐太宗不得不同意了魏征的意见。
唐太宗知道自己很容易受情绪的左右，他就提醒周围的大臣注意纠正他偏激的决定，并把批评朝政制度化。他建立了前朝所没有的新制度，即允许谏官、史官参加政事堂会议。这种制度不仅能够保证谏官、史官能够及时了解朝政的内幕，使得有所劝谏，还起到了一定的监察作用，使宰相及其他官员不敢谎报政绩。这种制度还规定，在会议之上，不管是皇帝还是大臣，如有过失和不当之处，谏官可当面指出，予以辩论。再者，史官也了解皇帝大臣的许多情况，根据第一手材料写出起居注，对他们也是一种监督。
魏征就是在这种相对宽松自由的环境里做谏官的，他劝谏的内容从长治久安的军国大计，直到皇帝个人的起居生活，涉及到许多方面，对唐太宗及唐朝贞观年间的政治，可以说发生了很大的影响。
在使用人才方面，魏征主张在不同的时期要对德才有所取舍。他对唐太宗说：“在天下未定之时，用人的标准是重视才能，不过多地考虑他的品德操行；天下平定以后，则非德才兼备不可用。”在魏征的影响下，唐太宗“内举不避亲，外举不避仇”，有一次，他还主动地对魏征说：“选择任用官吏，是不能轻率马虎的。用一个君子，那么君子就会纷纷而来；用一个小人，那么小人也就会钻营投奔而来。”
尤其在个人享乐方面，魏征紧紧跟踪唐太宗，经常犯颜直谏，不让他大兴土木。有一次，唐太宗想去南山打猎，车马都准备好了，最后还是没敢去。魏征问他为什么没有出去。唐太宗说：“我起初是想去打猎，可又怕你责备，就不敢出去了。”
贞观四年（公元630年），唐太宗决定修建洛阳宫，中牟县县丞皇甫德参上书劝阻，言辞激烈。唐太宗发怒，要治皇甫德参的罪，魏征连忙拿汉朝的贾谊为皇甫德参辩护，证明自古上书言辞不激烈就不能打动君主的心，唐太宗这才作罢。后来，河南、陕西一带大雨，泛滥成灾，偏在这时，唐太宗又要修建洛阳的正山宫，魏征听说了，赶忙上奏说：“隋朝所以很快灭亡，其主要原因就是因为隋炀帝大修亭台楼榭，百姓不堪役使，才起义反对他。如今，现有的宫观楼台已经足够居住的了，如果想到隋朝的灭亡，甚至还应该拆掉宫殿。如果舍不得拆掉，起码不该再修大的宫殿了。如果不想到得天下的艰难，不断地扩大宫殿建筑，追求华丽和享乐，增加百姓的劳役，那就会像隋朝一样灭亡。”唐太宗接受了魏征的建议，停修宫殿，把材料运到了水灾区，帮灾民建造了房屋。
贞观十二年（公元638年），公卿大臣都请求太宗登泰山封禅，只有魏征认为现在举行封禅仪式不妥。太宗对魏征说：“我希望您把自己的想法都说出来。难道是我的功劳不高吗？是我的德行不淳厚吗？是国家还没有平定吗？是远方的异族人不仰慕大唐的高义吗？是吉祥尚未降临吗？是农业没有丰收吗？为什么我不能封泰山呢？”魏征说：“陛下的功劳虽然是极高的，可是百姓并未感受到陛下的恩惠；陛下的德行虽是淳厚的，但陛下的德政尚未传及全国各地；全国虽然安定，但并不能为兴办事业提供足够的资财；远方的部族仰慕陛下的高义，但朝廷却没有能力满足他们的要求；吉祥的征兆虽然出现，但法网仍然密集；虽然连续几年农业丰收，但粮仓仍然空虚，这是我认为目前不宜封禅的原因。我不能用遥远的东西打比方，姑且用人作比喻。
现在有个人患了十年的重病，到将要治愈时，已经瘦得皮包着骨头，马上让他扛起一石米，每天走一百里路，他一定不可能做到。隋朝天下大乱已经不止十年，陛下平定了全国的混乱局面，虽然现在天下已经平定，但国库尚不充实，在如此情况之下，向天地报告事业已经成功，我暗自对如此作法持怀疑态度。况且陛下若东封泰山，各国的使者都要聚集到那里，周边各国人，无不奔走相告。现在西起伊水、洛水流域，东到泰山、东海、荒草滩、沼泽地，苍茫千里，人烟断绝，鸡犬之声不闻，道路萧条，行进艰难，岂可招来城外部族之人，把我国的虚弱状况展示给他们？即使我们用尽财物赏赐他们，也不能满足远方之人的愿望；即使连续两年免除徭役，也不能抵偿百姓的劳苦。如果遇到水旱灾害，风雨之变，服役的民夫横加议论，即使后悔，也无法挽回损失。岂只是我一个人恳请陛下免去封禅之事？成千上万的百姓都乞望陛下恩准。”太宗听了魏征的一番话，也深感国家虽然初步安定，但生产远未恢复，国库仍然空虚，如此严峻的形势，有何功德以告慰天地？遂将封禅泰山之事搁置了下来。
有一次，唐太宗由长安去洛阳的显仁宫，因为当地供应的东西不好，唐太宗觉得很气愤。魏征觉得如此下去将不好收拾，便对唐太宗说：“隋炀帝就是因为无限制地追求享乐而灭亡的。现在因为供应不好就发脾气，以后必然上行下效，拼命供奉陛下，以求陛下满意。供应是有限的，商人的奢侈欲是无限的，如此下去，隋朝的悲剧又该重演了。”魏征的这一番话使唐太宗悚然心惊，以后很注意节俭。
对于唐太宗个人的品德修养，魏征也很重视。有一次，魏征直言不讳地对唐太宗说：“居人上者，其身正，不令而行；其身不正，虽令不从。”魏征还引用荀子的话对唐太宗说：君主似舟，人民似水，水能载舟，亦能覆舟。这句话对唐太宗震动很大，他牢记在心，并用这句垂诫太子，让他永志不忘。还有一次，唐太宗问魏征怎样才能做一个“明君”，而不要成为一个“暗君”，魏征就给他讲了隋朝虞世基的故事。隋朝的虞世基专门投隋炀帝之所好，专说顺话，不讲逆耳之言；专报喜，不报忧，结果隋朝灭亡。由此，魏征得出了一个著名的结论：“兼听则明，偏听则暗。”
最著名的，是魏征关于忠臣和良臣的辩论。有一次，唐太宗听信了其他人的谗言，批评魏征包庇自己的亲戚，经魏征辩论，唐太宗知道自己错了。魏征趁机说道：“我希望陛下让我做一个良臣，不要让我做一个忠臣。”唐太宗听后很吃惊，就问：“难道良臣和忠臣有什么区别么？”魏征说：“区别很大。良臣身享美名，君主也得到好声誉，子孙相传，流传千古；忠臣得罪被杀，君主得到的是一个昏庸的恶名，国破家亡，忠臣得到的只是一个空名。”唐太宗听了以后，十分感动，他连声称赞魏征的话很对，并送给了他好绢五百匹。
当然，唐太宗是人不是神，对魏征的劝谏并不是每一次都能愉快地接受，有时是既恨又怕，甚至还想干脆杀掉他！
有一次，唐太宗得到了一只好的鹞鹰，自己非常喜欢，就把它驾在手臂上玩。远远地看到魏征来了，十分紧张，赶紧把鹞鹰捂在怀里，怕魏征看到或是听到。其实呢，魏征早就看到了，他为了不让唐太宗贪恋声色犬马，就故意没完没了地禀奏公事，估摸着鹞鹰差不多憋死了，他才离开。等魏征走了，唐太宗赶忙从怀中取出鹞鹰，拿起一看，早已闷死了。这使他觉得十分窝火又说不出话来。
有一次，唐太宗罢朝回来，气冲冲地对皇后说：“我一定要杀了这个乡下佬。”皇后非常贤德，赶忙问要杀谁，唐太宗说：“魏征这家伙老是在朝廷上折辱我。”皇后听了这话，连忙回去换了一身朝服，恭恭敬敬地站在庭院里。太宗见了，十分惊讶，问她这是在干什么，皇后说：“我听说只有圣明的君主才能有正直的臣下；现在魏征正直敢言，全是由陛下的英明所致呀，我怎敢不表示我的祝贺呢？”太宗听了，觉得很高兴。
魏征年老病重，太宗送医送药，使者相望于道路，来往不绝，并和太子一起去他家探望，把衡山公主许配给他的儿子魏叔玉。魏征去世后，太宗命朝中九品以上的官员都去吊唁，并为之亲自撰写碑文，刻于石上。太宗对他思念不已，他跟左右的大臣说了如下的名言：“人以铜为镜，可以正衣冠，以古为镜，可以见兴替，以人为镜，可以知得失；魏征没，朕亡一镜矣！”这恐怕是历代大臣中所能享受的最大哀荣了！
【评议】
忠臣好做而良臣难当，何也？大概是因为想做忠臣只要有一颗忠君爱国之心就差不多了，但如果想做良臣可就不一样了，不仅要有忠君爱国之心，还要有经世济时的真本领和处理政事、奉事君主的艺术，否则，在处处充满陷阱和危险的封建官场里，恐怕也只能是“杀身成仁”了。这里还涉及到一个“大忠”和“小忠”的问题，所谓“大忠”就是忠国不忠君，忠事不忠人；所谓“小忠”，就是忠君不忠国，忠人不忠事。一个人只有到达了“大忠”的境界，才能真正地胸怀开阔，无私无畏，如果再有处事的艺术，也许就可以做一个良臣了。至于魏征，在一定意义上应该说接近了“大忠”的境界，他虽然数易其主，但似乎从来没有人为此而责难他，因为他不是为了个人的名利或是苟延残喘而去朝秦暮楚。在他的心中，有一个准则，那就是上安君国，下报黎民。因此，魏征应该算是中国历史上最为典型的良臣之一。