政府责任的法律监督是一项系统工程，需要一系列法律制度的保障，其中建立责任追究制度是关键。责任政府必须建立严格的责任追究制度，没有严格的责任追究制度就不可能真正落实责任。责任追究制度主要包括责任确定机制和责任奖惩机制，并要与政府官员的晋升任用制度和物质利益分配政策紧密结合在一起。从经济学的角度来看，责任政治就是为了保证权力的行使者努力为授予者工作，保证公共利益不因公共权力的行使者不负责的行为蒙受重大损失，而建立起来的责任追究制度。这种制度要使权力行使者的损失尽可能趋近权力授予者所受到的损失，或者使权力行使者的损失达到足以使他对自己不负责的行为引起足够重视的水平，从而制约权力行使者不负责的行为的发生。因此，政治责任的规定和追究意味着处罚，意味着权力和利益的剥夺。
政府是由众多国家公职人员组成的集体组织。为了明确组织中的政治责任，政府普遍实行首长责任制。《中华人民共和国宪法》规定：“国务院实行总理负责制。各部、各委员会实行部长、主任负责制。”“地方各级人民政府实行省长、市长、县长、区长、乡长、镇长负责制。”政府内部的组织管理也都采用首长责任制。在实行首长责任制的组织中，首长对组织的行为负有总的政治责任，组织行为不管具体由谁所为，组织的首长就要对其负一定的政治责任。
因此，对政府责任的追究最终落实到对政府各级领导人的追究。作为领导，他的业绩不仅看他本人做了哪些工作，更重要的是看他领导的组织做了什么。领导责任制要求对领导干部不仅考核其个人的工作表现，同时还必须考核他所领导的组织的工作状况，考核他在组织建设中的作为。可见，政府责任是一种责任连带制度。在组织中，领导有权指挥、命令和规范组织中成员的行为，相应地，领导对他们的职务行为也负有政治连带责任。一旦组织中出现问题，不管是谁所为，领导都要承担相应的政治责任。领导责任制是政府组织的凝聚剂，是组织领导的推动力。领导责任制迫使领导加强对政府工作的管理，从而使政府组织成为一个能承担集体责任的有机整体。
对政府领导责任追究必须要与领导的晋升任用政策结合起来。领导干部也有自己的切身利益，领导干部对自己切身利益的关注是十分正常的。对于领导干部来说，与切身利益关系最密切的因素是晋升任用。因此，政府领导责任追究制度应该与政府领导晋升任用制度有机统一起来，把政府领导履行责任的业绩作为其晋升任用的重要依据，使政府领导对自身利益的关注与对工作的负责结合起来。总之，责任政府建立在科学合理的组织制度之上，并通过健全、完善的法律制度予以确定。
以法律监督政府，就是要通过法律对政府权力及其行使者设定各种制约机制，以充分体现权力制约权力的原则。法律对权力的有效监督作用建立在法律至上的原则之上。法律至上意味着：对于国家及政府来说，只有法律明文规定或允许的，才可以作为。
它还意味着任何政府官员不得凌驾于法律之上，任何政府官员的行为都必须经得起法律的检验，一旦其逾越规范，社会的权力机制会迫使其向法律就范。
对于责任政府的实现，无疑首先要依靠制度力量，但制度力量有其局限性，它是一种外在的力量，主要侧重于对消极行为的限制。相比之下，道德力量依靠社会舆论、传统习俗和内在信念起作用，其影响具有广泛性、基础性和倡导性。它既是法律规范有效发挥作用的基础，又是法律规范作用的补充和扩展。
政府管理不同于经营管理，经营管理中合理的利益机制是调动经营管理人员承担责任的主要内在力量。政府的公共管理不可能像公司企业那样，政府官员按一定的比例直接分享公共管理创造的社会效益。政府管理中体现利益原则的功绩制由于种种原因一时还难以成为调动政府官员积极性和创造性的根本措施。
在这种情况下，政府官员如果没有崇高的从政道德，就极易导致工作懈怠和惰性，导致不负责任与官僚主义。一个政府只有具有全心全意为人民服务的奉献精神，具有对人民的忠诚和高度的历史责任感，才可能成为对公民与社会认真负责的责任政府。
因此，政府责任的履行主要依靠制度，但也要依靠道德的力量。政府官员对政务的负责精神与政府官员的从政道德具有密切的联系，政府官员政德的自觉性，对于忠实履行政府责任，具有内在积极影响。具有崇高政德的政府总是负责任的政府，政府官员的道德水准深刻地影响政府的负责态度。1999年国际行政科学学会特别会议的主题定为“公共行政中的责任：民主、效率和道德的整合”，确切地反映了责任政府与民主、效率和道德之间的关系。可见，责任政府的建设与政府官员从政道德的建设必须有机统一起来。
政府官员从政道德的监督是道德践行的基本保障，尽管从根本上来说，政德的践行依赖于公职人员的自觉性，但其自律性的养成要经历从不自觉到自觉、由外在规范逐渐内化为内在道德需要的过程。在这个过程中，外在的道德监督是这种转化得以实现的重要条件。政府的效率不仅取决于政府官员的自觉努力，还取决于政府外部的道德监督。外部的道德监督对于政府来说既是压力，也是动力。政府只有在外部道德监督的持久作用下，行政道德水平才会不断得到提高。
第三节责任政府与制度发展
责任政府是一个民主的政府、高效的政府和具有崇高道德的政府。它的实现必然要经历一定的历史过程。责任政府也是一个发展的概念，与一个国家的政治、经济和文化的进步紧密联系在一起。要使我国政府成为人民满意的责任政府，需要进行多方面的改革和发展。建立适合我国国情的民主政治制度是实现责任政府的关键，只有将政府置于民主力量的监督之下，才可能促使政府对公民负责。没有民主，政府就会成为凌驾于社会之上的专制力量，公民就无权要求政府应该做什么和不应该做什么，政府无须对公民负责。因此，建立和完善民主政治，是建立责任政府的关键。
就我国民主政治发展而言，加强人民代表大会制度的建设具有关键意义。人民代表大会是我国的代议机关，我国议行合一的政治原则确立了人民代表大会产生政府的权力。因此，对于建立责任政府，人民代表大会既有权力又有责任。人民代表大会作为我国的立法机构，具有对政府责任履行情况进行监督的法定权力。同时，人大只有产生一个对人民负责任的政府才能不辜负人民的重托。因此，相对人民来说，人大与政府应该具有连带责任关系。可见，完善人民代表大会制度，加强人大对政府的监督，是实现责任政府的重要制度措施。人大要切实履行法律赋予的监督权力，对政府的政绩和公共权力的行使情况进行监督检查，督促政府切实履行职责。
责任政府建立在完备的法制之上，责任政府的建设要与政府法制建设紧密联系起来。对政府责任进行明确的法律规定，并形成有效的追究制度，确保有关法律的执行，形成对政府有效的法律监督，是实现责任政府的重要措施。当然，有效的法律监督最终要求把法治理念转化为公民的精神情感认同。中国实现对政府进行有效法律监督的过程，在本质上是一个以法治文化精神重构中华民族文化精神的过程。如果说民主政治和市场经济是法治存在和发展的制度要素的话，那么，以主体自由追求和理性自律为内核的公民意识，则是其非制度要素。正是这两者的契合，才使具有普遍理性主义的现代法治得以实现。对政府进行有效的法律监督最终建立在法治理念之上：第一，政府应该以全社会的公共价值为依归，政府意志要服从社会意志，对公民和社会负责；第二，法律具有极大权威，任何政府官员都要接受法律的监督；第三，法大于权，任何政府权力都要依法行使并受法律的制约；第四，任何人在法律面前都是平等的：权利平等、义务平等、违法犯罪受追究平等。公民要守法，政府公职人员更要依法行使国家权力。只有这样的法治理念深入人心，成为政府官员和社会公民的共同理念，责任政府才能最终得到实现。
建立责任政府必须正确处理党政关系，合理界定党政之间的责任，如果党政之间责任不明确，就很难进行责任监督。正如有学者所说的，“在我国历史上，由政府执行而由执政党导政谋政、制定的大政方针乃至具体政策所导致的失误与过错、由政府机关及其工作人员执行而党组织决议或决定所造成的违法与侵权并不少见，这都很难由政府和政府工作人员负责或负完全责任。由于执政党在国家政治体制中居于领导地位，这就容易造成党比法大、党纪比国法、政纪重要，用党纪制裁代替国法追究行政责任的现象，失却政府及其工作人员对宪法、民法、刑法和行政法所承担的法律责任。在这方面，应当在确保中国共产党的政治领导的前提下，通过进一步立法，来确立我国的行政责任体制”。
责任政府与公民参与具有内在的互动关系。公民积极的政治参与，对政府行为的关注和监督，对于政府责任精神的形成是非常重要的。如果公民对政府行为采取漠然的态度，不积极表达自己的意愿，不对政府的不当或违法行为进行谴责、批评和监督，政府对公民的意愿和社会的要求也会漠然视之。建立责任政府不仅是政府官员的职责，也是民主政治下每个公民的愿望和义务。每个公民都应关心政府的建设，监督政府履行职责。
责任政府的形成基于良好的道德监督，只有具有负责精神的官员才能形成负责任的政府。建立责任政府必须弘扬崇高的从政道德，道德是依靠舆论、信念和习俗得以实现的，因此，建立良好的道德舆论环境，树立高尚的从政道德信念，鼓励和支持公民对政府及其官员的失职、渎职和不道德行为进行谴责，最终形成良好的道德监督机制对于责任政府的建立具有重要意义。
总而言之，责任政府主要体现在政府公共政策的民主性、行政管理的高效率和价值取向的道德化三个方面，是民主、效率与道德的整合。而民主、效率与道德的整合建立在有效的民主、法制和道德监督机制之上。