相传，五帝之一的唐尧曾设鼓于庭，使民击之以进谏。《淮南子·主术训》载：“故尧置敢谏之鼓。”这可能就是进谏的起源。
以后在等级森严的封建社会里，臣对君进行直言规劝，使君主采纳自己的意见，改正错误，这叫做“进谏”。进谏的形式有多种，一般对君主面陈得失，称为“进谏”；写成奏章、谏疏送呈皇帝，谓之“书谏”；运用武力，陈兵力谏，称为“兵谏”；更有别出心裁者根据有关情况绘成图卷，配一疏奏，一起送呈，称之“图谏”。
为了使进谏经常化、制度化，在我国封建社会的许多朝代还设置谏官一职，专司其职。西汉置谏大夫，东汉改成谏议大夫。隋唐隶属门下省，掌侍从规谏。宋置谏院，以左右谏议大夫为谏院之长。明初亦置谏议大夫，旋因大杀功臣而废。
话虽这样说，但要求统治者能真正听取臣下意见，改邪归正，并不是那么容易的。在任何一个封建王朝里，臣僚进谏君王，都是要冒各种风险的。在长达两千多年的封建专制社会里，因进谏君王而被贬谪甚至杀头的不在少数。唐太宗李世民虽称明君，也曾扬言要杀魏征。