孔子死后的第二年（前478年），鲁哀公将其生前在曲阜的“故所居堂”立为庙。当时只有庙屋三间。这是历史上的第一座孔庙——阙里孔庙。
随着孔子地位的不断提高，阙里孔庙不断重修扩建。汉桓帝永兴元年（153年），皇帝首次下令修孔庙，并派孔和为守庙官。东魏孝静帝兴和元年（539年）修孔庙时，“雕塑圣容，旁立十子”，为孔庙有塑像之始。但是，一直到宋初，孔庙的规模并不大。宋真宗天禧年间，一次增广殿堂廊庑316间，使庙制扩大10多倍。明弘治年间修庙时，又扩出前三院。清雍正年间重修时，则仿皇宫之制，将正殿、正门易为黄琉璃瓦。
经过历代数次大修、扩建，孔庙面积达到327.5亩，前后九进院落，整个建筑群包括三殿、一阁、一坛、一祠、两庑、两堂，共466间，另有54座门坛，2000多块碑碣，成为全国最大的孔庙。
曲阜的另一座孔庙在孔子的出生地尼山，此庙规模虽不算大，但由于建在尼山顶上，松柏掩映，云雾缭绕，有仙山琼阁之感。
在封建社会，孔子的地位越来越高，因而祭祀他的庙宇也越建越多，直到遍及全国。
据孔府档案记载，明清时期，全国孔庙达1560处之多。
孔庙，有的地方也称文庙。