随着陶器和木结构建筑的出现，具有创造力和想象力的艺术家们马上就发现这些材料是绝好的作画之处，于是，缤纷的色彩和丰富的纹样出现在这些器物上。以质朴明快、绚丽多彩为特色的仰韶文化与马家窑文化的彩陶图案，是我国先民的杰出创造。此外，大汶口文化、红山文化、河姆渡文化等，也有一定数量的彩陶。仰韶类型的彩陶以在西安出土的半坡陶盆《人面鱼纹盆》最具特色，也最耐人寻味。
夏、商、西周及春秋、战国时期，绘画已有了相当的进步。这时的绘画形象，可从青铜器及玉器上的装饰纹样，战国时期漆器上的彩画，特别是湖南长沙的楚墓中出土了两幅战国时期的带有旌幡性质的帛画，它们都属于公元前3世纪的作品。两画描绘的都是墓主的肖像，一幅为妇人，其上方绘有飞腾的龙凤；另一幅则是一位有身份的男子，驾驭着一条巨龙或龙舟。墨线勾勒的侧面肖像及伴有象征意义的动物是两画的相同之处，所不同的是《人物御龙图》所表现出来的画家技巧要熟练了许多。从这两幅画中可以看出中国绘画在当时已达到较高水平，为秦汉时期绘画艺术的发展奠定了基础。
历时400余年的秦汉王朝，是中国历史上早期建立的中央集权的封建大帝国，国势强盛，疆域广阔，丝绸之路沟通着中外艺术交流，在这一背景下出现了绘画艺术的发展和繁荣。汉代宫廷官署及政治性建筑物上多有壁画，用以宣扬礼教，褒扬功臣。汉代墓室壁画及画像石、画像砖，特别是陆续出土的帛画，对了解此一时期的绘画面貌提供了丰富的形象资料。汉代绘画气魄宏大，笔势流动，既有粗犷豪放的风格，又有趋于细密臻丽的帛画，生动地塑造了现实、历史及神话人物形象。在表现人物、动物动态，揭示情节高潮，反映现实生活等方面，有着重要成就。秦汉时代艺术以其深沉雄大的气魄，在中国美术史上放射着夺目的光彩。
三国魏晋南北朝的历史，是由统一走向分裂的过程。先是魏、蜀、吴三国鼎立，随后由司马家族统一为西晋，但十六国的连年战乱，使得中国再次进入了一个分裂的时代。5世纪时，由北魏的统一和相继分裂而形成的北朝和西晋王朝偏安江左后被宋、齐、梁、陈替代形成的南朝相互对峙。政治的不稳定、时局的混乱动荡，带来的是经济的普遍衰退，但在意识形态领域却有了超乎寻常的改变。此时的统治阶级早已被儒家思想所左右，民间的风气也随之俯仰。纷乱的社会，又给宗教的蔓延和传播创造了极好的机会，社会各个阶层都对佛教有了更为迫切的需要和更为广泛的接受。作为社会意识形态的映象之一的书画艺术在此时也发生了强烈的变化。绘画中的人物画得到了突出的发展，对其他对象的描绘则还处在很不成熟的阶段。
这一时期，绘画艺术的变化虽然不象书法那么显著，但是社会风气的变化，崇佛思想的上扬，都让本来简略明晰的绘画进一步变得繁复起来。曹不兴创立了佛画，他的弟子卫协在他的基础上又有所发展。作为绘画走向成熟的标志之一，南方出现了顾恺之、戴逵、陆探微、张僧繇等著名的画家，北方也出现了杨子华、曹仲达、田僧亮诸多大家，画家这一身份逐渐地进入了历史书籍的撰写之中，开始在社会生活中扮演愈来愈重要的角色。
其中发展得最为突出的是人物画（包括佛教人物画）和走兽画，而中国绘画中的其他各科还远未成熟，东晋顾恺之的传世作品《洛神赋图》中出现的山水只是作为人物故事画的衬景，山水画的逐步独立直到南北朝后期才趋于完成。
有关绘画的理论及史料著作在这一时期也相继出现。东晋时顾恺之有《论画》、《魏晋胜流画赞》、《画云台山记》3篇著作。南朝刘宋时宗炳《画山水序》及王微《叙画》是中国也是世界上最古老古的关于山水画的美学专著。齐梁时谢赫《画品》是一部以品评古今画家画艺优劣的专著，可是此书的意义却远远超出它对具体画家所一一作出的品评，实际上它是一部概括了中国古代绘画的艺术性准则的重要著作。梁隋间姚最有《续画品》，是追随谢赫之后，对画家画艺进行品评的又一部专著。
在中国绘画发展史上，隋唐是魏晋南北朝之后的又一重要时期。隋朝书画，继往开来，酝酿着新风格的出现。初唐的书画则承袭了隋朝的风尚，崇尚法度，但已呈现出不同的面貌。
唐代的绘画在隋的基础上有了全面的发展，人物鞍马画取得了非凡的成就，青绿山水与水墨山水先后成熟，花鸟与走兽也作为一个独立画科引起人们注意，可谓异彩纷呈。初唐时的人物画发展最大，山水画则沿袭隋代的细密作风，花鸟画已经出现个别名家，宗教绘画的世俗化倾向逐渐明显和增多。从已发现的乾陵陪葬墓壁画的山水画中，我们已经可以看到的比较简单的斧劈皴。以薛稷、殷仲容为代表的花鸟画，则设色和水墨的形式都已出现。这时最具有代表性画家是阎立德，他的作品和画风代表了初唐时期的画坛，为盛唐画风的突变奠定了基础。
盛唐时期是中国绘画发展史上一个空前繁盛的时代，也是一个出现了巨人与全新风格的时代。宗教绘画更趋世俗化，经变绘画又有发展。不同地区的画法交融为一，产生了颇受欢迎的新样式，以“丰肥”为时尚的现实妇女进入画面。以吴道子、张萱为代表的人物仕女画，从初唐的政治事件描绘转为描写日常生活，造型更加准确生动，在心理刻划与细节的描写上超过了前代的画家。而山水画则在此时已经获得了独立的地位，代表的画家有李昭道、吴道子和张璪。花鸟画的发展虽不象人物画和山水画那样成熟，但在牛马画方面却名家辈出，曹霸、韩干、陈闳、韩滉与韦偃等都是杰出的代表。此外，著名的画家王维、卢稜伽、梁令瓒等也名操一时，时至今日还能看到他们的传世作品或者后世的摹本。
中晚唐的绘画，一方面完善盛唐的风格，另一方面又开拓了新的领域。此时，以周昉为代表的人物仕女画及宗教画更见完备，我们从《簪花仕女图》中可以窥见作者深厚的绘画功力。而王墨等人的山水画则发生了变异，盛行树石题材，渐用重墨，泼墨山水也开始出现。边鸾、滕昌祐、刁光胤等的花鸟画作品则体现出了花鸟画的日臻完善。
唐代绘画的繁荣促进了绘画史论的发展，收藏著录及绘画史论的著述之成就也大大超过往代。唐代绘画品评著作有彦悰《后画录》、李嗣真《续画品录》、张怀瓘《画断》和窦蒙《画拾遗录》等。唐太宗时中书舍人裴孝源著有《贞观公私画录》一书。张彦远于大中元年（847）完成的《历代名画记》更是现存最早的一部绘画通史巨著。
唐代绘画不仅大胆汲取、借鉴外来艺术的表现技巧，而且还通过中外经济文化的交流传播到其他国家，并对日本古代绘画的发展产生了很大影响。唐代绘画灿烂而恢宏，具有昂扬磅礴的时代精神和风貌。
进入五代十国时期，虽然纷争并峙，但在绘画创作方面并没有停止，仍在前人的基础上继续发展。五代十国的书画，在唐代和宋代之间形成了一个承前启后的时期。无论是人物、山水，还是花鸟，都在前代的基础上有了新的变化和面貌。中原地区的战乱，并没有使得寺庙壁画的创作陷入停顿，但是风格都依托于吴道子的风范之下。在山水画的创作中则将唐人的水墨法大大发展了，出现了荆浩开创的北方山水画派。南唐的相对安定和其统治者对书画艺术的偏好，使得南唐绘画得到了长足的发展。画院的创立为画家开辟了新的出路和去向，同时也在很大程度上开始左右民间的绘画观念和风尚。人物肖像画、宗教画和仕女画都有名手出现，皆从前代的吴道子和周昉等处脱胎。在山水画上，则出现了与北方相异的江南山水画派，它的开创者时著名的画家董源。花鸟画也由于宫廷贵族的喜好而逐渐发展起来。南唐的著名画家有曹仲玄、周文矩、顾闳中、王齐翰、董源、徐熙、赵干和卫贤等。地处内陆的西蜀则因为晚唐以后不断有画家避乱入蜀，也设立了画院，在宗教壁画的创作方面极为兴盛，宗教人物画方面则出现了贯休、石恪等有变形风格的作品和写意画法。同时代的花鸟画则显得极其精致，黄筌父子是其完善者和光大者。
宋朝的建立结束了五代十国的分裂局面，社会各方面趋于稳定，在手工业、农业、商业发展的基础上，文化艺术也走向的新的繁荣，绘画也迈向了一个新的台阶。
北宋继承了五代西蜀和南唐的旧制，建国之初，就在宫廷中设立了“翰林书画院”，对宋代绘画的发展起到了一定的推动作用，也培养和教育了大批的绘画人才。徽宗赵佶时的画院日趋完备，“画学”也被正式列入科举之中，天下的画家可以通过应试而入宫为官。这是可以说是中国历史上宫廷绘画最为兴盛的时期。北宋画坛上，突出的成就是山水画的创作。画家们继承前代传统，在深入自然，观察体验的过程中，创造了以不同的笔法去表现不同的山石树木的方法，使得名家辈出，风格多姿多彩。李成和范宽为其代表。花鸟画在北宋时期的宫廷绘画中占有了主要地位，风格是黄筌的富贵之风，直到崔白等画家的出现才改变这个局面。北宋人物画的主要成就表现在宗教绘画和人物肖像画及人物故事画、风俗画的创作上。武宗元、张择端都是人物画家中的卓越人物。
在北宋时，除了宫廷和民间各自存在有数量可观的职业画家之外，还有一支业余的画家队伍存在于有一定身份和官职的文人学士之中。他们虽然不以此为业，但是在绘画的创作实践和理论探讨方面，都有显著的特点和突出的成就，他们的作品被后人称为“文人画”。以官僚贵族和文人身份参与绘画的创作活动，古已有之，但是那些人的作品和职业画家的作品没有分别，也没有自己的理论体系。但从北宋中期以后，苏轼、文同、黄庭坚、李公麟、米芾等人在画坛上活跃起来，文人画声势渐起。这一时期文人贵戚出身的山水花鸟画家增多与此有关。这股潮流的兴起，是中国绘画史上的一件大事，不但对后代的中国绘画发展产生了深远的影响，甚至在一个时期内，左右了中国画坛。
南宋的山水画的代表人物主要是号称“南宋四家”的李唐、刘松年、马远、夏圭，他们各自在继承前代的基础上有所创造。“文人画”在南宋时期除了在理论上进一步展开讨论以外，在实践中也有令人瞩目的成就。米友仁的“云山墨戏”，扬补之的墨梅，赵孟坚的水仙兰花都为世所重。被称“四君子”，时至今日仍被画家看重的梅、兰、竹、菊，在南宋时已基本成为文人画的固定题材。
南宋的著名人物画家有李唐、萧照、苏汉臣等。他们的人物画创作，很多都与当时政治斗争形势有关，多选择历史故事及现实题材，擅长减笔人物画的梁楷的出现，则为中国人物画的创作开辟了一条新的道路。
元代绘画以山水画为最盛，其创作思想、艺术追求、风格面貌均反映了画坛的主要倾向，影响后世也最深远。元初山水画家以钱选、赵孟頫、高克恭为代表，他们均对传统山水画进行了认真探索，并托复古以寻求新路。钱选善画青绿山水，师法唐代李思训、李昭道父子和南宋赵伯驹，并融进文人画的笔意和气韵，具有一种生拙之趣。高克恭变化出入于米芾、董源、李成之间，形成了浑穆秀润的独特风格，在元初与赵孟頫、钱选并驱。元代中后期，崛起黄公望、王蒙、吴镇、倪瓒这四大家。元四家以他们各自的创新风格和简练超脱的艺术手法，把中国山水画发展到了一个新阶段，代表了这一时期山水画发展的主流。
随着文人画的兴盛，元代枯木、竹石、梅兰等题材的绘画也得到了进一步的发展，并发生显著变化。其题材往往寓意高洁、孤傲，寄托画家的思想情操。艺术上讲求自然天趣，不尚雕饰和工丽，提倡以素净为贵。主要用水墨技法表现。其画风开启了后来的水墨写意花鸟画的先声。钱选变工丽细密为清润淡雅，晚年更创不假雕饰的水墨写意和彩色没骨的画法。王渊师法黄荃，作品多用水墨法，变工整富丽为简逸秀淡，是元代成就最突出的花鸟画大家。陈琳、张中笔法粗简，突破了宋代院体绘画一丝不苟的规格。竹石画家最著名的有李衎、高克恭、赵孟頫、柯九思、吴镇、顾安、倪瓒等人，大都继承文同、苏轼或王庭筠的传统而有自己特色，以水墨法见长。张逊善画双钩竹，在元代几成绝响。其他竹石名家尚有李倜、谢庭芝等人。以画梅著称者有邹复雷、王冕等人，他们多学自仲仁和尚和杨无咎。
元代壁画比较兴盛，分布地区也很广，在继承唐宋和辽金壁画传统基础上亦有新的变化。从实物遗存和文献记载看，有元寺观壁画、墓室壁画、皇家宫殿和达官贵人府邸厅堂壁画。山水、竹石、花鸟等题材的增多，是元代壁画的显著特点之一。元代壁画的盛行，使得唐宋以来吴道子、武宗元等人的优秀壁画传统得以继承和发扬，在中国绘画上占有不可忽视的地位。