农具的起源可以追溯到原始社会使用简单农具的时代。在中国，早在新石器时代的仰韶文化时期（约公元前5000～前3000）就有了原始的耕地工具——耒耜。公元前13世纪就已使用铜犁头进行牛耕。到公元前8～前3世纪的春秋战国时代，已经拥有耕地、播种、收获、加工和灌溉等一系列铁、木制农具。公元前90年前后，赵过发明的三行耧，即三行条播机，其基本结构至今仍被应用。到9世纪已形成结构相当完备的畜力铧式犁。在《齐民要术》(约540)、《耒耜经》(约880)、王祯《农书》(约1310)、《天工开物》(1637)等古籍中，对各个时期农业生产中使用的各种机械和工具都有详细的记载。在西方，原始的木犁起源于美索不达米亚和埃及，约公元前1000年开始使用铁犁铧。19世纪至20世纪初，是发展和大量使用新式畜力农业机械的年代。1831年，美国的C.H.麦考密克创制成功马拉收割机。1936年出现了第一台马拉的谷物联合收获机。1850～1855年间，先后制造并推广使用了谷物播种机、割草机和玉米播种机等。20世纪初，以内燃机为动力的拖拉机开始逐步代替牲畜，作为牵引动力广泛用于各项田间作业，并用以驱动各种固定作业的农业机械。30年代后期，英国的H.G.弗格森创制成功拖拉机的农具悬挂系统，使拖拉机和农具二者形成一个整体，大大提高了拖拉机的使用和操作性能。由液压系统操纵的农具悬挂系统也使农具的操纵和控制更为轻便、灵活。与拖拉机配套的农机具由牵引式逐步转向悬挂式和半悬挂式，使农机具的重量减轻、结构简化。40年代起，欧美各国的谷物联合收获机逐步由牵引式转向自走式。60年代，水果、蔬菜等收获机械得到发展。自70年代开始，电子技术逐步应用于农业机械作业过程的监测和控制，逐步向作业过程的自动化方向发展。
农具的产生和发展是与农业的产生和发展同步进行并相互促进的。在原始农业时期，农业生产粗放，农具的材料以石、骨、蚌、木为主；种类可分为农耕用、收割用和加工用三类。农耕类大体有铲、耒、锄等；收割类包括刀、镰等；加工类最普遍的是石磨盘和石磨棒。此外，还有用鹿角制成的农具。陶器的发明和应用很早，主要用以汲水、贮物和烧煮食物。此后，各个时期农具的发展大致如下。
夏、商、西周时期这一时期的农具有所改进，但所用材料还是以木、石、骨等为主。当时已有青铜生产，但多用于武器、食器和礼器。到西周末年，用青铜制作的仅有一些中耕农具等。此外还有一种用于碎土和砸实田埂的工具，只是装有长木柄的木质榔头。在农业上很重要的汲水、灌溉器具，商代已有桔槔；西周的戽桶和吊桶，是用于从池塘和井中取水灌溉的。这个时期农具的种类虽增加不多，效率也还不高，但为后来铁制农具的发展奠定了基础。
春秋、战国时期冶铁业的兴起，使中国农具史上出现了一大变革时期：铁制农具代替了木、石材料农具，从而使农业生产力开始了质的飞跃。战国时期的农具绝大多数都是木心铁刃的，即在木器上套了一个铁制的锋刃，这就比过去的木、石质农具大大提高了生产效率。从考古出土的实物看，当时使用呈V字形的铁犁头，有利于减少耕地时的阻力；可有效地用于除草、松土、复土和培土、脱粒农具也大量出现，为后世所长期沿用。
秦、汉至隋、唐、五代秦统一中国以后，特别是两汉以来，由于冶铁业的大发展，不但铁制农具更加普及，成为“民之大用”，而且随着农业生产发展的需要，农具的种类增加，质量也大为提高。西汉中期以后，木心铁刃农具已被全铁农具所代替。随着牛耕的推广，耕犁也有所革新，除犁铧是全铁外，还创造了犁壁，从而更加有利于深耕和碎土。东汉时开沟用的巨型铧，重达15千克、长达40厘米左右。唐代《耒耜经》中记载的曲辕犁，构造更加复杂和完备，操纵便利。
至魏、晋、南北朝又有新的增益，如碎土保墒、平整土地用的耙就在此时出现。汉代创造的辘轳或称滑车，使汲水效率大为提高。翻车（即龙骨水车）于西汉末年先是在宫苑池沼灌水使用，而后逐渐普及民间，又经过东汉末年及三国魏时的继续革新，堪称灌溉工具上的一个重大创造。它利用齿轮带动链上的许多刮水板将水刮入车槽，以人力或畜力驱动，用于提水灌溉和排涝时，效率远胜于过去的灌溉器具。
唐、宋、五代时发明的立井水车主要用于深井取水，也是利用齿轮原理。至于高转筒车，则是用许多竹筒连接、借助水力转动轮轴汲水入筒提至高处的装置，主要应用于长江流域。此外，在农产品加工方面，如风车的利用，舂米工具由杵臼到脚踏碓到水力碓的进步，特别是多个齿轮连带转动的连磨的利用等，都较过去大大提高了效率。宋、元时期，中国农具的发展无论在动力的利用、机具的改进、种类的增加、使用的范围等方面，都超过了前代。北魏《齐民要术》记载的农具只有三十多种；而元代《王祯农书》的“农器图谱”所载农具达105种之多，几乎包括了所有的农具，且附以精致插图。这时还出现了绳套和挂钩。绳套是把“一条杠”分解为两条绳索，可使牛耕的牵引力加大；挂钩是将动力机和工作机分开。
明、清时期明、清两代的农具较之元代无多大变化，发展比较缓慢，但某些农具仍有改进。如明末曾出现绳索牵引的代耕架，是将用于辘轳的绞关用于犁的牵引，可“坐而用力，往来自如”地进行垦耕。这期间中国北方出现了露锄，南方则出现了塍铲、虫梳和除虫滑车等，反映了传统的农业精耕细作程度愈来愈高。同时，由于钢铁冶铸技术的发展，在农具部件的创造改进方面也有较大进步。
中华人民共和国成立初期，广为发展新式畜力农具，如步犁、耘锄、播种机、收割机和水车等。20世纪50年代后期，中国开始建立拖拉机及其配套农机具制造工业。洛阳第一拖拉机厂于1959年建成投产。1956年，中国首先在水稻秧苗的分秧原理方面取得突破，人力和机动水稻插秧机在60年代中期相继定型投产。1965年开始生产自走式全喂入谷物联合收获机，并从1958年起研制半喂入型水稻联合收获机，到20世纪70年代中期有十几种产品定型，少数机型进行小批生产。1972年创制成功的船式拖拉机（机耕船），为中国南方水田特别是常年积水的沤田地区提供了多种用途的牵引动力。到1984年底，全国（除台湾省外）大、中型拖拉机保有量达到85.4万台，小型和手扶拖拉机达到329.8万台，农业用汽车达到35万辆，农用排灌动力机械达到615万台，农用水泵达到515.7万台，大、中型拖拉机配套农机具达到123.5万部，小型和手扶拖拉机配套农机具达到291.8万部，谷物联合收获机达到35861台，饲料粉碎机达到113.9万台，磨面机、碾米机、轧花机和榨油机共388.1万台，农用动力总功率达1.95×108千瓦。1984年，机耕面积达5.24亿亩，占耕地面积的39％。机电灌溉面积达3.76亿亩，占灌溉面积的56.4％。