早在公元9世纪初的唐朝，中国人就已发明了火药，并在10世纪的北宋时代，制造出爆竹、烟花和火药兵器。当时人们把装有火药的竹筒绑在箭杆上，点燃引火线后射出去，箭在飞行中借助火药燃烧向后喷出气体所产生的反作用力，使箭飞得更远，称为“火箭”。后来，据说曾有人坐在装有数十个火药筒的椅子上，双手各持一个大风筝，试图借助火箭的推力实现飞天的梦想。
这项发明随蒙古大军的西征传到了印度。18世纪时，印度人曾用火箭来反抗英国人。此后，这项技术又传到了西方。在美国独立战争期间，英国人曾用火箭来进攻殖民者坚守的要塞。
20世纪初，俄罗斯科学家齐奥尔科夫斯基最早提出利用火箭来探索高层大气和宇宙空间的设想和设计原理。但是第一个进行实验的则是美国人戈达德。1926年，他成功地发射了一枚自己研制的液体燃料推进火箭，飞行时间为2.5s。
同一时期，德国科学家也在进行火箭试验。20世纪30年代，德国军方组织科学家和工程技术人员集中力量秘密研制火箭武器。到40年代初，德国研制成功能用于实战的V-2导弹，这是一种用液体燃料火箭推进的弹道导弹。苏联、美国等则研制出火箭炮和反坦克火箭弹。
二战结束后，苏联和美国等竞相研制包括洲际弹道导弹在内的各种火箭武器，并大力发展运载火箭技术，用于发射人造卫星和载人飞船。美国在20世纪60年代研制的“土星5号”运载火箭，起飞质量约2930t，运载能力为127t，是迄今为止人类制造的最大的火箭，完成了“阿波罗”系列载人飞船登月壮举。
中国于20世纪50年代开始研制新型火箭。1970年4月24日，用“长征1号”三级运载火箭成功地发射了第一颗人造地球卫星。1980年5月，向南太平洋海域成功地发射了远程导弹。到目前为止，我国共研制了12种不同类型的“长征”系列火箭，能够发射各种近地轨道、地球静止轨道和太阳同步轨道的卫星及“神舟”系列载人飞船，并建成了酒泉、西昌和太原三个航天发射中心。
火箭的基本组成部分有箭体、制导系统、推进系统和有效载荷，其中有效载荷包括人造卫星、飞船或空间探测器等航天器；箭体用来安装和连接火箭各个系统，并容纳推进剂；制导系统控制火箭的飞行，将火箭稳定而精确地导向目标；推进系统按其燃料特点，可分为化学火箭发动机、核火箭发动机、电火箭发动机和光子火箭发动机等。目前最常使用的是化学火箭发动机，它依靠固体或液体推进剂在燃烧室内进行化学反应释放出来的能量转化为火箭推力。此外，一些发达国家还在研制电火箭发动机，即利用电能把惰性气体电离，然后高速向后喷出，由此产生向前的推力。