以前的房屋多由泥土盖成，后来用砖和石灰黏合砌成。而古罗马人不但在石灰中加入沙子拌成灰浆砌屋，还用沙子、石灰、砾石和水拌成“混凝土”（这与现在的混凝土概念不同）作为建筑材料：后来，人们发明了各种各样的“水泥”。一种英国人发明的“水泥”得益于一次偶然的机会。
1756年，英国英吉利海峡的一座灯塔突然失火，导引船只的灯塔台被毁。这对于号称“海上大国”的英国来说，无疑是个重大的损失。
必须立即修复这座灯塔。这一任务落到工程师史密顿的身上。史密顿着手准备，他打算用灰浆来黏合，要求工人在三天内将白色石灰石运往灯塔附近的小岛烧制石灰。谁知运来的石灰石却是带有黑色的劣质品。用这些劣质品造高标准的灯塔岂不是在开玩笑？
史密顿心急如焚，无奈时间不等人，只好死马当活马医，用用再说，于是他进行烧制。想不到的是，烧出来的竟是比灰浆好得多的优质品。他立刻进行分析，发现其中含6％～20％的黏土时性能最好。当然，灯塔建设得比预料的还要好。
一种“水泥”在偶然事件中诞生了。
其后，“水泥”的品种越来越多。1786年，帕克获得了“罗马水泥”的专利权，1816年在法国就用这种水泥建成了多尔多涅大桥。1824年，一位叫J．亚斯普丁的英国石匠和建筑承包商也摸索出用石灰、黏土、铁渣等原料制造另一种“水泥”的最佳比例，并完善了“水泥”的生产方法。他把这种“水泥”称为“波特兰水泥”，然而这种“水泥”实际上仍然是“罗马水泥”。他之所以采用这一名称，因为他想表明这种“硅酸盐水泥”与美国那种名叫“波特兰石”（Portlandstone）的建筑材料有关。而1844年英国I．B．约翰逊制成的“水泥”才是真正的“波特兰水泥”。1862年，E．朗根发现高炉渣具有潜在的水凝硬结能力，1901年起“矿渣水泥”进入市场。1921年则出现膨胀水泥，这才使预应力混凝土构件有了必需的建筑材料。此外，“水下水泥”、“防腐蚀水泥”等品种也相继出现，使人眼花缭乱。
钢筋混凝土也诞生在一次偶然事件中。
约瑟夫·莫尼埃是法国有名的园艺师。他用水泥修了一个花坛。由于水泥花坛硬而易碎，所以不知被谁碰碎了一块。他看了看这块水泥，为花坛的破损而惋惜。为了防止再次碰损，他在坛上立起了“请勿踏花坛”的木板，但字牌并没起多大作用，不久花坛又被碰破了。他为此大伤脑筋，但没有办法。
1865年的一天，他把一盆木本的花移植到花坛里去。一不小心，“砰”的一声，花盆被打破了。这时他偶然发现，花盆内的泥土却只在地上打个滚，并没有破碎，经过分析得知，原来是花庞大的根系纵横交错形成网状，把松软的泥土箍得很牢固的缘故。这使他受到启发：如果仿照花木的根系用铁丝织成网状，再用砂石、水泥浇在一起，砌成花坛，不就很牢固而不易破损了吗？
于是，他就按自己所想的方案，用这些材料砌起了花坛。果然，这个花坛一直没有破损。他甚至有意去碰撞它，也没有被损坏。
后来，他又用钢筋代替铁丝制成花盆，并于1867年7月16日取得用这种方法修建蓄水池的发明权专利。1875年，他还用同样的方法造了第一座钢筋混凝土桥。
大致与莫尼埃同时代的J．兰博，在1855年，曾制造过一艘钢筋混凝土小船。1865年，建筑承包商威尔金森在英国纽卡斯尔也用钢筋混凝土建造过一幢房子。这些事实表明，钢筋混凝土是水泥发明之后的必然产物，它是由一群人大致在同一时代各自独立发明的。
其后，混凝土和钢筋混凝土也得到迅猛发展。先后出现了钢筋混凝土制作的管和水箱（1868）、平板（1869）、楼梯（1875）、梁（1877）、铁路枕“木”（1878）。1889年，E．霍夫曼发明出一种加气混凝土。1918年在英国伯明翰制造的一艘混凝土船是最早问世的第一件轻质结构物。1920年，托尔克雷特混凝土即喷射式混凝土——一种高度压缩的混凝土开始应用。1923年，丹麦E．Ch．巴尔制造出一种泡沫混凝土。此外，还有一种被一些人称为‘‘钢筋水泥”即“钢骨水泥”的构件，这是指用金属丝网加固的薄壁（15～30毫米）状高强度混凝土构件，是意大利P．L．内尔维于1955年发明的。