居室是人类生存的重要因素。旧石器时代的人类没有建造居室的能力，只有选择自然的洞穴居住。进入新石器时代后，农业的产生为人类的定居创造了条件，生产工具的进步也使人类具备了营造房屋的可能，于是人类结束了“穴居而野处”的时代，开始在固定的地方修建居室，逐渐形成了氏族村落。我国幅员辽阔，南方和北方的自然条件存在着较大的差异，如南方炎热多雨，地面潮湿；北方则寒冷干旱，地面干燥。生活在这些地区的人们便因地制宜，建造了适合各自居住的房屋。
人类刚刚开始定居生活时，由于生产工具还很落后，也缺乏营建居室的经验，只能用石器、棍棒挖坑作为栖身之地，以躲避风雨和严寒的袭击，这就是最原始的住宅——穴居。这种穴居比旧石器时代的山洞可进步多了，是人类社会发展的重要表现。当时穴居的形式有两种：一种穴居为竖穴居室，是在平原或较宽广的台地建造的，这种居室在许多地区都有发现。如河北磁山遗址和河南裴李岗遗址中有一些口小底大的袋状窖穴，其口径为0.6～1.94米，深 0.5～1.28 米，其中常放置有石器、骨器和陶器，地面有红烧土的痕迹。河南偃师汤泉沟也发现过这样的袋形窖穴，穴底也有烧炊的红烧土面。这些窑穴很可能是当时人们的住室。这种居室的顶部可能是圆锥形的，古史记载东夷原始居民有穴居为“屋形似冢”，其时间虽晚，但作为居室的一个发展阶段，中原一带在新石器时代很可能也存在过。
除竖穴居室外，另一种穴居就是产生于黄土高原的横穴居室，也就是我们所说的窑洞。当地的人们选择高原的向阳坡，在沟坎断崖上向里掘洞，利用黄土的松软和黏性结构，掏成拱形的房子。横穴居室的特点是易挖，防暑防寒性能好，冬暖夏凉。横穴的最早实例是在山西石楼岔沟发现的一处仰韶文化时期的遗存。这处遗存平面呈方形，入口处小，室中央有灶。后来又在内蒙古凉城圆子沟发现了一处晚于仰韶文化的龙山文化时期的大型人类村落遗址，其中肩横穴式的房址28座，每3间为1组，按山坡台地的自然起伏分成五六排，在山坡上错落有致地排列着。颇为讲究的是，房内进面和墙壁都涂抹有平整的白皮面。
穴居虽然能避风寒、易营造，但空间面积太小、上下出入不便、且又易被雨水冲灌。随着个体家庭成员的增多，穴居显然已经不能适应人们的需要，于是在平原等许多地方出现了半地穴式的建筑。这种半地穴房屋的中间，有几根大的木柱支撑屋顶，周围有小木柱，小木柱间草索相连，再在外部抹泥，称为“木骨墙”。以后这种半地穴式的房屋逐渐发展成为真正的地面建筑。但是在黄土高原，那种横穴居室也就是窑洞式建筑在商周时期依然存在，在二里头文化的山西东下冯遗址中和陕西西周丰镐遗址中均有发现。东下冯遗址为公元前1900年到公元前1500年的文化遗存。该遗址中的窑洞多就断崖沟壁构成，面积在5平方米左右。居室已有圆形、椭圆形和方形多种，内有壁龛和火膛。丰镐的窑洞则是在地面挖一口径5至9米，深约5米、平面为椭圆形的深坑，再从一壁掏出穴洞。坑底有一条供出入的土坡道，将主室分为两半。
商周以后，窑洞仍然是当地居民主要的居住形式，只不过随着生产工具的进步，它不再是面积狭小的穴洞，已经变成了真正的居住处所了。