人类最早的庇护所是自然洞穴，由于主要活动都限于山林中，居住洞穴也许并没感到有多大的不便。许多旧石器时代的人类化石和石器都是在洞穴里发现的，说明这种原始居住方式在当时得到普遍采用，如北京人、山顶洞人便居住在洞穴里，洞中不仅有人类化石出土，还有许多石器、骨器、装饰品和食弃的大量动物遗骨，还有烧土灰烬。其他一些著名的史前洞穴遗址还有辽宁营口金牛山、贵州黔西观音洞、河南安阳小南海数处，都有很重要的发现。在新石器时代早期，南方仍有不少洞居者，江西万年仙人洞、广西桂林甑皮岩等洞穴遗址的发现便是证明。
当农耕发明后，人类便开始告别世居的现成洞穴，慢慢向远离山林的平畴迁移，寻求更适宜耕种的沃野。空旷的田野上找不到现成的居所，于是人们不得不动手营造简单的庇护所，房屋建筑技术便开始出现了。最早的建筑无非是窝棚、树巢、窑洞之类，窑洞的挖掘明显是受了早先洞穴居住传统的启发。
告别洞穴之后，人类所经历的考验是严峻的，风雨、严寒与酷暑的侵袭锻炼了人们的意志，也逼迫建筑技术一步步向更高水平发展，一步步走向成熟。
史前先民对居址的选择显然很有经验，并不是随心所欲的。他们一般选择在背坡面水的地点，在河谷阶地和沼泽边缘，主要是从取水便利方面考虑的。有些较大的村落往往建筑在两河交汇处的台地上，这个经验一直沿用到今天，许多现代城市便都是建在大河交汇处附近。为逃避洪水的危害，又得居住在一定的高度，南方地区有许多土墩类型遗址，就是当时人们从水害方面充分考虑过的证据。掌握了这些居址的选点规律后，考古学家们在野外往往很容易就能寻觅到史前遗址，常常是十拿九稳。
在现今发掘的较早新石器文化遗址，大都发现有当时的房屋基址，一直到新石器时代末期，发掘到的房址数量已相当可观。其中以黄河流域中上游地区的史前居址保存最好，数量也最多。广阔丰厚的黄土层，适宜穴居、半穴居和地面居住。在黄土梯地的断崖上，是开掘窑洞的理想场所，山西石楼岔沟遗址发现过仰韶和龙山时期的窑洞式居址，窑室中央有火塘，窑壁上还掏有贮藏物品用的洞龛(图4)。在窑洞式穴居基础上发展而成的半穴居技术，使半地穴居住方式成为中原和北方地区新石器时代最普遍的建筑方式，甚至南方和西南地区也见到半穴居的例证。最早的半穴居建筑见于磁山、裴李岗、白家村和兴隆洼文化，都是面积只有几平方米的圆形坑状竖穴，上面可能支撑着一个很简陋的草木顶盖，只有兴隆洼文化的房址面积较大，由10余平方米直至100余平方米。再往后发展，坑穴挖得愈来愈浅，地面上筑起了矮墙，架起稍高的房顶。为稳固起见，又发明了支柱架梁技术。这些建筑技术的成熟，使得修建更大面积的房屋有了可能，也使得半穴居向地面居住的发展有了可能。
图4 龙山文化穴居复原图
新石器时代晚期，由于社会经济的发展，出现了套间和多间连建的大型房屋。甘肃秦安大地湾遗址发现了100多座仰韶文化房址，早期多为半地穴式，面积较小，建筑方法也简单；晚期则多为地面建筑，面积较大，有的达到100平方米上下，其中最大的一座为占地达420平方米的多室建筑，有主室、后室和左右侧室，精心铺设的居住面，效果与现代混凝土相似，具备防潮、保温、抗压多种功能，居住面经数千年保存依然十分完好，平光如新。河南淅川下王岗屈家岭文化时期甚至有长达80米，分为17个单元29间的长屋。类似的建筑在安徽蒙城尉迟寺遗址中也有发现，且布局严整，显为事先规划好而后建的。山东龙山文化的日照县东海峪遗址，还发现有夯筑台基的地面建筑基址；河南水城王油坊龙山文化遗址则见到土坯残墙，湖北天门石家河遗址发现了模制土砖，表明专用的建筑材料已制造出来。所有这些，都证实史前建筑技术已达到相当高的水平。
在南方由巢居发展而成的架空居住形式，称为“干栏”。这种竹木结构的房屋有很好的通风防潮性能，适宜气候湿热和地面低潮的地区居住，人居住在上层，底层可圈养牲畜。河姆渡遗址就发现过干栏式长屋遗迹，表现出较高水平的木作技术。现代南方的许多地区，仍然流行干栏建筑，可见这种居住方式的传统是多么古老。
由于社会的发展和经济能力的提高，还有人口不断增殖，大规模的村落随之出现了。在仰韶文化时期即已形成相当规模的村落，不仅聚集着数量可观的大小房屋，而且有比较严谨的布局，构成一个独立性很强的社会组织单位，或者就是一个氏族公社。在陕西宝鸡北首岭、西安半坡、临潼县姜寨和河南洛阳王湾，都发现了这样的聚落遗址，遗址清楚地划分为居住区、制陶作坊区和墓地三个部分。如西安半坡遗址，面积达50000平方米，居住区占去30000平方米，建有数十座房子，房子周围掘有窖穴，还见到畜栏遗迹。所有住房都环绕在一座中心广场周围，其中包括一座可能用于氏族成员聚会议事的公共大房，面积为160平方米。临潼姜寨遗址面积也有50000平方米，居住区为20000平方米，也有一座中心广场和一座大房子。小房子可看出分为五组，也都分布在广场周围。半坡和姜寨聚落外部都掘有壕堑，是一种较早的防御设施。墓地一般都设置在壕堑之外，与居住区相隔离。到了仰韶时代晚期，聚落形态一改早期的向心型，而转变为成排分布，与现代村落相仿。目前发现的淅川下王岗遗址、邓州八里岗遗址及蒙城尉迟寺遗址都是如此。
到了龙山文化时期，聚居传统有了一些改变，至今还没见到太大的聚居遗址，聚落内没有专门的制陶作坊区，窑场都散布在房址附近，明确分属于某个家庭单位；窖穴都掘在室内，表明对私有财产的看重程度；也没发现是否有中心广场，但房屋有成组分布现象，可能表示着是一个个大家庭单位；村落周围不见深深的壕沟，却筑起了厚实的夯上围墙，在山东章丘城子崖、河南安阳后岗遗址都发现过这样的围墙。
史前居址的建筑技术，大体经历了几个进步过程：房子由小间到大间，由单间到套间和连间；墙体构造由木骨泥墙、乱石砌筑发展到土坯墙和版筑墙；柱子由无到有，由少到多，由深埋到应用础石；居住面由不修整到烧烤，再到涂抹石灰面和夯筑混合土等等。建筑形式由半地穴、架空转向地面，再进而夯筑高基；居住形式由散居到聚居，再而到城居。这一切不仅奠定了中国古代民居建筑的基础，也奠定了帝王宫室殿堂建筑的基础。
富丽的宫殿，巍峨的大厦，高超建筑技术的形成，是在人类告别洞穴居址之后积累起来的，是在营造茅茨土阶的实践中积累起来的。如果人类当初死守在洞穴中，也就不会有今日的广厦千万间了。