В палеолите и позже (а кое-где и до настоящего времени) в роли жилища выступали карстовые пещеры. В них можно укрыться от непогоды, спрятаться от дикого зверя, состряпать обед на огне очага, изготовить орудия труда и охоты и выспаться на ложе, устланном травой или шкурами. Обиталищем человека мог стать и неглубокий грот, и просто скальный навес. По предположению некоторых учёных, первобытные люди воспринимали пещеру как материнское чрево и ощущали себя в ней подобно детёнышам кенгуру в родительской сумке. Но все эти первые жилища ещё не были домами в полном смысле слова, так как не являлись изобретением человека, а скорее копировали логова зверей, гнёзда птиц, термитники, пчелиные ульи и т. п. Настоящие же дома появились лишь тогда, когда человек осмысленно включил сооружаемое в культуру, т. е. сделал частью своего образа жизни, наполнил его миром вещей, сотворенных им самим. Около 2 млн лет назад появились жилища, обнаруженные археолога-ми в Восточной Африке: овальная каменная вымостка диаметром около 4 м, которая, вероятно, слу-жила опорой для камней и шестов; на них клали ветки или вешали шкуры животных — то был прообраз крыши. 

В период, когда Северную Евразию покрывали ледники и их южная граница доходила примерно до широты Москвы, появ ляются самые удивительные архитектурные сооружения каменного века — из костей мамонта. «Фундамент» жилища делали из челюстных костей, положенных в несколько рядов по периметру, стены укрепляли черепами, а бивни шли на входную арку и перекрытия.  Сверху всю конструкцию покрывали шкурами или древесной корой. На протяжении всего верхнего палеолита в местах с холодным климатом устраивали землянки, круглые или прямоугольные. Самые большие из них были глубиной 2—3 м, фактически не имели стен на поверхности земли, покрывались сверху деревом и засыпались землёй для утепления. В таких землянках могла жить как одна семья, так и целый род. Сооружали также навесы, хижины, шалаши, хотя их следы до нас не дошли. Чумы и яранги, шатры и палатки народов-кочевников ведут свою родословную именно от них. После неолитической революции, когда многие племена перешли от кочевого образа жизни к оседлому, начали строить прочные, долговременные дома. В каждом районе древнейшей ойкумены в зависимости от окружающих условий были свои принципы зодчества, строительные материалы, предпочтительные конструкции, совершенствовавшиеся от эпохи к эпохе.