Już w prehistorii dostrzegamy działalność architektoniczną człowieka. I mimo że z początku (paleolit) mieszkał on w jaskiniach, to i te podzielić możemy na świeckie, służące do mieszkania oraz sakralne, pełniące rolę świątyń, w których składano ofiary, a także tworzono malowidła ścienne.
Jednak prawdziwy początek architektury, dostrzegamy w momencie, gdy człowiek osiedlił się w jednym miejscu i zajął się uprawą roli i hodowlą zwierząt zamiast zbieractwa i polowań. To z tego okresu pochodzi najwięcej budowli prehistorycznych. Są to głównie kurhany, służące do grzebania zmarłych. Były to kopce (większe lub mniejsze) z elementami drewnianymi. Najstarsze datuje się nawet na 5000 lat p.n.e.
Od trzeciego tysiąclecia p.n.e. spotkać się można z dolmenami i menhirami. Te pierwsze to budowle o charakterze grobowca, złożona z megalitów wkopywanych pionowo w ziemię i skały położonej na nich poziomo.
Natomiast menhiry, były to swego rodzaju pomniki na cześć zmarłych, zbudowane z pionowo ustawionej na nagrobku skały, często nieociosanej, zaostrzonej u góry.
Kolejną formą architektoniczną prehistorycznych, jest kromlech, czyli krąg z ustawionych pionowo głazów wokół miejsca kultu czy grobowca. Najbardziej znanym przykładem takiej budowli jest Stonehenge.
Najważniejszym co z prehistorii trzeba zapamiętać, jest to że to tu dokonał się podział na budowle świeckie i sakralne, to tu powstały pierwowzory pierwszych grobowców. Ważną rolę w prehistorii kształtowaniu się architektury, jak i w późniejszych epokach, miała religia i wierzenia.