Kaya oyma mimarisi, doğada bulunan kayaların, bulunduğu yerde çeşitli amaçlara hizmet edecek şekilde oyularak şekillendirilmesi ile meydana getirilmiştir. Bu oluşumda bölgedeki kayaların kolay oyulabilmesi  önemli etkendir.

Kaya oyma yapıları, geleneksel inşa edilmiş yapılardan birçok yönden farklı olsa da, birçok kaya oyma yapısı geleneksel mimari formların cephesini veya iç mekânını taklit edecek şekilde yapılmıştır. İç mekânlar genellikle planlanan alanın çatısından başlayarak ve sonra aşağı doğru çalışılarak oyulmuştur. Bu teknik, taşların alttaki işçilerin üzerine düşmesini önler. Pek çok kaya oyma yapısında kolon, kubbe, tonoz gibi kullanılan formlar oyularak oluşturulmuştur. 

Tek bir parça kayadan yapılmış olan yapılara "monolitik mimari" de denir. En zahmetli ve etkileyici kaya oyma mimarisi, çevredeki kayanın yüzey seviyesinin tamamen altında, yapının etrafındaki büyük kazılmış bir delikte duran monolitik yapıların kazılmasıdır. Hindistan'daki Ellora ve Etiyopya'daki Zagwe yapımı Lalibela, bu tür yapıların en ünlü örneklerinden bazılarıdır.

Kaya oyma mimarisi, düz kaya yüzeyinin altında tamamen kazılmış odalar olarak da görülür, bu mimari özellikle kaya oyma mezarlarında yaygındır. Bir uçurum veya dik bir yamaca yapılan oyma yapılar, Likya mezarlarında, Petra'da ve Ajanta Mağaraları'nda olduğu gibi etkileyici bir cepheyede sahip olabilir. Kaya oyma mimarisinde tapınaklara Hindistan, mezar ve konutlara Kapadokya gibi yapılar örnek verilebilir.

Mimariye yön veren elverişli doğal kayalar, yüzlerce yıl boyunca tüm topluluklar için ana malzeme olarak kullanılmıştır. Bölgenin sahip olduğu jeolojik, fiziksel, kültürel ve sosyal konumu, kayaların farklı şekillerde oyma yapılarak ortaya çıkarılmış olan kaya oyma yapılar arasında; kiliseler, sivil konutlar, kaleler, yeraltı şehirleri, depolar ve mezarların ön plana çıktığı görülür. Statik/dinamik yükler altında yapısal olarak hasar görmeyecek ve ilave bir taşıyıcı sisteme ihtiyaç duymadan stabilitesini koruyacak şekilde orta şiddetteki depremlerde can güvenliğinin sağlanması, şiddetli depremlerde ise göçmenin önlenmesi prensibine dayalı olarak tasarlanmış oldukları tespit edilmiştir.

Ebu Simbel Tapınağı, Mısır; Ajanta, Barabar, Pataleshwar ve Ellora Mağaraları, Hindistan; Bandelier Ulusal Anıtı, New Mexico; Likya Kaya Mezarları, Selime Katedrali, Vekse Kaya Lilisesi, Kapadokya ve Uç Hisar Türkiye; Gila Uçurumları, New Mexico; Lalibela Kaya Kiliseleri, Etiyopya; Longmen Taş Mağaraları, Magoa ve Yunang Mağaraları, Çin; Dalyan Mesa Verde, Kolorado; Petra Antik Kenti, Ürdün; Türkiye; Ellora Kailasanathar Tapınağı örnek olarak gösterilebilir.