Göreme ve Çavuşin Köyü arasında bir mevkide yer alan Güllüdere Vadisi’nin adını, gün ışığıyla beraber gül rengine dönen kayalarının renginden aldığı rivayet edilmektedir. Çavuşin çevresindeki Güllüdere, Kızılçukur vadilerinde çok sayıda kayaya oyma kilise manastır ve barınma alanı bulunmaktadır. Tüm Kapadokya’da olduğu gibi burada da kolay oyulabilen volkanik oluşumlardan kaynaklı kayaç yapısı nedeniyle vadi, asırlar boyunca farklı medeniyetlere ev sahipliği yapmıştır.

Vadi, Kapadokya bölgesinin en iyi doğa yürüyüşü yapılan parkurlarından biri olarak değerlendirilmektedir. Yaklaşık dört kilometrelik bir yürüyüş parkuru bulunan Güllüdere Vadisi yaya olarak gezilebilmekte, gezi esnasında çok sayıda güvercinlik yuvalarına rastlanmaktadır. Yolun belli bir kesiminden sonra vadi iki kısma ayrılmaktadır. Bu yollardan biri dönemin rahip ve keşişlerinin inziva yeri olarak kullandıkları kayalara oyulmuş yerleşim alanlarına çıkmaktadır. Vadide Yovakim – Anna Kilisesi, Ayvalı Kilisesi, Haçlı Kilise ve Üç Haçlı Kilise diye adlandırılan kaya oymacılığı ile yapılmış yerler bulunmaktadır. Söz konusu kiliseler arasında Yovakim – Anna Kilisesi, çok ender rastlanan bir Meryem Ana freskine sahip olması nedeniyle bölgede en çok ziyaret edilen kiliselerden biri konumundadır. Ayrıca Üç Haçlı Kilise de yine tavanında oyulmuş haç oymaları ile ünlüdür. Üç adet haçtan oluşan motiflere sahip olması nedeniyle bu ismi aldığı düşünülmekte ve ziyaretçiler tarafından sıklıkla tercih edilen bir yer olarak değerlendirilmektedir. Haçlı Kilise, Güllüdere Vadisi’nin girişinde solda, vadi havzasının daraldığı bir yamaç üzerine inşa edilmiştir. Söz konusu kiliseye ahşap bir merdivenle çıkılmaktadır. VI. veya VII. yüzyılda yapıldığı ön görülen kiliseye IX. ve X. yüzyıllarda tek apsisinin ilavesi yapılmıştır. Yine dere yatağında bulunan üç Haçlı Kilise, kuzey-güney doğrultusunda dikdörtgen planlı, düz tavanlı bir yapıdır. Tavanın merkezinde madalyon içinde haç ve iki yanında palmiye kabartması bulunmaktadır. Thierry tavandaki kabartmaları VI. – VII. yüzyıllara, apsisi IX. yüzyılda yapıldığı düşünülmektedir.

Ayvalı Kilisesi, ilk kez Jerphanion tarafından, vadideki diğer kiliseler gibi numaralandırılarak 4 numaralı kilise olarak adlandırılmıştır. Yapı daha sonraki yayınlarda Ayvalı Kilise ve Aziz Yahya (İoannes) Kilisesi olarak tanımlanmaktadır. Yapı, kayadan oyulmuş ve birbirine geçitle bağlanmış iki şapelden oluşmaktadır. Bu şapellerden kuzeyde olanı mezar olarak yapılmıştır. İçeriye güvercinlerin girmesi için açılan küçük deliklerden dolayı zaman içerisinde güvercinlik olarak da kullanılmış olabileceği fikri yaygındır. Kilisenin tek aydınlatması olan bu delikler açılırken iç cephe resimlerinin büyük bölümü tahrip olsa da girişlerin kemerlerini çevreleyen freskler bugüne kadar ulaşmayı başarabilmiştir. Güney şapelinin girişindeki fresklerde Bizans İmparatoru Konstantin ile annesi Helena başlarında bir madalyonla resmedilmiştir. İki nefli iki apsisli Ayvalı Kilise’nin kitabesi, yapının duvar resimlerinden ne zaman yaptırıldığı hakkında bilgi vermektedir. Kilise, kuzey duvarındaki kemer yayında yer alan kitabeye göre 913-920 arasına tarihlenmektedir. Arkaik dönem içinde değerlendirilen Ayvalı Kilise’nin duvar resimleri iki tabakadan oluşmaktadır. Üst tabakanın dökülen bölümlerinden alt tabakada yer alan geometrik ve bitkisel bezemeler seçilebilmektedir. Ayvalı Kilise’nin resim programını Eski ve Yeni Ahit konulu sahneler, sembolik sahneler, tek figürler ile bitkisel ve geometrik süslemeler oluşturmaktadır.

Yovakim ve Anna, Hz. Meryem’in anne babasından, kilise de ismini Hz. Meryem’in ailesinden almaktadır. Kilisenin en önemli özelliği çok ender rastlanan bir freske sahip olmasıdır. İki nefli, iki apsisli beşik tonoz örtülü yapıda, Hz. Meryem’in hayatından sahneler görülmektedir. Fresklerin yer aldığı kuzey nefi IX. – X. yüzyıllara tarihlemektedir. İsa’nın yaşamına ait sahneler şeritlerle ayrılmış yüzeylerde hikayeci bir anlatımla resmedilmiştir. Tarihçiler tarafından önemli sayılan bu freskte Hz. Meryem nurlar içinde, başında hareyle gösterilmekte ve kucağında bebek İsa’yı tutmaktadır. Freskler ikonoklastik dönemden önce yapılmış olmasına rağmen günümüze kadar gelebilmiş nadir eserler arasında yer almaktadır. Söz konusu freskler Hristiyanlık dünyası için önemli bir yere sahiptir. Bölgenin sahip olduğu doğal ve kültürel değerlerden ötürü her yıl önemli sayıda yerli ve yabancı ziyaretçi ağırlamaktadır.