Erzurum tarihi oldukça eskilere dayanır; sözgelimi bu tarihin derinlikleri bakımından MÖ 4900’lardan dahi söz edilebilir. O kadar ki İskitler’den Urartular’a Kimmerler, Medler, Persler, Partlar, Romalılar, Araplar, Bizanslılar, Selçuklular ve  Osmanlı dönemine kadar uzanarak gelen bu tarihsel süreç içerisinde dönemsel olarak Sasaniler, Moğollar, İlhanlılar ve Safeviler’den dahi söz edilebilir.

Doğusuyla, batısıyla, güneyi ve kuzeyiyle Anadolu’yu iki yandan Avrupa’ya ve özellikle Turan ili - Kafkaslar, İran – Ortadoğu ve Orta Asya’ya bağlayan tarihi İpek Yolu üzerinde oluşu da bu tarihi oldukça zengin bir içeriğe kavuşturur. Bu zengin ve derin tarih bağlamında Erzurum, han, hamam, medrese, cami, höyük, külliye vb. doğal ve kültürel zenginliklere sahiptir. Bu doğal ve kültürel mirastan birisi de Şeyler Hamamı'nın girişinde bulunan Külhancı Baba Türbesi'dir. 

Şeyhler Hamamı, Şeyhler Mahallesi'nde Şeyhler Medresesi'nin altında ve Şeyhler Cami’nin yol aşırı biraz karşısında olduğu bilinmektedir. Hamama ahşap örtülü bir dehlizden girildiği ifade edilmektedir. Solda ağaç örtülü bir türbe var olduğu ve İbrahim Hakkı Konyalı’nın “Abideleri ve Kitabeleri ile Erzurum Tarihi” adlı çalışmasında, burada yatanın kimliğinin tespit edilemediği belirtilmiştir. 

Külhancı Baba Türbesi ile ilgili yapılan çalışmalarda, onun Şeyhler Hamamı'nın girişindeki bir türbe olduğu ve bu türbe hakkında çeşitli rivayetlerin olduğu ifade edilir. O açıklamalar şu şekildedir: “Şeyhler Mahallesinde ziyaret edilen türbelerden biridir. Evliya Çelebi Seyahatnamesi'nde XVII. yüzyıl Erzurum’undan bahsederken, büyük Velilerin türbeleri adlı bölümde Külhani Ahmed Dede’den bahsettiği söylenmiştir. Bu nedenle Osmanlı dönemine ait olduğunu söyleyebiliriz. Hamamın girişinin solunda dikdörtgen mekânlı küçük bir oda türbeye çevrilmiş ve içerisinde Külhancı Baba yatmaktadır. Basit ve son derece sade olan türbe odasının üzerinin ahşap kirişlerin kullanıldığı düz tavanla örtülü olduğu belirtilmiştir. Dışa küçük bir pencereyle açılan türbenin içerisinde bir mezar bulunmaktadır. Sandukaların üzeri yeşil çuha ile örtülmüştür. Hamamın girişinde yer alan türbe, mimari ve sanatsal bir özellik taşımaz. Erzurum şehir merkezinde inşa edilmiş yirmi bir türbe bulunduğu belirtilmiştir. Süsleme yönünden Erzurum türbelerinin birkaç örneği dışında sade bir yapıda olduğu söylenmiştir. Külhani Baba türbesinin mimari bakımdan değerlendirilecek bir özelliği yoktur. Rivayet edildiğine göre veli kullardan olan Külhancı Baba’nın Erzurum halkı tarafından ziyaret edildiği dile getirilmiştir. Mimari özelliği bulunmayan türbe hakkındaki rivayet şöyledir: Bu türbede yatan Külhani Baba’nın saray önündeki Şeyhler Hamamının külhancısı olduğu belirtilmiştir. Bir tek mum ile külhanı ısıttığı, haznenin suyunu kaynattığı söylenmiştir. 

Erzurum'da en fazla bilinen efsanelerden biri olan Külhani Baba’nın mezarının Şeyhler Mahallesi, Şeyhler Hamamı yapısı içerisinde olduğu belirtilmiştir. Külhancı Baba Türbesi ile ilgili diğer rivayetler şunlardır: Külhani Baba hakkında Bilge Seyidoğlu’ nun kayda aldığı iki rivayet bilinmektedir. Rivayete göre Hz. Peygamber bir gün Külhani Baba’yı ziyaret eder ve ona selam verir. Aradan bir süre geçtikten sonra Külhani Baba, Peygamberin selamını aldığı dile getirilmiştir. Bunun üzerine Hz. Peygamber ‘…Neden selamımı geç aldın…’ diye ona sorar. Külhani Baba ise; ‘…Kamış atıyordum, sonra eksik atarım diye selamını geç aldım…’ diye cevap verir. Bu rivayete göre her gün on para yevmiye alan Külhani Baba bunun 5beş parasını fakirler için ayırdığı dile getirilmiştir.

O devirde Erzurum'da Sarayönü olarak bilinen Şeyhler Mahallesi çevresindeki Şeyhler Hamamı’nda külhancı olarak çalışan Külhani Baba’nın bir tek mum ile külhanı ısıttığı, haznenin suyunu kaynattığı rivayetlere göre anlatılırmış. Bu hali bilmeyen patron ise; ‘…Bu adam benden odun istemez, cılgamış istemez, bu hamamın suyunu acep neynen ısıtır’ diye düşündüğü söylenmiştir. Nihayet bunu sorduğunda ise Külhani Baba’nın cevabı şöyle olmuş; ‘…Ağa ne sen sor ne de ben söyliyeyim…’ Bu cevap üzerine Külhani Baba’yı takip eden hamam sahibi, su haznesinin altında tek bir mumun yandığını ve Külhani Baba’nın da sessizce namaz kıldığını gördüğü belirtilmiştir. Hamam sahibinin bu sırrı fark etmesiyle Külhancı Baba’nın ruhunu teslim ettiği kayıtlara düşülmüştür. 

Bu rivayetleri Bilge Seyidoğlu şöyle değerlendirir: Her iki rivayette de çok fakir olup bir hamamda külhancılık yapmasına rağmen Külhancı Baba’nın manevi mertebesinin çok yüksek olduğu anlaşılmaktadır. Olağanüstü özellikleri olan bir kişilik olup erenlerdendir diyebiliriz. Bir tek mumla hamamı ısıtabilmektedir. İşini her şeyin üstünde tutup yevmiyesinin yarısını fakirlere verdiği için cennetin kapıcılığına layık görülen Külhancı Baba’nın hikâyesi topluma nasihat edici ve yön verici niteliktedir. Efsane, Şeyler Hamamının külhanında her gün yanan mumların niçin yandığını açıklar. Bunun kutsal bir kişinin hatırasına bağlandığını söyleyebiliriz. Yine Bilge Seyidoğlu, “Külhani Baba” şeklinde türbenin adını ifade etmiştir.