Ebû’l-Hasan Harakânî, İran’ın Horasan bölgesindeki Bistâm kasabasının kuzeyinde yer alan Harakân adlı yerleşim merkezinde dünyaya gelmiştir. Kendisinin yetmiş üç yaşında vefat etmesi nedeniyle hicrî 352 (963) yılında doğduğu tahmin edilir. Bistam’a giden Harakânî’nin, Bâyezîd-i Bistâmi’nin türbesini ziyaret ederek şeyhine intisap eylediği ve O’nun maneviyatıyla terbiye edildiği kabul edilir. Kendisinden sonra, Attâr, Aynülkudât El-Hemedânî ve Mevlâna Celaleddin-i Rûmi gibi ünlü sûfîleri derinden etkilemiştir. Tasavvuf tarihinin en ünlü şahısları da Şeyh Harakânî’den her zaman övgüyle bahsetmişlerdir. Şeyhin Harakân’da bir tekkesi bulunduğu ve dönemin mutasavvıflarının bu tekkeyi ziyaret ettiği bilgisi mevcuttur. 

Harakânî’nin vefat yeri ve türbesi hakkında iki farklı görüş bulunmaktadır. Bütün eski kaynaklarda şeyhin hicrî 425 (11 Aralık 1033)  yılında Harakân’da vefat ettiği ve buradan hareketle kabri ve türbesinin doğduğu köyde yer aldığı ifade edilir. Osmanlı kaynaklarında ise müellifler, aksi görüşte bulunarak kendisinin Harakân Köyü dışında vefat ettiği dolayısıyla kabri ve türbesinin Türkiye’de Anadolu’nun kilidi sayılan Kars’ta olduğunu belirtirler. Bu fikir kapsamında Vezir Lala Mustafa Paşa’nın  (öl. 1580) şehrin imarı için Kars’ta olduğu sırada Şeyh Harakânî’nin mezarının bulunmasına şahit olan Gelibolulu Mustafa Ali (öl.1600), Nusret-nâme ve Kühnü’l-ahbâr adlı eserlerinde "Kars Kalesi’nin Tamiri" başlığı altında; 

“Ve kal’a-i mezbûre binâsı temâma (itmâma) karîb oldugı halde bir sırr-ı acîb dahi zâhir oldı ki Bölük Halkından bir ehl-i sülûke rü’yâsında ve serâyir âlemî temâşâsında bir pîr-i nûrânî gelüb bana Ebü’l-Hasan Hırkânî (Harakâni) dirler merkadim bu mahaldedir ve alâmeti ayagım ucunda bir çâhdır deyu gösterüb ta‘mîr olunmasına işâret kılınmagla (ol) merd-i hâb-nâk (uykudaki kişi) bîdâr oldugı gibi serdar cenâbına v’akı‘asını i‘lâm idüb kezâlik bu vâkı’a sırrınamahrem nice sâlik-i muhterem dahi gelüb  ma-(vaka’âyı) ifhâm itmekle ol mahall ta’mîr olınub didikleri gibi câh aynî ile bulınub bir latîf ziyaret-gâh peydâ oldı ki derâhim-ü dînâr yapmur gibi yagmaga başladı ve bu sıtân-ı Rahmet-i Rahmân gülistân-ı cihân gibi şad-ab olub tarâvet buldı…” ifadelerinde bulunmuştur.

Dönemin önemli tarihçisi Peçevi İbrahim Efendi de (öl.1649) benzer olay ve rüyayı eserinde anlatmıştır:

“Kalenin yapımı sırasında bölük halkından bir derviş bir düş görür ve onu şöyle anlatır: Nur yüzlü bir ihtiyar ortaya çıkarak “bana Ebü’l-Hasan Hırkâni derler, yerim buradadır. Bunun bir ispatını istersen bak ve gör; ayağımın ucunda derin bir kuyu vardır” diye bir yer gösterir. Derviş bu düşünü serdara anlatır; gösterilen yer kazılır ve anlattığı biçimdeki kuyu bulunur. Hemen üzerine bir türbe yaparlar…”

Aynı rüyayı Evliya Çelebi, Kars’ta bulunduğu sırada (1647) detaylı bir şekilde şu şekilde ifade etmiştir: 

“… İkinci yapıcı Lala Paşa olup 70 günde kaleyi tamamladı. Bütün cebehanesi ve diğer lüzumlu gereçlerinden bütün mühimmatlarını hazır edip kale içini imar ederken askeri taifesinden ümmetin sâlihlerinden biri Kur’an hâfızı kimse bir sâlih rüya görmüştür. Lala Mustafa Paşa’ya anlattığı rüya budur:  Bir güçsüz yaşlı adam görünüp; ‘bana Ebu’l Hasan-ı Harakanî derler, benim makamım bu mahaldedir ve alâmet ve nişanımı istersen ayağımın ucunda derin bir kuyu vardır, onu kazıp tâ ki acaip göresin’ der. Böyle haber verdiği rüyayı o sâlih kimse kumandana bildirince derhal nice yüz işçiler o bildirilen kuyuyu kazarlar. O kuyu içinde dört köşe bir somaki mermer çıkar.  O kırmızı taşı tevhid ve dualarla açınca ‘Menem şehid-i sa’id Harekânî’ diye başı üzerinde güzel bir mermer bulurlar. Mübarek vücutları henüz taptaze olduğundan başka pazusunda yaralı olan yerinde sarılmış mendil ve üzerindeki yün hırkası çürümeyip sağ tarafındaki yarasından kırmızı kan da akmakta. Bütün Müslüman gaziler bu hali görünce tevhid ve dualarla kabrini eskisi gibi kapatırlar. Kale içinde yapılan eserlerden Lala Mustafa Paşa’nın hayratı bu Hazret-i Hasan Harekâni tekkesidir ve nur dolu camiidir.”

İkinci görüşteki kaynakların rüya aktarımına dayanarak Harakânî’nin, Anadolu’nun Türk ve İslam yurdu haline gelmesi için Kars’a geldiği ve Ani yakınlarındaki Yahniler Dağı’nda Bizans ordularıyla yaptığı savaşta yaralanarak şehitlik mertebesine eriştiği inancı doğmuştur.  Buna inancın akabinde Harakânî Hazretlerinin Kars’taki türbesinin ilk olarak Sultan Alparslan zamanında yapıldığı fakat çeşitli sebeplerden ötürü yıkılmasından sonra Sultan III. Murat döneminde Vezir Lala Mustafa Paşa emriyle mezarının üzerine 1579 yılında türbe yapıldığı bilinir. Ancak söz konusu yapı, Safeviler tarafından 1604 yılında yıkılmış bunun üzerine 1617 yılında Derviş Mehmed adlı bir hayırsever tarafından tekrar inşa edilmiştir. Son olarak Kars’ın Rus İşgali  (1878-1918 ) ve Ermeni katliamları sırasında (1918) büyük hasar almıştır. Bu tarihten sonra dikdörtgen planda ve üzeri kırma bir çatıyla örtülü olacak şekilde yeniden inşa edilerek özgünlüğünü kaybetmiştir. 1998 yılında gerçekleşen onarımda ise tamamen yenilenmiş ve kare planlı olup üzeri kubbe ile örtülerek özgün haldeki görünümüne kavuşturulmuştur. Söz konusu onarım sırasında Harakâni’nin sandukasındaki kavuk biçimli başlık ve kadife örtü de onarılarak yerlerine konulmuş böylelikle evliyanın kabri ziyaretçilere açılmıştır. 

Kars merkezde Kaleiçi Mahallesi’nde yer alan türbe, Lala Mustafa Paşa’nın, Ebu’l Hasan Harakânî adına aynı yılda yaptırdığı Evliya Camii’nin güneydoğusunun hemen bitişiğinde konumlandırılmıştır. Harâkanî adına yapılan cami yapısı da yanındaki türbe gibi yakın dönemde yeniden inşa edilmiştir.  Türbeden günümüze sadece yapım ve onarım kitâbeleri özgün olarak kalmıştır. Giriş mekânından iç kısma irtibat sağlayan açıklığın üzerindeki mevcut kitâbede, türbenin ikinci inşa tarihi (1617) yer almaktadır. Kitâbenin okunuşu şu şekildedir: 

“Hak nasib itdi de yapıldı Merkad-i nev gül’zâr

Ebu’l-Hasen Khırkanî (Harakânî) Şeyh’ün yatduğıdur bu mezâr

Ol Muhammed-Dervîş itdi bu makamı böyle hoş

Evliyânun aşkına olsun fedâ cânlar hezâr,

Her Murâd hâsıl olur sıdk ile bunda ey dede

Her kim ihsân eyliye bulunur derdine izâr

İncidenler bu makamı incidiser o Hakkı

Çün “ihâninü ihânu’l-lâh” kelamunda yazar.

Tarih ün-Nebi-i birden Yusuf Mollâ dedi

Başed in-sâl sitte vü ‘ışrîn hezâr (1026=1617)”

Güney cephedeki girişin üzerinde bulunan onarım kitâbesi ise oldukça tahribat görmüştür. Bu sebepten kitâbe yüzeyindeki harflerde erimeler meydana gelmiş ve yazı okunamamıştır. Yazıda sadece türbenin 1270 (1854) tarihinde onarım gördüğü anlaşılmaktadır. Osmanlı müelliflerinin aktarımı ve günümüze ulaşan bu kitâbeler şeyhin mezarının Kars’ta olduğunu gösteren bariz tarihi belgelerdir.

Günümüzde türbeye güney yönde yer alan üç birimli giriş mekânından ulaşılmaktadır. Mekânın yan bölümleri kubbe orta bölüm ise düz bir örtü ile kapatılmıştır. Buradan basık kemerle ulaşılan asıl türbe yapısı kare planlı ve üzeri yüksek sekizgen kasnaklı bir kubbe ile örtülmüştür. Tamamen yenilenen yapıda ana malzeme olarak düzgün kesme taş kullanılmıştır. Günümüzde, türbe yapısı dört yönden düşey dikdörtgen pencere açıklıklarıyla aydınlatılmaktadır. İç mekânın ortasında Ebû’l- Hasan Harakânî’nin ahşap malzemeden üçgen prizma sandukası bulunur. Bu bölüm, parmaklıklarla çevrilerek koruma altına alınmıştır. Çevresinde ise çoğunluğu şeyh ve dervişlerin oluşturduğu şahideli sandukalar yer almaktadır. Türbenin kuzey yönündeki yüksek bir taçkapıyla girilen ve etrafı duvarlarla çevrili hazirede de çeşitli şeyh ve dervişlerin mezarı bulunmaktadır. Bu hazire içerisinde çeşitli tarihi mezarlar ve baldaken tarzı mezar yapısının yer aldığı görülmektedir.