Sivas’ın Çarşıbaşı Mahallesi’nin sınırları içindeki Nalbantlarbaşı Caddesi üzerindedir. Sivas’ın Mütevellizadeler adlı seçkin ailesinden, ilk TBMM’de yedi dönem Sivas Milletvekilliği yapmış Yusuf Ziya Başara (1869-1943) tarafından 1908 yılında Dâru’r- Râha Vakfının gelirleriyle yaptırıldı.

Zemin kat ile birlikte iki kat olarak inşa edilen bina genel olarak dikdörtgen bir plana sahip olup doğu cephesinde köşeler dışarı taşırılmıştır. Batı cephesine ise fazladan bir mekân ilave edilerek bu bölüm cepheden dışarı taşırılmıştır. Kapısından büyük olarak düzenlenen, yedi yarım daire kemerlere sahip pencerelerle aydınlanan yapının doğu cephesinin ortasında bir girişi vardır. Kâgir olarak inşa edilen yapının zemin katı kesme ve moloz taştan, birinci katı ise dolmagöz duvar tekniğinde yapılmıştır. Kırma çatıya sahip olan yapının çatısı alaturka kiremit ile kaplanmıştır.

Binanın iç mekân organizasyonu ve mekânsal bağıntıları şöyledir. Binaya giriş doğu cephesinden verilmiş olup, giriş kapısı doğrudan giriş holüne açılmaktadır. Giriş holünün batısında üst kata çıkılan oval merdivenler, kuzey ve güneyinde ise üçer mekân bulunmaktadır. Kuzeydeki ilk mekân günümüzde danışma-güvenlik, ikincisi kitap satış, üçüncüsü ise idareci odası olarak düzenlenmiştir. Giriş holünün güneyindeki üç mekân ise büro ve kitap deposu olarak kullanılmaktadır. Ahşap, çift taraflı ve oval merdivenlerle sahanlığa, oradan da ortadaki düz merdivenle birinci kata çıkılır. Birinci kat holünün güneyindeki ilk mekân Osmanlıca matbu-nadir eserlerin yer aldığı salon, ikincisi ise yazma eserlerin korunduğu odadır. Holün kuzeyinde yer alan üç mekândan geniş olanı okuma salonu, diğer iki küçük mekânlar ise kitap deposu ve büro olarak kullanılmaktadır. Bu katın taban ve tavanları tamamen ahşap kaplamadır.

Mimari üslup olarak neo-klasik üslupta tasarlanan binanın cephelerdeki yapısal ve dekoratif unsurları, döneminin karakteristik özelliklerini barındırır. Yapının güney cephesinde zemin kat seviyesinde köşeye gelen kemerli pencere, doğu cephesindeki zemin katta yer alan kemerli büyük pencerelerle aynıdır. Yine güney cephesine kemerli pencereden sonra zemin kat seviyesinde bir çeşme düzenlenmiştir. Güney cephenin birinci katı ise iki pencere ile Paşa Camii’ne doğru cephe vermektedir. Günümüzde bitişik nizamda kalan batı cephesinde oluşturulmuş aydınlık bölümünün zemin katına kare biçimli iki pencere ve yarım daire kemere sahip bir pencere açılmıştır. Birinci katta ise üç dikdörtgen pencere bulunur. Yapıdaki büyük pencereler, yarım daire kemerler ve oval şeklinde düzenlenen merdiven bölümü yapıdaki barok özelliklerdir. Bunun dışında birinci kattaki kapının üzerine yapılan üçgen alınlık ve ayakların kaidelerindeki içleri boş kartuşlar ampir özelliklerdir.

Yapının birinci katındaki duvar payeleri köşeler ve pencere kenarları kesme taştan, diğer bölümler ise moloz taşla yapılmıştır. Cephenin ortasına yarım daire kemere sahip bir kapı açılmış olup, üzerine bir silme yapılmış ve kapı üçgen alınlıkla taçlandırılmıştır. Dış cephedeki içleri boş kartuşlar, büyük boyutlu konsollar, birinci kattaki kapının üzerindeki üçgen alınlık, pencere kenarlarındaki söveler ve silmeler yapıda dikkati çeken başlıca taş süslemelerdir.

Yapımcısı Ziya Bey, 1943 yılına kadar kütüphaneyi ayakta tuttu ve onun ölümünü takiben varisleri hizmeti 1980 yılına kadar sürdürdüler. 1980 yılında yapılan kamulaştırma sonucunda Kütüphane’nin mülkiyeti Kültür Bakanlığı’na geçti. Bakanlık tarafından 1981-1983 yıllarında restore edilen kütüphane, yürütülen envanter hazırlama ve teşhir-tanzim çalışmaları sonunda 16. 04. 1985 tarihinde okuyucu hizmetine açıldı. Uzun süre hizmet veren kütüphane 2006 yılında tekrar onarıma alınarak, ahşap kısımları ile çatısı yenilenip zemin kat duvarlarında taş temizleme işi yapıldı. Orijinal örnekler korunarak geriye kalan tüm kitap rafları ve büro eşyaları yenilendi.

Bir asrı geçkin hizmet süresi boyunca, şehrin kültür hayatına önemli katkılar sunan ve faaliyetini halen sürdüren Ziya Bey Kütüphanesi, zarif taş binası, koleksiyonundaki 20 bin adet Osmanlıca nadir-matbu ve 1583 el yazma kitaplarıyla Sivas’ta ziyaret edilmesi gereken önemli mekânlardan biridir.