Medresenin giriş kapısının üzerinde üç satırlık bir kitabe bulunmaktadır. Bu kitabe şu şekildedir:

1. An Aliyyin Raziyyallahü anh-in-nebiyyi aley-his-selam
2. Men… Hafiza ala ümmeti erbei’ne hadisen kütübefi zümreti’il- ulama
3. …. İlallah –il- Gani Ahmed ibn-i Aliyy-ibni Yusuf fi seneti erbga aşere sebamiye

Kitabede yer alan bu satırlardan anlaşılacağı kadarıyla medrese 1314 yılında Gani Ahmed bin Ali bin Yusuf isimli kişi tarafından yaptırılmıştır.

Kapalı avlulu, iki eyvanlı, tek katlı ve revaksız planda inşa edilen Ahmediye Medresesi XIII. ve XIV. yüzyıllar döneminin kapalı avlulu medrese tipine ait önemli örneklerinden biridir. Medresenin ilk zamanlarında kuzeyinde bir mescit ve taç kapı vardı. Fakat tam olarak tarihi belli olmasa da taç kapı ve mescit sonraki yıllarda ortadan kalkmıştır. Medresenin girişi kuzeydoğu cephesindeki odanın kapısındadır. Yapının orta kısmında aynalı çapraz tonoz ile örtülü kapalı bir avlu vardır. Avlunun güney ve kuzey cephesinde sivri beşik tonozla kapatılmış iki tane eyvan yer almaktadır. Eyvan; üstü genellikle tonozla örtülmüş, üç tarafı kapalı, bir tarafı ise tamamen açık olan mimari bir yapıdır. Eyvana çoğunlukla Selçuklu ve Osmanlı mimarisinde rastlanmaktadır.

Medresenin avlusunun doğu ve batısında ise ikişer tane küçük boyutlarda hücrelere yer verilmiştir.  Medresede çok fazla süsleme unsuruna yer verilmemiştir. Oldukça sade bezeme tekniklerinin kullanıldığı yapıda eyvanların köşelerindeki dört adet sütun başlığı önemli süslemeleridir. Bunlara ilaveten medresenin farklı yerlerinde geometrik motiflere de yer verilmiştir. Özellikle mihrapta kullanılan geometrik desenler ve desenlerin ortasında bulunan sekiz köşeli yıldızlar dikkat çekmektedir. Medrese sadece kesme taş kullanılarak inşa edilmiştir. Yapının ilk inşa edildiği yıllarda bulunan minaresi ise tuğladan yapılmıştır. Ancak bu minare 1928 yılında yaşanan bir fırtınada yıkılmıştır. Medresenin duvarlarında kurşun izlerine rastlanmaktadır. Bu izlerin Ermenilerin Erzurum’u işgal ettiği dönemlerden günümüze kadar geldiği bilinmektedir.

Ahmediye Medresesi uzun yıllar boyunca depo olarak kullanılmış ve bu nedenle tahrip edilmiştir. Ancak 1986-1988 yılları arasında restore edilerek çevre düzenlemesi yapılmıştır. Son olarak 2005-2006 yıllarında ise Vakıflar Genel Müdürlüğü medresenin tekrar onarımını yaptırmıştır.