Gümüşhacıköy ilçesine bağlı Gümüş beldesinde, şehir merkezine 72 kilometre uzaklıkta bulunan medrese; Çelebi Sultan Mehmet’in Beylerbeyi olan Halil Paşa tarafından yaptırılmıştır. Halil Paşa daha önce aynı bölgede gümüş madeni eminliği yaptı, sonradan beylerbeyi olmuştur. Amasya’nın Gümüş ilçesinde bulunmasından dolayı Gümüş Haliliye Medresesi olarak da bilinen anıtın yapımına 1413’te başlandı ve yapı 1415 yılında tamamlanmıştır.

Üzeri kapalı sekiz köşe kaide üzerine 12.5 metre çapında kubbe örtülü, kapalı avlulu olarak inşa edilen medrese, Osmanlı döneminde yapılan Selçuklu tarzı yapıların ender örneklerindendir.

Kareye yakın dikdörtgen yapıya sahip (25,3x23.3 metre), plan açısından Selçuklu dönemi medreselerini andıran medrese dört bölümden oluşmaktadır. Kapalı avlu etrafında dizilmiş öğrenci odaları, kapalı dershane, açık eyvan ve kapalı avlu olarak adlandırılan bu bölümlerden on metrekare büyüklüğündeki öğrenci odaları; içerisinde ocak bulunan fakat penceresi olmayan, 37x84 santimetre demir mazgallarla gün ışığından yararlanılan bir yapıda olup 12 adettir. Medresede iki adet bulunan kapalı dershanelerin büyüklüğü ise 17 metrekare olup, penceresi olan mekanlardır.

Anıtta yapı malzemesi olarak taş ve ahşap malzeme yoğun olarak kullanıldı. Moloz taştan örülmüş ana duvarlarındaki taşların arasına sonradan yapılan onarımlarda dolgu eklentiler yapılmıştır. İlk yapıldığında kapalı avlulu olan ve üzerinde bir kubbe bulunan medresenin bu kubbesi sonradan çöktü, yerine ahşap sütunlu revaklar eklenerek avlu üzeri açık bırakılmıştır.

Medresenin ana girişi olan taç kapısı güney cephede bulunup yan kanatları olmayan, üzerinde yapım kitabesinin yer aldığı oldukça sade görünümdedir. Taç kapıdan girildiğinde, etrafını ahşap sütunlu ve sivri kemerli, düz tavanlı revakların çevirdiği dikdörtgen avlu ile revakların arkasında odalar ve dershaneler görülmektedir. Kapalı dershaneler olan eyvanlı odalar diğerlerinden daha geniş olup giriş kapılarının üzerinde de kitabeler bulunmaktadır. Revak ve odaların üzerini kaplayan kiremit çatı sonradan yapılan onarımlarla binaya eklemiştir.