Yapı, Erzurum'un Yakutiye ilçesine bağlı Abdurrahman Ağa Mahallesi’nde, 39 91 32 Doğu, 41 28 07 Kuzey koordinatlarında, Gümrük Cami Sokak 52 Pafta 55 Ada, 8 Parsel üzerinde bulunmaktadır. Cami, Kültür ve Turizm Bakanlığı Erzurum Kültür ve Tabiat Varlıklarını Koruma Bölge Kurulu Müdürlüğü tarafından 13.11.1976 tarihinde A 188 sayı numarası ile tescil edilmiştir.

Cami giriş kapısı üzerinde yer alan 0.52 X 0.82 metre ölçülerindeki dikdörtgen kartuş içerisinde talik hatla yazılmış kitabede yapının 1130 H./1717 M. yılında Hacı Bektaşzade Hacı Derviş İbrahim tarafından inşa ettirildiği geçmektedir. Hacı Derviş Camii olarak da bilinen caminin kitabe metninde, baniye dua ve niyet geçmektedir. Basık kemerli giriş kapısının hemen üzerinde 1320 H./1902 M. tarihinin olduğu tek satırlık bir ayet kitabesi de bulunmaktadır. 

Bani isimleri ve tarihlerin yazılı olduğu diğer kitabeler şöyledir;

Sahib-ül Hayrat Ali ibn-i Hafız Mehmet 1257/1841

Sahib-ül Hayrat Mehmet ibn-i Elhac Ahmet 1257/1841

Sahib-ül Hayrat Eş-Şeyh Tevfik Efendi Halidiyyil Nakşıbendi 1310/1893

Sahib-ül Hayrat Mustafa Ağanın Kerimesi Gülsüm Hanım’ın 1320/1902 Hacı Kula Mehmet ibn-i Elhac hayrı için 1333. 

Gümrük Camii 2004-2006 yılları arasında Vakıflar Erzurum Bölge Müdürlüğü tarafından aslına uygun bir şekilde kapsamlı onarım gerçekleştirmiştir.

Cami, han, hamam ve çeşme yapılar topluluğunu oluşturan külliyenin merkezini cami oluşturmaktadır. Cami, kare plan üzerine kurulmuş asıl ibadet mekânı tek kubbe ile örtülmüştür. Önünde sivri kemerli üç gözlü son cemaat yeri bulunmaktadır. Son cemaat yeri zeminden 0.80 metre yükseklikte bir seki üzerine kurulmuştur. Sivri kemerli her bir bölümün üzeri kubbe ile örtülüdür. Dört taş sütun üzerine oturan son cemaat yeri, sivri kemerlerle birbirine bağlanmış, sütunların kaide ve başlıkları klasik dönem sütunları ile benzerlik göstermekte, sütun başlıkları iki sıra mukarnasla tezyin edilmiştir. 

Son cemaat yeri giriş kapısının iki yanında dikdörtgen çerçeveli pencere açıklığına yer verilmiş, pencere açıklıklarının üzerinde sivri kemerli alınlıklar mevcuttur. 

Kuzey cephenin tam ortasında yer alan asıl ibadet mekanına geçişi sağlayan giriş kapısı, biri dış bükey diğeri iç bükey olan iki sade silme ile dikdörtgen çerçeve içerisine alınmıştır. Basık kemerli giriş kapısının iki yanında bezemeli sütun başlıkları olan sütunceler bulunmakta ve sivri kemerle sonlanmaktadır. Kare plan üzerine kurulmuş olan caminin asıl ibadet mekanını örten ve sekizgen kasnak üzerine oturan tek kubbesi 12. 50 metre çapındadır. Kubbeye geçişler tromplarla sağlanmıştır. Kubbe dışarıdan sekizgen kasnak üzerinde yükselmektedir. Kasnağın, doğu, batı ve güney cephesinde yuvarlak kemerli pencere açıklığına yer verilmiştir. 

Harim bölümünün doğu ve batı duvarlarında dört pencere açıklığına yer verilmiş, bunlardan üstte yer alanlar sivri kemerli, altta bulunan pencere açıklıkları ise dikdörtgen çerçevelidir. Güney cephede üstte mihrabın hemen üzerinde sivri kemerli bir, altta mihrabın iki yanında dikdörtgen çerçeveli pencere açıklıkları mevcuttur. Kuzey cephede ise kapının her iki yanında dikdörtgen çerçeveli iki pencere açıklığı ile harim bölümü aydınlatılmıştır

Kesme taş malzemeden yapılan ve güney cephenin tam ortasında bulunan beş kenarlı caminin mihrabı, mukarnas kavsaralıdır. Sade üç silme ile sınırlandırılan mihrabın iki yanında sütuncelere yer verilmiştir. Mukarnaslar sütünce başlıklarından başlayıp 6 sıralı olarak devam etmektedir. Mihrabın yanında yer alan minberi, vaaz kürsüsü orijinal olmayıp sonraki dönemlerde eklenmiştir. Altı ayak üzerine oturan ahşap mahfil bölümü de ihtiyaca yönelik olarak ilave edilmiştir. Kuzeybatı köşede son cemaat yerinden yükselen minaresi, kare kaideli silindirik gövdelidir. Kare kaidesi beden duvarı boyunca yükselmektedir. Kaideden pabuç bölümüne geçişte köşeler pahlanarak yumuşatılmış ve gövde bölümüne geçilmiştir. Tuğla gövdeli olan minarenin şerefe bölümü kesme taş malzemeli olup, dört kaval silme ile hareketlendirilmiştir. Tuğla malzemeli petek bölümü de bakır ile kaplanmıştır.