Önceleri Yukarı Mumcu olarak isimlendirilen semtteki cami, şimdi Lalapaşa Mahallesi'nde bulunmaktadır. Yapının inşa kitabesi yoktur. 1065 H. -1655 M. tarihli vakfiyesinde Hacı Süleyman adında bir hayırsever tarafından yaptırıldığı anlaşılmaktadır. İnşa tarihi de 1650 yılları olmalıdır. Yine belgelerde Timar Tezkerecisi Ömer Efendi tarafından onartıldığı belirlenebilmektedir.

Kare bir alan üzerine kurulan cami, dört ahşap sütun üzerinde ahşap tavanla kapatılmıştır. Duvarlar ahşap hatıllı moloz taş malzemelidir. Kuzey yöndeki giriş kapısı basık kemerlidir. Yine bu yönde ahşap sütunlar tarafından taşınan düz ahşap örtülü son cemaat yeri bulunmaktadır. Camiinin içerisi dört yöndeki pencereler ile aydınlatılmaktadır. Kesme taştan yapılan mihrabı mukarnas kavsaralıdır.  İçeride kuzey yönde ahşap sütunlar tarafından taşınan mahfili bulunmaktadır. Caminin dört ana ahşap sütunun ortasındaki kare alanın örtüsü kırlangıç örtüleri hatırlatan tarzda iki kademeli oluşuyla dikkat çeker. Minberi yenidir. Orijinalde saçla kaplı ahşap minaresi kaldırılarak, yerine kesme taş kaideli, silindirik tuğla gövdeli yeni minare inşa edilmiştir.

Erzurum Atatürk Evi’nin doğusunda yer alan Yukarı Mumcu Cami, yol açılması için 20 metre doğuya kaydırılmış, alt kısmına bodrum eklenerek, cami fevkani camiler tarzında yeniden kurulmuştur. Yeni yapımında caminin ahşabı, taşı, giriş kapısı ve mihrabı korunarak orijinal malzeme kullanılmıştır.