İç Kale bölümünde Erzurum’un ilk Türk-İslam eserlerinden biri olan Saltukoğulları döneminde inşa edilen Kale Mescidi ile Tepsi Minare bulunmaktadır. Erzurum Kalesi bir iç kale ve dış kaleden oluşmaktadır. Fakat bugün iç kale hala sağlamken dış kale surları ayakta değildir. Doğu-batı yönünde şehre hakim bir konumda bulunan iç kale dikdörtgen planlıdır. Kale giriş kapısı yuvarlak kemerli biçimdedir. Bu bölümde küçük bir hamam ile bu yapıya ait üst kısmı yıkık birimler bulunmaktadır. Kale dışarıdan 14 payanda ile desteklenmektedir. Kalenin güney cephesinde ise kitabesi bulunan bir çeşme yer almaktadır. Bugün mevcut olmayan dış kapı surlarının dört kapı ile dışa açıldıkları, bu kapıların Tebriz Kapı, Erzincan Kapı, Gürcü Kapı ve Harput Kapısı adlarını taşıdıkları bilinmektedir. Kalede yapı malzemesi olarak ağırlıklı düzgün kesme taş ve duvar içerisine dolgu malzemesi kullanılmıştır.

Evliya Çelebi XVII. yüzyıl ortalarında, bir yıla yakın bir süre ile görev için Erzurum’da bulundu. Çelebi Erzurum Kalesi ile ilgili şunları aktarmaktadır: “İç kale iki katlı sur duvarlarıyla dört köşe şeklindedir. Her iki sur arası 70 adım ve etrafta bulunan hendeklerin eni 80 adım derinlikleri ise 20 arşındır. Surlar iki kat demir kapı ile korunuyor. İç Kale surları 60 zira (bir uzunluk birimi) yüksekliğinde ve diğer surlar ise 50 zira yüksekliğindedir. Tüm kale civarında 110 adet sağlam burç ve 2080 civarında mazgal bulunur. Kale surları toprak damlı 1.700 adet evi içerisine alır”. Evliya Çelebinin aktardıkları kalenin o dönemki durumunu anlamamız açısından oldukça önemli bilgiler vermektedir.

2000 yılından itibaren sürdürülen kale içi kazılarda Erzurum Kalesi’nde çeşitli mimari yapılara ve seramik eserlere ulaşıldı. Erzurum Kalesi içerisindeki kazı çalışmaları devam etmekte olup 2020 yılında restorasyon çalışmalarının tamamen bitirileceği öngörülmektedir.