İlk olarak 1947 yılında il merkezi Ekmekçi Mahallesi Belediye Caddesi'nin üzerinde; Dulkadiroğulları döneminden kalan Taş Medrese binasında kurulmuştur. Müzenin kurulma fikrini ve bunun gerçekleştirilmesini Albay H. Nuri Yurdakul sağladı. Kurulduğu ilk zamanlar müze koleksiyonu sadece Atatürk ve Kahramanmaraş’ın düşman işgalinden kurtuluş günü olan 12 Şubat kahramanlarına ait eserler ve resimlerden oluşuyordu. 1957 yılından sonra müzede günden güne gelişen ve zenginleşen arkeolojik ve etnografik koleksiyon sayısı sayesinde 1961 yılında müze Kahramanmaraş Kalesi üzerinde bulunan ve belediye gazinosu olarak da kullanılan binaya taşındı ve burada 14 yıl hizmet sundu. Kahramanmaraş’ın ve çevresinin arkeolojik yerleşim ve kültür varlığı yönünden oldukça zengin olması, mevcut kullanılan binanın gelişen müzenin ihtiyaçlarına cevap veremez hâle gelmesi sonucu, yeni bir müze binası yapılması kararlaştırıldı. 12 Eylül Bulvarı üzerindeki arsaya bugünkü Kahramanmaraş Müzesi inşa edildi. 1970 yılında yapımına başlanılan müze, 1974 yılında tamamlandı, 1975 yılında sergi salonlarının hazır hâle gelmesi sonrasında 29. 11. 1975 tarihinde hizmete açıldı. Şehrin merkezinde bulunan bina, fotoğraf atölyesi, depolar, arkeoloji salonu, taş eserler salonu ve etnografya salonu olmak üzere toplam üç teşhir salonu, bir dış revak ve bahçeden oluşmaktaydı.

Zamanla mevcut teşhir salonlarının ve depoların ihtiyaca cevap vermemesi sonucunda oluşan ihtiyaç gereği, 28 Aralık 2007 tarihinde müzenin ek bina inşaatı ve mevcut hizmet binasının bakım-onarım çalışmaları için ihale yapıldı. 24. 01. 2008 tarihinde Kahramanmaraş Müzesi ana hizmet binasında, mevcut teşhir salonlarında, mevcut depolarda bakım-onarım çalışmalarına, ek binada ise ek teşhir salonları ve ek depolar olmak üzere inşaat çalışmalarına başlanıldı ve müze, ek bina inşaatı çalışmaları tamamlanıncaya kadar ziyarete kapatıldı. Gerçekleştirilen ek bina teşhir tanzim çalışmaları sonrasında 4. 05. 2012 tarihinde Kahramanmaraş Arkeoloji Müzesi adı altında yeniden ziyarete açıldı. Müzenin mevcut üç adet teşhir salonu sayısı yedi, üç adet eser depoları sayısı ise dokuz oldu. Böylece 535 metrekare olan eski teşhir alanı, kapalı teşhir alanı 1295,28 metrekare ve açık teşhir alanı 291,24 metrekare olmak üzere toplam 1586,52 metrekareye ve 176,07 metrekare olan eski depo alanı ise 691,70 metrekareye çıkarıldı.

Kahramanmaraş Arkeoloji Müzesi’ndeki Antik Fil Sergi Salonu’nda Kahramanmaraş’ın Türkoğlu ilçesi, Gâvur Gölü bataklığından çıkarılan ve tarihi MÖ 1400’lü yıllara dayanan iki adet antik fil iskeleti sergileniyor. Direkli Mağarası Kazı ve Canlandırma Salonu’nda Oniki Şubat ilçesi, Tekir kasabası, Yukarı Döngel köyünde yer alan ve 2007 yılından itibaren kazısı devam etmekte olan Direkli Mağarası’nın ve kazı alanının canlandırması yapıldı. Domuztepe Höyük Canlandırma ve Kazı Sergi Salonu’nda Kahramanmaraş’ın Pazarcık ilçesi, Emirler Köyü’nde bulunan ve tarihi MÖ 7000-5000 yıllarına dayanan Domuztepe Höyüğü ve kazı alanının, alanda elde edilen bulgular ışığında teşhir salonunda canlandırması yapıldı. Hitit ve Geç Hitit Eserleri Sergi Salonu’nda Maraş Kalesi ve çevresinde bulunan Maraş Aslanı, Tanrı heykelleri, Merkez Mağralı ve Yörükselim mahallerinde bulunan ziyafet sahnelerini anlatan steller, Türkoğlu Minehöyük, Pazarcık, Doğanlıkarahasan köyü, Afşin Yazıbelen (Hurman) köyü ve Arıtaş Höyüğü’nde bulunan ve Gurgum Krallığı’nı yansıtan örnekler olan stel ve heykeller Hitit ve Geç Hitit Eserleri sergileniyor. Mozaik Sergi Salonu’nda Germanicia antik kentine ait olan ve 2001 yılında yapılan kurtarma kazısı sonucunda müzeye taşınan Roma dönemi taban (koridor) mozaiği ve yine Kahramanmaraş Çağlayancerit ilçesinden müzeye getirilmiş olan taban mozaiği sergileniyor. Taş Eserler Sergi Salonu’nun büyük bir bölümünde, Kahramanmaraş merkez ve ilçelerinden müzeye getirilmiş olan ve mezarların yerini belirtmek amacıyla yapılmış olup üzerlerinde yer alan figür, motif ve yazıtlardan geçmişte yaşamış insanları, onların kültür ve gelenekleri, ekonomik yaşamları hakkında bilgi sahibi olduğumuz Roma dönemi ölü kültürünü yansıtan mezar stelleri, lahit ve pişmiş toprak mezar tipleri sergileniyor. Ayrıca yine Kahramanmaraş’ın Afşin ilçesinden getirilmiş olan mermerden yapılmış, Roma dönemine ait, iki adet heykel de bu salonda ziyaretçi ile buluşuyor. Kronolojik Arkeolojik Eser Sergi Salonu’nda Paleolitik Çağ’dan başlayarak Neolitik, Kalkolitik, Tunç, Demir, Grek, Roma ve Doğu Roma dönemlerine kadar devam eden bir kronoloji takip edilerek her dönem için bir vitrin hazırlandı ve vitrin sergilemelerinde bu dönemlere ait olan günlük hayatta kullanılan ve yaşamın bir parçası olan araç-gereçler, el aletleri, süs eşyaları, dini ritüellerde kullanılan kült eşyalar ve kaplar, savaş aletleri gibi konulara yönelik eserlere yer verildi. Kronolojik Arkeolojik Eserler Salonu’nda yer alan sikke sergi bölümünde vitrinler içerisinde Grek, Roma, Bizans, Selçuklu, Beylikler dönemleri ile Osmanlı dönemine ait sikkeler sergileniyor. Müzenin ön ve arka bahçe teşhirinde ise Hitit, Grek, Roma, Doğu Roma ve Osmanlı dönemlerine ait dibek, mezar stelleri, sütun ve başlıkları gibi taş-mermer eserler, pişmiş toprak pitoslar ve Kahramanmaraş Kalesi’ne ait ahşaptan kapı sergileniyor.