1861’de İstanbul’da dünyaya gelen Halil Edhem, Sadrazam İbrahim Edhem Paşa’nın en küçük oğlu, Osman Hamdi Bey’in de kardeşidir. Halil Ehhem Bey, ilkokulu bitirdikten sonra Kaptan İbrahim Paşa Rüştiyesi’ne devam etmesine karşın babasının Berlin Elçiliği'ne tayin edilmesiyle beraber 1875 yılında Berlin’de eğitimine devam etmiştir. Berlin, Zürih ve Viyana’da Jeoloji, Kimya ve Felsefe gibi farklı birçok alanda eğitimler almıştır. Ayrıca İsviçre’de Berne Üniversitesi Felsefe Fakültesinde dok­tora yapmıştır. On yıl kadar yurtdışında eğitim aldıktan sonra İstanbul’a dönmeye karar vermiştir. 1885 yılında yurda döndüğünde henüz yirmi dört yaşında olan Halil Edhem, Askeri Fabrikalar Nezareti’nde beş yıl kadar çalışmıştır. Halil Edhem iyi bir maden mühendisi ve jeoloji bilgini olarak; 1887 yılında Mekteb-i Mülkiye-i Şahane (Siyasal Bilgiler Mektebi), 1900’de Dar-ül Muallimin, Mühendishane-i Mülkiye (Teknik Üniversite), 1901’de Dar-ül Fünun ve Dar-üş Şafaka gibi okullarda Kimya, Jeoloji ve Mineroloji dersleri vermiştir. İstanbul’a döndüğünde birçok önemli görevde bulunmasının yanı sıra tarihe, eski eserlere ve müzeciliğe çok fazla ilgi duymuştur. O dönemde müze müdürlüğünde çok fazla sorun yaşayan ağabeyi Osman Hamdi Bey’in müdürü olduğu Müze-i Hümayun’a müdür yardımcısı olarak atanmıştır. Böylece Halil Edhem Bey için müzecilik dönemi başlamıştır. Görevinin ilk yıllarında Osman Hamdi Bey kadar tecrübeli olmasa da zaman içerisinde ağabeyinin deneyimlerinden faydalanarak müzecilik alanında önemli işler yapmıştır. Halil Edhem Bey, 1892 yılında müze müdürü yardımcılığı görevinde iken ağabeyi ile birlikte Anadolu’nun çeşitli bölgelerinde birçok müzenin açılmasına da yardımcı olmuştur. Halil Edhem Bey, Osman Hamdi Bey’in vefatından sonra müze müdürü olarak atanmış ve onun başlatmış olduğu bilimsel çalışmalara ağırlık vererek yeni koleksiyonların kataloğunu hazırlamıştır. Müzenin İslami para koleksiyonunun düzenlenmesinde yönetici olmasına rağmen bir uzman gibi çalışmıştır. Ayrıca 1908 yılında taşınabilir vakıf eserleri toplatararak “Evkaf-ı İslamiyye Müzesi'nin” (Türk İslam Eserleri Müzesi) temelinin atılmasını sağlamıştır. Halil Ethem Bey, yalnızca Yunan ve Roma eserleri sergilenen Müze-i Hümayu’na bir de İslam Eserleri bölümü eklemiştir. Halil Edhem Bey müze müdürü olmadan önce kaleme aldığı bir makalesinde “Ortaçağ’ın karanlık yıllarında İslam dünyasında ilim, irfan ve sanat alanlarında ilerleme kaydedildiğini ve Osmanlıların bu mirası devralan bir uygarlık olması hasebiyle, Selçuklulara ve Osmanlılara ait eserlerin müzede sergilenmesinin” önemli olduğunu dile getirmiştir. Bu tarihten sonra Selçuklu sultanlarının hatıraları müzelere girebilmiştir. En önemlisi el sanatları artık müzelik malzemelerin içinde yerini alabilmiştir. Bunun dışında tekke ve türbelerde, kutsal mekânlarda bulunması tercih edilen eserlerin, dini mekânlarından çıkarak, dünyevi bir mekân olan müzelere girmesi Cumhuriyet’in ilanından önce Halil Edhem Bey sayesinde atılmış önemli bir adımdı. Halil Edhem, 1910 yılında başladığı müze müdürlüğü görevini, yeni kurulan Türkiye Cumhuriyeti Dönemi’e kadar sürdürmüştür. Yirmi yıl kadar müze müdürlüğünde kalan Halil Edhem Bey bu dönemde Türk Tarih Kurumu'na başkan olarak seçilmiştir. Cumhuriyet Dönemi’nde, milli kültür varlıklarının birer müze olduğunu kabul ettirmek için çok fazla çaba harcamıştır. İstanbul’da kurulan “Eski Eserleri Sevenler Cemiyeti'nin” kurucu üyelerinden biri olarak İstanbul’da imar adı altında tarihi eserlerin yok edilmesini önlemek için de çalışmalarını sürdürmüştür. Topkapı Sarayı’nın müze olması için özveriyle çalışmış, yıkılmaya terk edilen yapıların onarımı yeniden ayağa kaldırılması için uğraşmıştır. Hayatının sonuna kadar eski eserlerle ilgili kurulan her kurumda başkan ve kurucu olarak yer almıştır. 1931 yılında ise TBMM’e milletvekili olarak seçilmiş ve müze müdürlüğünden dolayı emekli olmuştur.  Halil Edhem Bey’in son dönemleri ise oldukça zorlu geçmiştir.  Yurdışında eğitim gören ve tanınmış doktorlardan biri olan oğlu Dr. Süleyman Edhem’i genç yaşta kaybetmiştir.  Kendisi de bu acıya daha fazla dayanamamıştır ve 1938 tarihinde vefat etmiştir. Hayatını eski eserlere  ve müzecilik çalışmalarına adayan ve Osman Hamdi Bey'den sonra Türk müzeciliğinin gelişmesine önemli katkılar sunan değerli isimler arasında yer almıştır.