Mehmet Şükrü Efendi ve Hüsniye Hanım'ın evladı olarak İstanbul'un Çarşamba semtinde doğdu (1887). İlköğrenimini Çarşamba'da, Benlizâde Sıbyan Mektebi'nde tamamladıktan sonra 1899 yılında Vefa Mülkiye İdâdîsi'ne girdi. Mezun olduktan sonra Maarif Nezareti Evrak Dairesi'nde kâtiplik yaptı ve İstanbul Dârülfünunu Hukuk Fakültesi'ni bitirdi. Eski Eserler Müzesi'ne muhasebe memuru olarak atandı ve müze müdürü olarak çalışmaya başladı.

Müze müdür yardımcısı olan Edhem Hamdi Bey 1923 yılında bu görevden ayrılınca yerine Tahsin Öz atandı. Topkapı Sarayı müzeye dönüştürülüp İstanbul Eski Eserler Müzesi'nin yönetimine devredilince, saray kadrosunda hazine müdürü olarak görev yapan Refik Bey 1928 yılında emekliye ayrıldı ve Topkapı Sarayı Müzesi müdürlüğüne Tahsin Öz getirildi. Bu görevi 1953 yılında yaş haddinden emekli oluncaya kadar sürdürdü. Topkapı Sarayı'ndaki görevi sırasında sarayı yeniden düzenleyerek müze haline getirdi. Osmanlı padişahları tarafından terk edilen ve kendi haline bırakılan sarayı o günün kısıtlı imkânları içinde onardı. Saray mobilyalarının ve hazinesinin envanterini hazırladı ve müze kataloglarını iki ayrı dilde yayımlattı. Depoda bulunan birçok eseri gün yüzüne çıkararak sergiledi.

İkinci Dünya Savaşı başlayınca saraydaki eserlerin bir kısmı korunmak üzere Niğde'ye gönderildi Savaştan sonra eserlerin geri getirilmesi ve sergilenmesi için büyük çaba sarf etti. 1950'li yıllarda Osmanlı-Rus Savaşı sırasında tahrip olan Edirne Sarayı'nda da küçük çaplı kazılar yaptı. 1946-1948 yıllarında İstanbul Üniversitesi Edebiyat Fakültesi Sanat Tarihi ve Tarih Bölümü öğrencilerine Osmanlı Sanatı üzerine seminerler düzenledi.

Türk Tarih Kurumu ve Alman Arkeoloji Enstitüsü üyeliğine seçildi. Topkapı Sarayı Müzesi Müdürü iken İstanbul Eski Eserleri Koruma Kurulu'nun doğal üyesi olan Tahsin Öz, 1951 yılında Gayrimenkul Eski Eserler ve Anıtlar Yüksek Kurulu kurulunca bu kurula üye olarak atandı. Emekli olduktan sonra İstanbul Vakıflar Müdürlüğü'nde eski eserler konusunda müşavir olarak çalıştı. Eski Eserler ve Anıtlar Yüksek Kurulu Başkanlığından 1969 yılında istifa etmesine rağmen 1969 yılında üyeliği devam etti ve 1973 yılında istifa etti. 21 Eylül 1973 tarihinde vefat etti

Tahsin Öz'ün ilk yazıları Tahsin Şükrü ismiyle yayınlanmış olup bilimsel makaleleri; Gecit-Reviev, Arkitekt, Türk Tarih Kurumu Belleteni, Güzel Sanatlar Dergisi, Ars Muslima, The Journal of the Palastina Oriental Society, Tarih Vesikaları, Türk Tarih- dergilerinde yayımlanmıştır. Arkeologya Dergisi, Vakıflar Dergisi, Türk Tarih Kurumu Yıllık Konferansları, Ankara Üniversitesi İlahiyat Fakültesi Dergisi ve Türk tarihi kongrelerinde sunulan bildiriler arasında yer almaktadır. Ayrıca Yedigün, Aylık Ansiklopedi, Mensucat Meslek Dergisi, İstanbul (Halkevleri Dergisi), Panorama, Radyo, Resimli Tarih Mecmuası, Türk Hazinesi, Tarih Konuşuyor, Tarih Dünyası, Yeni Tarih Dünyası, Yeni İnci, Türk Dili, La Turquie Kemaliste, La Turquie Moderne, Türkiye, Ülkü ve Yapı dergileri ile Cumhuriyet, Tan, Tanin, Vatan ve Yeni İstanbul gazeteleri, müze anılarını içeren Hayatım adlı kitabı, Topkapı Sarayı Müzesi Müdürü Ahmet Menteş'in çabalarıyla yayımlanmıştır.