İstanbul Üniversitesi’nde mühendislik eğitimi almaktayken maddi nedenlerle eğitimini sonlandırmak zorunda kaldı. Yabancı turistler için 10-15 gün süren Anadolu antik kent gezileri sırasında konaklamalarını sağlamak üzere kurulan zincir otel ve motellerin önemli bir halkası olan Truva TUSAN Motel’in uzun yıllar işletmeciliğini yapmış olan Yılmaz, turizm sektörüne girmeden önce bir Fransız şirketinin reprezantlığı ve muhasebe müdürlüğü görevlerini üstlendi, bunun yanı sıra sigortacılık alanında çalıştı. Yılmaz, aslen Safranbolulu olup, TUSAN Şirketi kurucusu ve sahibi Enver Muradoğlu’nun akrabasıdır. TUSAN Şirketi’nde muhasebe biriminde görev almaktayken kendisine Truva TUSAN Motel’in işletmesinin teklif edilmesiyle turizmcilik hayatı başladı ve TUSAN’lara 30 yıl hizmet verdi. İşletmeyi devraldığı dönemde yaptığı yenilikler diğer TUSAN’lara da örnek oldu ve tüm tesislerin gelişmesinde ve standartlarının yükselmesinde katkı sağladı. Eşi Türkan Yılmaz da, Zekai Yılmaz 1997 yılında vefat edene kadar TUSAN yıllarında yanında oldu; onu destekledi. Vefatından sonra Truva TUSAN’ın işletmesini oğlu Enver Sadık Yılmaz devraldı ve uzun yıllar bu görevi sürdürdü.

Karabük ilinin Safranbolu ilçesinde muhasebeci bir baba ve ev hanımı bir annenin üç çocuğundan büyüğü olarak dünyaya gelmiştir. İstanbul Üniversitesi, Mühendislik bölümü üçüncü sınıf öğrencisi iken babası vefat etmiş ve ailenin geçimini sağlamak üzere eğitim hayatını bırakarak iş hayatına atılmıştır. İlk iş deneyimleri olarak birçok farklı iş koluna giren Ali Zekai Yılmaz muhasebecilik, sigortacılık ve Fransa’nın Türkiye temsilciliği gibi farklı deneyimler kazanmış, iş hayatının ilk yıllarında evlenmiş ve üç çocuk sahibi olmuştur. 1960’lı yıllarda akrabası olan Enver Muratoğlu’nun yönetimindeki Türkiye’nin ilkzincir otel ağı olan TUSAN (Turizm ve Sanayi) Anonim Şirketlerine muhasebeci olarak giren Ali Zekai Yılmaz, Çanakkale’de 1962 yılında hizmete açılan TUSAN-Çanakkale motelini1969 yılında işletmeci olarak devir almış ve böylece otel işletmecisi hayatı başlamıştır. İlk çalışanlarından birisi de, o dönemde 13 yaşında olan oğlu Enver Sadık Yılmaz’dır. Bu tarihlerde TUSAN (Turizm ve Sanayi) Anonim Şirketlerinin Türkiye turistik-antik kentler rotası üzerinde (Uludağ, Çanakkale, Bergama, Kuşadası, Pamukkale)beş m/oteli, Kapadokya-Ürgüp yöresi genelinde üçve Manavgat’ta da bir motelibulunmaktadır. 1974 yılındaTUSANAnonim Şirketleri, bünyesinde bulunanTUSAN Çanakkale motel tesisini satmak istemiş ve Ali Zekai Yılmaz yöneticisi olduğu bu tesisi satın almıştır. Ali Zekai Yılmaz, daha sonra dört yıldızlı bir otel tesisine dönüştürdüğü Çanakkale TUSAN Otelini vefat edinceye kadar kendisi çalıştırmıştır. Turizm sektöründe önde gelen birçok ülkeye seyahat etmiş, o ülkelerde gördüğü misafir odaklı birçok yeniliği kendi tesisinde uygulamış, uluslararası turizm işletmeleri, turizm yöneticileri ve seyahat acenteleriyle uzun yıllar süren yakın bağlantılar kurmuştur. Başta oğlu Enver Sadık Yılmaz olmak üzere birçok otel işletmecisi usta-çıkar ilişkisi içerisinde Ali Zekai Yılmaz Bey’in gözetiminde yetişmiş, bu isimler Türkiye konaklama sektörünün yakın tarihinde otel yöneticisi olarak yer almışlardır. 30 yıllık otel işletmecisi bilgi birikimi ve araştırmacı kişiliği ile Ali Zekai Yılmaz, Türkiye'de otelcilik mesleğinin öncülerinden biri olmuştur.