Kurucusu Ali Azveren, nam-ı diğer Palabıyık Ali Baba Balkanlar’dan göç ederek Kireçburnu’na yerleşti ve berberlik yapmaya başladı. Cumartesi ve pazar günleri dükkanın bahçesine pikniğe gelen gayrimüslim vatandaşların, kendilerine özgü şiveleri ile ”Kuzum, burada bir balık pişirsek, müsaade eder misin?” diye ricada bulunmaları üzerine önce mangal ve masa vererek işe başladı. Berberlikten daha fazla kazandığını görünce, 1920 yılında Alem Gazinosu adıyla lokantacılığa adım attı. Zamanla dükkânın önündeki deniz doldurulunca şimdiki otoparkın olduğu yeri de aldı ve mekânı genişletti. Ali Baba, 1972 yılında vefat etti.

Ali Baba vefat edince, mekân veraseten kardeşleri Sabiha Talay, Kazime Akalın ve yeğeni Hüdeverdi Talay’a intikal etti. Ali Baba’nın anısını yaşatmak için mekânın adını Tarihi Ali Baba Lokantası olarak değiştirdiler. Sabiha Talay ve Kazime Akalın vefat edince işletmeyi Hüdaverdi Talay ve ortakları Güngör Akalın, Gülbin Taşkıran, Tamer Tulgar ve Taner Talay işletmeye başladı ve bugüne kadar devam ettirdiler. Mekânın sadece sahipleri değil, çalışanlar, müşteriler, hatta tedarikçileri bile babadan oğula geçen bir ilişkiyi sürdürmektedirler.