Osmanlı döneminde temeli atılan Ankara Garı 1892 yılında açılır. Ankara’ya ulaşan demiryolunun sonunda, istasyon binası, Anadolu Demiryolu’na ait yönetim binası ve müdür lojmanı olarak kullanılan yapı vardır. Ankara’nın ilk garı olan bu yapı “Direksiyon Binası” olarak bilinen taş binadır. Anadolu-Bağdat Demiryolu hattında çalışan Alman yöneticilerin konaklaması için düşünülen bu yapı, kurtuluş mücadelesini sürdürmek üzere Ankara’ya gelen Gazi Mustafa Kemal Atatürk’e tahsis edilir (27. 12. 1919). Burası sadece konut olarak değil aynı zamanda Başkomutanlık Karargâhı olarak da kullanılır. Tarihi kararların alındığı bu bina 1964 yılında müzeye dönüştürülür. 

Cumhuriyetin ilanı ile birlikte şehrin ana giriş kapısı olan bu gar, ulaşım ağının odak noktası olur ve zamanla Ankara’nın artan yolcu kapasitesini karşılamada yetersiz kalır. Diğer taraftan gar diplomatlara ev sahipliği yapan Başkent’i temsil edebilecek durumda değildir. Bu sebeplerle yeni bir gar ihtiyacı gündeme gelir ve dönemin bakanlık yetkilileri tarafından bu ihtiyaca yönelik karar alınır (1934). Kararın altında dönemin Bayındırlık Bakanı, ulaştırma işleri Bayındırlık Bakanlığı’na bağlıydı, Ali Çetinkaya’nın imzası yer alır. 

İlk gar binalarının Almanlar tarafından yapıldığı dönemde Ankara’nın yeni gar binası için proje hazırlama görevi, Devlet Demiryolları İşletme Genel Müdürlüğü bünyesinde toplanan komisyon kararıyla, Bayındırlık Bakanlığı'nın mimarlarından Şekip Sabri Akalın’a verilir. Binanın yapımı Almanların teknik desteğiyle, Türk mühendis ve işçileri tarafından gerçekleştirilir. Ankara Gar projesi sadece gar değil aynı zamanda farklı yaşam alanlarını da kapsayacak şekilde planlanır. Bu bağlamda gar binasının hemen yanına gar gazinosu ve bunun bir parçası olan saat kulesi garla birlikte proje içerisine alınır ve 777 bin TL bedel ile yapım ihalesine çıkartılır (8. 07. 1935). Garın inşaatını Abdurrahman Naci Demirağ, kontrolünü Devlet Demiryolları Yol Dairesi Reis Muavini Alaettin Arısan üstlenir. Temeli 3 Kasım 1935 tarihinde atılan Ankara Garı, kısa bir sürede tamamlanır ve dönemin Başbakanı Celal Bayar, TBMM Başkanı Kazım Özalp, Bayındırlık Bakanı Ali Çetinkaya, mimar Şekip Akalın’ın yanı sıra çok sayıda bakan ve vekilin katılımıyla düzenlenen törenle açılır (30. 10. 1937).

Bauhaus Ekolü’nün biçimsel bir örneği olan gar binasının dış cephesi Ankara taşı ile kaplıdır. Binanın üzerinin ve yanlarının camla kaplı olması garın ana salonunun aydınlık olmasını sağlar. İki yanında simetrik olarak planlanan mekânlar (idari ofisler, gar lokantası, bagaj emanet odası, bekleme salonları, karakol, postane ve VIP salonu) bulunur. Gar binasının girişinde modern yaşam biçiminin benimsenmesinde etkili olan ve günümüzde kullanılmayan Gar Gazinosu, sol tarafında Demiryolu Müzesi ve Sanat Galerisi bulunmaktadır. Dönemin Avrupa’daki en modern gar binaları arasına giren Ankara Garı Türkiye’nin dünyaya açılan yüzü olur. Başkente gelen yolcuların, devlet misafirlerinin karşılanıp uğurlandığı, kentin ulusal ve uluslararası bağlantısının kurulduğu tek kapı olan Ankara Garı 1960’lı yılların sonuna kadar kültürel yaşamın önemli mekânı olur ve bu durum havayolu taşımacılığının gelişmesine kadar devam eder.  Yüksek hızlı tren garının faaliyete geçmesiyle boş kalan Ankara Garı boş kalır.