Osmanlı Devleti’nin Balkanlarda yaptırdığı en büyük demiryolu hattı olan Rumeli Demiryolları, İstanbul’u Balkanların büyük şehirlerine ve Avrupa’ya bağladı. 1869 yılında yapımına başlanan hat 1888 yılında tamamlandı. Hattın toplam uzunluğu 2.383 kilometredir. Rumeli Demiryolu’nun yapımında zorluklar yaşandı. Hattın yapımı için ihtiyaç duyulan teknik personel ve sermaye talebi Avrupa’dan istenildi, birkaç büyük demiryolu şirketi ile görüşüldü ancak başarılı olunamadı. Bunun üzerine uygun bir yüklenici arayışına gidildi, 1869 yılında Belçikalı banker Baron Maurice de Hirsch ile iletişime geçildi. 17.04.1869 tarihinde yapılan antlaşmaya göre, 2.000 kilometrelik İstanbul, Çatalca, Edirne, Harmanlı, Sofya ve Niş güzergâhlarını içeren ana demiryolu hattı ile bu ana hatta bağlanacak Dedeağaç, Yanbolu ve Selânik şube hatları yedi yılda inşa edilecek, böylece Avrupa ile bağlantı sağlanabilecekti. Rumeli’de bir demiryolu inşası ve imtiyazı 1876 Temmuz ayı itibariyle 99 sene süre ile Baron Hirsch’e verildi. 04.01.1871 tarihinde Yedikule-Küçük Çekmece hattı (15 kilometre) hizmete açıldı.

Devam eden hatların inşasında sonraki süreçte sorunlar yaşandı. Baron Hirsch, düz araziden geçen hatları inşa etti, maliyeti ve yapımı zor olan dağlık arazilerdeki hatların yapımına gelince zorluk çıkardı. Politik ve mali sıkıntılar nedeniyle 1872 yılında inşa edilecek demiryolu 2.000 kilometreden 1.274 kilometreye indirilerek Osmanlı’ya devredildi. 1878 yılında Şark Demiryolları adı ile demiryolu hatlarının yapımına devam edildi. Vakarel-Balova, Üsküp-Zibefçe, Vakarel-Niş hatlarının yapımına başlandı ve bu hatlar 1888 yılında hizmete açıldı, İstanbul- Viyana arasında toplam demiryolu uzunluğu 1686 kilometreye ulaştı. İstanbul’dan Viyana’ya giden ilk tren, ünlü Şark Ekspresi (Orient Express) 12.08.1888 tarihinde Sirkeci’den hareket etti. Böylece İstanbul, Viyana ve Paris birbirine bağlandı. Bu hat ve Orient Express adlı tren, popüler kültürün önemli bir parçası olur. Agatha Christie’nin 1930 tarihli Doğu Ekspresinde Cinayet adlı romanı başta olmak üzere pek çok filmde ve kitapta yer aldı.

Osmanlı Devleti artan isyanların bastırılmasını ve muhtemel bir Rus savaşında asker sevkiyatını kolaylaştırmak için XIX. yüzyılın ikinci yarısında demiryolu projelerini Rumeli’de yoğunlaştırdı. İstanbul’dan Avrupa’ya uzanacak bir demiryolu bağlantısının Avrupa ile ilişkilerin geliştirilmesine katkı sunması amaçlandı. Rumeli’de, inşasına başlanan ilk demiryolu 66 km.’lik Köstence-Çernavoda (günümüzde Romanya Devleti’nin sınırları içindedir) hattı oldu. Osmanlı hükümeti, demiryolu yapımında yaşanan güçlükler sebebiyle, gazeteler yoluyla Avrupalı sermayedarlara yatırım çağrısı yaptı. Bu çağrı karşılık bulsa da ilk girişimler sonuçsuz kaldı. Bu sebeple finansman desteği Avrupa’da aramak üzere Nâfia Nâzırı Davud Paşa görevlendirildi. Yapılan görüşmeler sonucunda 17 Nisan 1869’da Dâvud Paşa ile Baron Maurice de Hirsch arasında Rumeli Demiryolları Mukavelesi imzalanarak anlaşmaya varıldı. Anlaşmaya göre, İstanbul’dan başlayan hat Edirne, Filibe, Enez, Burgaz ve Selânik’e uğrayarak Sava nehrine kadar uzanacaktı. 1869’da Rumeli demiryolları imtiyazı resmileşen Hirsch, Rumeli Demiryolları Şirket-i Şâhânesi ve Rumeli Demiryolları İşletme Kumpanyası’nı kurdu. Çalışmalar 1870’de başlatıldı ve İstanbul-Edirne-Filibe-Sarımbey-Belova, Edirne-Dedeağaç, Selânik-Üsküp ve Banoluka-Avusturya sınırı arasında yaklaşık 1000 kilometrelik bir alanda yürütüldü. Rumeli demiryollarında ilk hizmete giren Yedikule-Küçükçekmece hattı oldu. Yedikule’nin trenler için uygun bir başlangıç noktası olmadığı anlaşılınca kalkış noktası olarak Sirkeci belirlendi. Daha sonra Edirne-Dedeağaç (149 km.), Banoluka-Avusturya (102 km.) sınır hatlarında ve Selânik-Üsküp hattında 100 kilometrelik bölümde 1872 yılının ortalarında trenler işlemeye başladı. Rumeli demiryollarının inşası kolay bölümleri tamamlandı. Ancak Balkan dağlarını aşacak hatların kilometre maliyetini attırması sebebiyle Baron Hirsch, imtiyazlarını inşaatı tamamlayacak bir şirkete verebileceğini iletti. Yürütülen görüşmeler sonunda Sadrazam Mahmud Nedim Paşa’yı ikna eden Hirsch, sahip olduğu imtiyazı devlete devretti. Böylece Balkan dağlarını aşması gereken yüksek maliyetli Sarımbey-Sofya-Mitroviçe, Yanbolu-Şumnu ile Yenipazar-Saraybosna-Banoluka hatlarındaki yaklaşık 1000 kilometre inşaatı devlet üstlendi. 24 Eylül 1872 tarihinde Demiryolları İdaresi kurularak işlerin düzenli ilerlemesine çaba gösterildi. Ancak devlet yaşanan ekonomik zorluklar sebebiyle taahhüt ettiği hattı inşa edemedi. Hirsch düşük kilometre maliyetli bölgelerin hatlarını süreç içinde tamamladı. İstanbul-Edirne-Sarımbey-Belova hattı 17 Haziran 1873’te hizmete girdi. Üsküp-Mitroviçe ve Tırnova-Yanbolu hatları ise 1875’te bitirildi. Ancak yaşanan anlaşmazlıklar ve aksaklıklar sebebiyle hat, kesintili bir yapıya sahip oldu. Daha sonra yapılan anlaşmalarla Avrupa bağlantısı tamamlanan hattan Viyana’ya ilk tren (Şark Ekspresi) 12 Ağustos 1888’de Sirkeci’den hareket etti. İmtiyazları Baron Hirsch’e ait Rumeli Demiryolları İşletme Şirketi 1878’de Avusturya tâbiiyetine geçerek Şark Demiryolları Şirketi adını aldı. 1910-1912 arasında Sirkeci-Yeşilköy hattına 18 kilometre gidiş geliş çift ray döşendi. 1912-1918 yılları arasında cereyan eden Balkan ve Birinci Dünya Savaşı’nda yaşanan toprak kayıpları sonucu Osmanlı Devleti’nin Avrupa topraklarındaki demiryolları 337 kilometreye indi. Şark Demiryolları Türkiye topraklarında kalan işletme haklarını Lozan Antlaşması’na göre devam ettirdi. 1936 yılında yapılan anlaşma ile Şark Demiryolları millileştirildi. Günümüzde İstanbul-Edirne arasındaki demiryolu hattı 229 kilometre olup Kapıkule üzerinden Bulgaristan’a geçerek Avrupa’ya bağlanmaktadır.