Первые попытки установить железнодорожное сообщение Яффо-Иерусалим начались еще в 1839 году. Тогда перед правительством турецкой Османской империи ходатайствовал о строительстве английский бизнесмен еврейского происхождения Мозес Монтефиоре. В то же время британские предприниматели Ченз и Макнил разрабатывали рабочий вариант железнодорожной линии. Они даже совершили поездку в Палестину, пытаясь определить предпочтительный маршрут. Монтефиоре отчаялся в его попытках в 1862 году. Тогда на сцену вышел американо-немецкий инженер Карл Цимпл. Он спланировал маршрут, который и был проложен примерно три десятилетия спустя.

В 1888 году Йосеф Навон, иерусалимский банкир и общественный деятель, получил лицензию на строительство железной дороги от турецкого правительства и продал ее группе французских инвесторов. 31 марта 1890 года был заложен краеугольный камень железной дороги у села Язор (ныне Азур). Строительство дороги, которая была первой в Святой Земле, было завершено два года спустя. Торжественное открытие состоялось на конечной остановке - Иерусалим 26 сентября 1892 года. Первоначальная линия Яффо-Иерусалим включала пять промежуточных станций - Лод, Рамла, Сайд (сегодня возле мошава Таль-Шахар), Дейр-Абан (ныне Бейт-Шемеш) и Бейтар.

Станции были построены во французском стиле и включали в себя склады для товаров, депо для паровозов и вагонов и буфеты.

Среди знаменитых пассажиров, прокатившихся одними из первых по железной дороге, были германский император Вильгельм II и Бенджамин Зеев Герцль.

Железная дорога Яффо-Иерусалим имела большое значение во время Первой мировой войны. Военные штабы Турции и Германии располагались в Иерусалиме и использовали дорогу для доставки провизии военным и гражданским людям. С началом войны турецкие власти национализировали железную дорогу которая была французской собственностью, расширили колею со 100 сантиметров на 105 и присоединили ее в районе Лода к железнодорожной сети Хиджаза Османской империи — линии, соединявшей Дамаск с Аравийским полуостровом.

После окончания войны, англичане расширили колею до 145 сантиметров, приспособив дорогу под свой стандарт.

Во время войны за независимость Израиля, железная дорога и станции стали объектом диверсий и атак. Вплоть до 1998 года с небольшими перерывами продолжала ветка обслуживать пассажиров и осуществлять грузоперевозки.