בית הכנסת הלובי היה ככל הנראה בית הכנסת היהודי הראשון שנבנה ביפו בתקופה המודרנית. בית הכנסת נזכר לראשונה באמצע המאה ה -18, ונאמר כי הבניין נרכש או נבנה על ידי רבי יעקב בן דוד זונאנה עבור "ועד הפקידים והאזרחים הישראלים באיסטנבול״. עוד נאמר כי מטרת הבניין היא לשרתם כחאן לעולי רגל יהודים שהגיעו לארץ דרך נמל יפו וממנו לירושלים ולערים קדושות אחרות. בסוף המאה ה-18 חלה התדרדרות במצב הכלכלי של היישוב היהודי בארץ. הסיבה לכך הייתה התרוששות המחוז של ארץ ישראל באימפריה הטורקית (סנג'וק יפו) כתוצאה משממה כלכלית וחברתית מתמשכת. הקהילה היהודית החלה להזדקק לעזרתן של הקהילות האירופיות. אך מאחר והסיוע האירופי הגיע בעיקר לירושלים, החלו יהודי יפו לעזוב את העיר ולעבור לירושלים. הרכוש היהודי ביפו נשאר ללא השגחה והערבים המקומיים השתלטו בהדרגה על המקום. בניין בית הכנסת הפך למדרסה והמקומיים הותירו לעולי רגל יהודיים להשתמש בו במשך שלושה ימים בשנה בלבד - בחגים היהודיים. במהלך הכיבושים וההרס שיפו חוותה במאות ה-18 וה -19 (מלחמות נפוליאון), הקהילה היהודית ביפו נעלמה יחד עם שאריות החאן היהודי. ב -1948 הגיעו לארץ לראשונה עולים מלוב, והחלו להתיישב ביפו העתיקה, שננטשה חלקית על ידי התושבים הערבים. הם הפכו את המקום הזה לבית הכנסת שלהם לאחר שקיבלו את המפתחות מדלתות הבניין מידיו של כומר פרנציסקני ששירת בבית המנזר הסמוך. הוא סיפר להם שלפני שנים רבות שימש בית זה כבית כנסת עבור הקהילה היהודית ביפו.