דבריו של השר לביטחון לאומי איתמר בן גביר והצעתו להקים בית כנסת בהר הבית הפכו כבר לסערה רבתית המעוררת תגובות מכל צידי הקשת הפוליטית, אך סקירה היסטורית של הנעשה בהר מגלה כי מקום תפילה ולימוד תורה כבר הוקם בו בעבר למשך תקופה קצרה לאחר מלחמת ששת הימים.
אבי רעיון העלייה להר הבית, הרב שלמה גורן, ייסד מדרשה בשטח הר הבית ימים ספורים אחרי שחרור ההר ב-1967. באוטוביוגרפיה של הרב גורן, שערך אבי רט, סיפר הרב הצבאי הראשי והרב הראשי לשעבר על היוזמה שנולדה באותם ימים: "פתחנו מדרשה ליד שער המוגרבים ותליתי שלט, 'המדרשה של הרבנות הצבאית על הר הבית'. פיניתי לשכונת שועפט בית שלם שבו התגוררו ארבע משפחות. אמרתי לדיירים: אתם גרים פה בחורבות. בואו אתן לכם וילות בשועפט שהירדנים עזבו. לקחתי את המשפחות בטנדר והראיתי להן את המקום שיגורו בו. הן מאוד שמחו ונפקחו להן העיניים. התחלנו להתפלל במדרשה באופן קבוע. קראנו מספרי התורה שהיו לנו על הר הבית וכן היו לנו שם ספרי קודש".
בהמשך סיפר הרב גורן: "מיניתי עשרה קציני הר הבית. הם שלטו שם במשך אותה התקופה, שארכה בערך ארבעים יום אחרי שחרור הר הבית, עד שדיין (משה דיין – שר הביטחון באותה תקופה, ש"פ) הלך והעביר אותו למוסלמים. יום אחד בא אליי דיין ואמר לי שאני צריך להתקפל ולצאת מהמדרשה שעל הר הבית, להוציא את הספרים ואת כל מה שיש לנו שם וכן את הקצינים, מפני שהוא מסר את השליטה בהר הבית לווקף המוסלמי".
את התחליף למדרשה שהייתה בתוך שטח ההר מצא הרב גורן במבנה צמוד להר, המכונה "המחכמה". כך כתב הרב אליעזר מלמד בספרו "פניני הלכה" על אולם התפילה, הקיים עד היום מעל הכותל המערבי הגובל בשטח ההר: "מיד לאחר שחרור ההר במלחמת ששת הימים, רצה הרב גורן להקים בית מדרש של הרבנות הצבאית על הר הבית. אולם שרים בממשלה דרשו להורידו מההר, ונאלץ לסגת מתוכניתו. אחר כך קיבל לרשותו מקום לבית כנסת בבניין המחכמה, שמקצתו בתוך הר הבית, ושם היה מקיים תפילות קבועות ביום הכיפורים ותשעה באב. כיוון שחלקו של בית הכנסת בהר הבית, הנהיג שם סדר תפילה מיוחד, כנהוג בזמן שבית המקדש היה קיים".
עד היום קיים בית הכנסת בקומה העליונה של בסיס פלוגה ג' של משמר הגבול, המאבטח את הכותל ואת כל אזור העיר העתיקה. מספר ימים בשנה נכנסים תלמידי ישיבות בקבוצה מאורגנת מראש לבית הכנסת, ומקיימים בו את מנהג הרב גורן.
הרב גורן התמודד עם איסור העלייה להר שקבעה הרבנות הראשית בעזרת מחקרים שביצע באמצעות חיל ההנדסה של צה"ל, ובהם תחם את השטח שבו היה בית המקדש, השטח שאליו לכל הדעות בקרב הפוסקים אסור להיכנס ללא תהליך טהרה ייחודי שלא קיים היום. המחלוקת היא סביב שאר שטח ההר – המתירים סבורים כי ניתן לעלות לשוליים בשטח שוודאי בית המקדש לא היה בו, בעוד האוסרים סבורים כי יש להחמיר ולא לנקוט סיכון הלכתי, שמא המדידות של הרב גורן אינן מדויקות והעולים היהודים דורכים גם בשטח המקדש. הרב גורן הציג את המדידות שעשה למועצת הרבנות הראשית, אך למרות זאת עמדתה הרשמית לא השתנתה ולפי הרבנות הראשית לישראל אין לעלות להר.
הרבנים החרדים אף סבורים ברובם כי מדובר ב"התגרות באומות", נימוק המתנגד לצעד שעלול להרגיז עמים אחרים. בנימוק זה התנגדו בחוגים החרדים הקיצוניים גם להקמת מדינת ישראל.