1901(明治34)年2月の福澤諭吉葬儀の際は、三田山上の福澤宅から出発した葬列は表門を抜けて、三田通りを赤羽橋、一の橋と経て、葬祭場の善福寺に向かった。まさに慶應義塾の表玄関であったのだ。
1913(大正2)年夏、老朽化が進んだ木造の門は倒壊の恐れも出てきたため、花崗岩製の門柱と鉄扉を持つ洋風の門に生まれ変わった。形式にとらわれない義塾の気風からか、門標さえ掲げられない極めてシンプルな門だった。
第2次世界大戦中の1943(昭和18)年11月、三田で塾生出陣(学徒出陣)の壮行会が挙行された。大講堂前を出発した出陣学徒は他の塾生たちに見送られ、表門から旅立ち、福澤の墓参に向かった。戦時中には、陸軍のトラックが門柱を破損した事件もあった。当時用度課長であった羽磯武平が、小泉信三塾長にそのことを報告すると「軍と雖(いえども)遠慮することは無用である。然るべく要求し請求すべきである」との指示を受けたそうである。
1945(昭和20)年5月の空襲で表門も被災したが、その2年後に横須賀三田会の寄付などによって修復された。戦後間もなく右側の門柱に「慶應義塾」と墨書きされた門標が掲げられた。しかし何者かに持ち去られてしまい、今はその門標は慶應義塾には存在しない。
1959(昭和34)年、慶應義塾創立100年事業の一環で、南校舎が建設され、同時に現在の正門が新設された。表門は正式名称が「東門」に変わったが、その後も塾生の間では「幻の門」の異称で親しまれた。