国立东京第一医院・国立医院医疗中心起源于1871年（明治4年）创立的军医疗附属总医院。以前建在麹町区隼町占地面积2万9千坪，东临皇宫，西南北面毗邻繁华的街道。1929年搬迁到现下的地址。

当前医院使用的是旧德川家尾张藩下宅基地的一部分，是前陆军户山学校的所在地。东侧毗邻同样是在1929年迁址的陆军军医学校和牛込恩赐财团济生会医院（后改称济生会医院麹町分院）。国立东京第一医院沿用了临时东京第一陆军医院的建筑。最初的院长由陆军医院的院长就任。1948年3月国立营养研究所搬迁到陆军军医学校的原址，后来又设置了国立身体障碍者新生指导所。国立身体障碍者新生指导所在1979年7月合并为国立身体障碍者康复中心，搬迁到琦玉县所沢市。1984年在地基上修建了全国身体障碍症综合福祉中心（户山日出）。

东京第一医院・国立医院医疗中心的历代院长中坂口康蔵（第2代、内分泌・代谢学）、栗山重信（第3代、小儿科学）、市川篤二（第4代、泌尿科学）、织田敏次（第7代、消化内科学）、高久史麿（第8代、血液内科学）来自东京大学医学部、是东京大学医学部的名誉教授。第5代院長・小山善之当时任职于东京帝大第三内科、在坂口下面做内科学讲师。

另外，「国立东京第一医院」的名称对应目黑区的国立医院机构东京医疗中心的旧称「国立东京第二医院」，本医院区别于历史上源自海军的东京医疗中心。