國軍軍醫組織最早為國民革命軍總司令部「軍醫處」，至民國16年改組為軍政部陸軍署「軍醫司」。

21年於軍事委員會下設「軍醫設計監理委員會」，為軍醫最高機關，監督指揮關於軍醫一切事項。

24年4月1日將「軍醫設計監理委員會」與軍政部「軍醫司」合併為「軍醫署」，直隸於軍事委員會。

26年10月30日因應七七事變制宜，於軍事委員會下設衛生勤務部；27年1月17日復加調整為軍醫署改隸軍事委員會下轄之軍政部。 民國35年6月國防部成立，於所屬聯合勤務總司令部下設軍醫署，由原軍事委員會下轄之軍政部軍醫署、及後勤總部衛生處改組而成，任林可勝為首任署長。

38年8月國防部改組裁撤聯合勤務總司令部，所轄各署處改直隸國防部，軍醫署業務由國防部第四廳接管。

39年政府遷台，國防部改組，由第四廳第2組負責衛勤設施業務；42年改由第四廳第8組專掌軍中衛生勤務。