後藤新平進入衛生局時，局長是長與專齋，相當有名氣，是近代日本衛生行政的創始者，1883年4月，後藤新平在長與專齋的命令下，調查全國的衛生狀況。他詳細紀錄各地住民的傳統生活狀況，調查報告不但有醫事衛生的項目，還包括地理、人文、物資、風俗民情等廣泛的資訊。後藤新平還向長與專齋提出醫學教育改善案，因獲得賞識而得到拔擢，進而負責傳染病對策、上下水道計畫、衛生思想普及等工作。1889年，後藤新平完成《國家衛生原理》一書，書中指出人類是一種弱肉強食、適者生存的生物，生存的目的在於享有「生理的圓滿」，國家是人的集合體，是完成「生理的圓滿」的最高有機體，國家也是一個衛生團體，國務也可稱之為衛生，其目的在於保護促進人民「生理的圓滿」。日後他的政治理念可說是以此思想為根基展開的。1890年，後藤新平終於有機會留職停薪，完成十年來的宿願，自費到德國留學，直接接觸西洋文明。在德國留學期間，他最關心的是社會政策的問題。德國首相俾斯麥(Otto F. Von Bismack)推動鐵血政策，完成德國統一之後，在德國致力社會改良工作，相繼提出《勞工保險法》、《疾病保險法》、《意外災難保險法》及《殘廢及老年保險法》等社會福利政策，成為世界上第一個由國家來推動社會保險的典範。後藤新平最崇拜的偶像就是俾斯麥，他完全仿效俾斯麥的鐵血政策，在日後統治殖民地期間發揮得淋漓盡致。1892年6月，後藤新平自德國返回日本，11月被任命為衛生局長，上任之後立刻推展醫療衛生的現代化，並極力支持北里柴三郎成立傳染病研究所。上任第一年，後藤新平大規模展開全國衛生調查事業，卻不幸地捲入相馬事件而入獄。後藤新平無罪出獄後，1895年1月，石黑忠?又力薦他擔任中央衛生會委員，這時候中日甲午戰爭已接近尾聲，退伍軍人的檢疫成為迫切的問題，身為戰野衛生長官的石黑忠?，向陸軍次長兒玉源太郎推薦後藤新平，後藤遂成為臨時陸軍檢疫部事務官長。於二個月內完成三個檢疫處的業務，總共完成687艘船和23萬2000人的檢疫工作。由於後藤辦理檢疫業務績效卓著，兒玉對他相當賞識，後來出任台灣總督時，即力邀後藤一起赴任。1895年8月，後藤新平結束檢疫工作回到東京，9月再度出任衛生局長，立刻推展在德國所學的社會政策，最重要的措施是為貧民設立大醫院與推展勞動疾病保險，他結合衛生事務和救貧事業結合的構想已經超越衛生局的工作範圍，有人開始嘲笑他是空談理想的「吹牛大王」。