1896年5月，成立臺灣總督府國語學校，以培養公學校師資及實業人才。國語學校下設兩部：國語部及師範部，曾增設實業部，但不久即告廢除。1919年，國語學校改制為臺北師範學校，並陸續增設臺南、臺中、臺北第二師範學校。師範教育扮演培育師資及精英塑造的搖籃。總督府有鑑於中等教育以實用性為主，故首重臺灣地區環境衛生的改革，決議在臺培育醫療人才。1899年成立的臺灣總督府醫學校，成為日治時期臺灣醫學教育的開端。「臺灣教育令」頒佈之後，醫學校升格為臺灣總督府醫學專門學校。1928年併入臺北帝國大學，改名為附屬醫學專門部，1936年增設醫學部。為了配合開發殖民地臺灣的需求，殖民地當局特別重視職業教育。職業學校負責培育及拓展實業所需要的人才。當然，這些人才必須具備應有知識及相關技能。總督府先後設立農業實驗場，糖業、林業、工業等講習所，數十所農業、工業及商業學校，更在各地設置職業補習學校。總督府不僅著重於一般性男子教育，更顧及女子教育、蕃童教育（原住民教育）、特殊教育（殘障族群）等。專為女性設立三年制的女子普通學校（中等教育）、高等女學校等，為原住民設立蕃童教育所、蕃人公學校；更為肢體障礙者設計盲啞學校，供殘障者就讀。這些教育可說是前所未有的變革，近代化教育制度徹底在臺灣生根及發展。