領臺初期，有鑑於日臺人之間語言隔閡，言語不通，不利貫徹殖民地政令，為因應現實需求，遂著手催生語文教育機構。總督府在全臺各要地設立國語傳習所，專門教授臺人學習日語；藉由推動日語，達成同化臺人的第一步。1895年，日人在臺北創設芝山巖學堂，推行日語教育。日人領臺初期，各地民眾群起抗日，臺民以屠殺日人，作為報復手段。1896年元旦，芝山巖事件的爆發，起因於抗日未平、治安未靖，六位日籍教師遭到臺人殺害，國語傳習一度受挫。國語師資的培育，成為總督府推動國語教育，首先需面對的課題。除了硬體設備不足之外，師資的招聘更是當務之急。除大量由日本國內聘請教師來臺任教之外，進而在臺灣本島設立師資培育養成機關。臺灣總督府開辦國語學校後，師範部成為公學校師資聘用的重要來源。總督府制訂獎勵辦法和發佈禁令，積極推動國語常動運動。民間也有附和者，組成同風會及國語同化會等團體。反之，部分臺人教師、學生、官吏及職員，私下仍使用臺語交談，抵制日語推行。甚至連國語家庭亦未必全然使用日語，在家仍使用臺語。要之，臺灣總督府強制普及日語的結果，頂多使臺灣成為『雙語並用』的社會，臺人始終欠缺自發性學習意識。