1895年乙未战争后，日本完全占领台湾，随即开始向台湾派驻军队，共编为3个守备旅团共2万余人，由台湾“总督”直接指挥。
1907年，守备旅团缩编为台湾守备队，兵力也降至6000人左右，守备长官由台湾“总督”兼任。
1919年，台湾守备队扩编为台湾军，并成立设在台北的台湾军司令部，台湾军也成为与中国驻屯军、朝鲜军、关东军并称的日本四大海外军团。
抗日战争全面爆发，尤其是太平洋战争打响后，日本为加强台湾、冲绳一带的防御力量，不断向当地增兵，至1944年9月共下辖8个步兵师团、12个独立旅团、1个航空师团等共约17万人。
之后，台湾军改编为第10方面军，此时的日本已成强弩之末，败亡之日不远矣。
1945年10月25日，在台日本军队向国民政府代表陈仪将军投降，离开祖国怀抱半个世纪的台湾终于摆脱殖民统治，这一天也被定为台湾光复节。
明石元二郎
1864年生于福冈县，曾任朝鲜军参谋长、第6师团师团长、台湾总督等职务，1918年晋升陆军大将，1919年8月出任台湾军首任司令官。在台期间推动了工业、司法、金融等多项改革，殖民“政绩”斐然，死后葬在台湾。
柴五郎
1860年生于福岛县，曾任重炮第2旅团旅团长、第12师团师团长、东京卫戍司令官等职务，1919年8月晋升陆军大将，同年11月出任台湾军司令官，长期在中国任职的柴五郎也是日军中最早一批的中国通。日本战败投降后，他因沮丧而自杀。
福田雅太郎1866年生于长崎县，曾任第3师团参谋长、第5师团师团长、陆军参谋次长等职务，1921年5月担任台湾军司令官，同年12月晋升陆军大将。
铃木庄六
1865年生于新泻县，曾任骑兵学校校长、第4师团师团长、朝鲜军司令官等职务，1923年8月出任台湾军司令官，一年后晋升陆军大将。
菅野尚一1871年生于山口县，曾任第29旅团旅团长、陆军省军务局局长、第24师团师团长等职务，1924年8月-1926年7月担任台湾军司令官，期间晋升为陆军大将。
田中国重
1893年生于鹿儿岛县，曾任骑兵第3旅团旅团长、第15师团师团长、近卫师团师团长等职务，1926年7月出任台湾军司令官，期间推行对台湾民众的奴化教育，强化殖民统治，极力鼓吹武力征服中国，1928年8月晋升为陆军大将。
菱刈隆
1871年生于鹿儿岛县，曾任第23旅团旅团长、关东军司令官兼驻伪满洲国“大使”等职务，1928年8月-1930年6月出任台湾军司令官，期间晋升为陆军大将，是一位在中国东北和台湾地区常年实行殖民统治的刽子手。
渡边锭太郎
1874年生于爱知县，曾任第29旅团旅团长、陆军大学校长、航空本部部长等职务，1930年6月出任台湾军司令官，1931年8月晋升为陆军大将。二二六兵变中，渡边锭太郎被杀，也是那次兵变中唯一一位被杀的陆军大将。
真崎甚三郎
1876年生于佐贺县，曾任陆军士官学校校长、第1师团师团长、陆军参谋次长等职务，1931年8月-1932年1月间短暂出任台湾军司令官，1933年晋升为陆军大将，长期鼓吹武力征服中国。战后曾被列为甲级战犯，但逃脱了起诉，1947年获释，1956年病死。
阿部信行
1875年生于石川县，曾任第4师团师团长、日本首相、驻汪伪政府“大使”、朝鲜总督等职务，1932年1月出任台湾军司令官，次年6月晋升为陆军大将，长期参与制定侵略中国的各项方针。战后，被列为甲级战犯逮捕，但同样逃脱了审判，直到1953年病死。
松井石根
1878年生于爱知县，曾任第11师团师团长、上海派遣军司令官、华中方面军司令官等职务，1933年8月担任台湾军司令官，同年10月晋升陆军大将。期间鼓吹所谓的“大亚细亚主义”，积极筹划侵华事宜。作为日本军界老牌的中国通，松井石根也是制造南京大屠杀的元凶。战后，他被列为甲级战犯而处以绞刑。
寺内寿一
1879年生于山口县，曾任第5师团师团长、华北方面军司令官、南方军司令官等职务，1935年晋升陆军大将，1943年晋升元帅，1934年8月-1935年12月间出任台湾军司令官。名门之后的寺内寿一（父亲寺内正毅曾任陆军大臣、日本首相）力主彻底征服中国，战后在新加坡向盟军投降，1946年死于狱中。
柳川平助
1879年生于长崎县，曾任骑兵第1旅团旅团长、第1师团师团长、第10军司令官、司法大臣等职务，1931年晋升陆军中将，1935年12月-1936年7月间出任台湾军司令官。1945年日本战败前夕，曾参与南京大屠杀的柳川平助因病死亡，随后被追加为乙级战犯。
畑俊六
1879年生于东京，曾任第14师团师团长、陆军教育总监、中国派遣军司令官等职务，1936年8月出任台湾军司令官，1944年晋升陆军大将。战后，长期参与指挥侵华战争的畑俊六被列为甲级战犯而被判处无期徒刑。
古庄干郎
1882年生于熊本县，曾任航空本部部长、第5军司令官、第21军司令官等职务，1937年8月-1937年9月出任了一个月台湾军司令官，随后就调任第21军司令官率部入侵广东，1939年晋升为大将军衔。
儿玉友雄1881年生于山口县，曾任第2旅团旅团长、第16师团师团长、日本西部防卫司令官等职务，1933年晋升陆军中将，1937年9月出任台湾军司令官。
牛岛实常
1880年生于福冈县，曾任工兵学校校长、第12师团师团长等职务，1936年晋升为陆军中将，1939年8月-1940年12月担任台湾军司令官，期间继续强推殖民政策。
本间雅晴
1887年生于新泻县，曾任陆军参谋本部第二部部长、第27师团师团长、第14军司令官等职务，1938年晋升陆军中将，1940年12月出任台湾军司令官。战后，因大量残杀美军战俘而被处决于菲律宾。
安藤利吉
1884年生于宫城县，曾任陆军教育总监、第5师团师团长、第20军司令官、华南方面军司令官等职务，是最后一任台湾军司令官，随后又兼任台湾总督。1945年10月25日，安藤利吉在台北向中国受降主官陈仪投降，随后被押解到上海等待审判。1946年4月，自知罪孽深重的他服毒自杀于上海提篮桥监狱。
