教導總隊的雛型出現(xiàn)在中原大戰(zhàn)結(jié)束后的1931年1月。軍政部從原有的教導第2師中，抽出特務營、炮兵團、工兵團、騎兵團的各一部、加上一些軍校畢業(yè)生和軍校衛(wèi)兵隊共同組編起來的，百般遴選，堪稱精銳。

初建時僅為加強團級，下轄步兵第1營和步兵第2營，另有迫擊炮連、炮兵連、騎兵連、工兵連、通信排、特務排等總隊部直屬部隊，全總隊合計有2500余人。

?淞滬抗戰(zhàn)

1932年初，編入張治中的第5軍，參加了淞滬抗戰(zhàn)，表現(xiàn)尚可，但兵力有限，戰(zhàn)場上充當配角。

?升格師級

長城抗戰(zhàn)后，國府加快了準備編組60個調(diào)整師和整理師的步伐，遂把教導總隊升格為師級單位，以作為軍隊編制調(diào)整的“樣板”。

期間教導總隊優(yōu)先得到了所需人員和采購來的德械裝備，1933年6月，從德國軍校留學歸來的桂永清調(diào)任總隊長，經(jīng)過幾年的擴充和加強，到全面抗戰(zhàn)爆發(fā)時，教導總隊已成為最標準的“調(diào)整師”，滿編14000人左右，而87師、88師和36師正是以教總為樣板組建起來的。

在武器裝備上，教導總隊的平均水平確實要高于另外三個德械師，因為它大部分接收的是原裝德械，1932年南京政府在德國毛瑟軍工廠訂購的10000支1924年式步槍，也就是98K的前身，基本都裝備了教導總隊，而36師、87師、88師裝備的都是仿制的中正式。教導總隊同時裝備馬克伈重機槍和捷克式輕機槍，基層軍官使用M1932型駁殼槍，純正進口貨。

?淞滬會戰(zhàn)

1937年淞滬會戰(zhàn)第一階段，教導總隊傷亡慘重，第二階段不得不撤下來整補，也是在這一期間，軍政部將教導總隊升格為兩旅六團的“甲種師”，打算作為中期抗戰(zhàn)的主力部隊，可惜的是，還沒有完成整補，淞滬會戰(zhàn)最終失利，教導總隊又被匆匆投入了南京保衛(wèi)戰(zhàn)。

?南京保衛(wèi)戰(zhàn)，只撤出4000余人

升格為甲種師的教導總隊，理論上應有兵力為六個步兵團、一個補充團、一個炮兵團以及總隊其他直屬單位，定額可達29000余人。

但實際只有三個團隨總隊部留在南京參戰(zhàn)，因為新建的第七、第八和第九團尚還湖南和江西地區(qū)招兵待建，所以南京保衛(wèi)戰(zhàn)期間的教總兵力應在2萬人左右。

由于淞滬會戰(zhàn)的損失較大（傷亡5000），這2萬余人充斥著新兵，炮兵團只有12門山炮，德械裝備也被大大稀釋，戰(zhàn)斗力反而下降了。

按照蔣介石的想法，教總應直接撤往湖南地區(qū)整補以利再戰(zhàn)，不過唐生智擔心守城兵力不足，力爭留下了這支部隊，結(jié)果在南京保衛(wèi)戰(zhàn)中，教總只撤出來4000余人，殘部被編入第46師，也就是說，到了1938年1月教總已不復存在。

?蘭封會戰(zhàn)

合編的新46師于1938年5月在開封與日本對戰(zhàn)，傷亡慘重，只剩3000殘兵，旅長殉職一名、重傷兩名。桂永清、李良榮均免職。

而這3000人跟著胡宗南西撤了，又由胡宗南進行了改編，第46師裁撤了，教導總隊至此完全終結(jié)。