在蒙古國時全國軍隊直接由大汗統(tǒng)領，大汗便是國內(nèi)的最高軍權掌握者。蒙古的貴族大會便是忽里臺，由大汗主持，忽里臺大會作用之一就是作出軍事決策。

蒙古軍隊分兩翼，兩翼各一名萬戶長統(tǒng)領下屬的千戶長，元世祖忽必烈繼承帝位后設樞密院專門掌管軍機事務。樞密院要職均由蒙古色目人來擔任，元代各地行省曾經(jīng)設立行樞密院來充當?shù)胤杰娛聶C關，不過這樣導致權力交叉雙方互相推卸責任，因此行樞密院被罷，僅在戰(zhàn)事發(fā)生時充當臨時指揮。各行省平章直接聽命樞密院，不用說這些，從中央到地方的重要官職幾乎都是蒙古或色目人擔當。

元代軍衛(wèi)分為兩大系統(tǒng)，一是拱衛(wèi)京師的宿衛(wèi)軍，由怯薛軍和侍衛(wèi)親軍構成，元世祖忽必烈保留了成吉思汗時留下的四怯薛輪番入侍制，用他們列值禁庭以充護衛(wèi)侍從，常備編制在萬人以上，通常由皇帝本人或是親信大臣節(jié)制。侍衛(wèi)親軍用于環(huán)衛(wèi)京畿，到元朝末年先后置三十余衛(wèi)，衛(wèi)設都指揮使或率使，品秩與萬戶相當，都隸屬于樞密院。二是鎮(zhèn)戍軍，在全國各地要處鎮(zhèn)守，在北方有著一定數(shù)量的蒙古軍與探馬赤軍在此屯戍，由蒙古軍都萬戶府統(tǒng)領。南方以蒙古軍、漢軍、新附軍相參駐戍，隸屬于行省的鎮(zhèn)戍諸軍，方面有警時由行樞密院統(tǒng)領；平時日常事務歸于行省管理，但調(diào)遣更防等重要軍務仍受樞密院節(jié)制?？赡苁菍τ谄渌髯宸婪?，全國的軍隊總量只有皇帝本人知道，即使是樞密院內(nèi)官員不是蒙古讓都不知道，行省兵馬也只有當?shù)孛晒殴賳T知道。元代軍官職實行十進制編制，分萬戶、千戶、百戶與牌子頭，在駐防時萬戶上面有大都督府千戶上面有都指揮使，而且由于軍隊各級編制不是時時滿員，就按照現(xiàn)有人數(shù)分為上、中、下三等。兵員超過十分之七便為上等，十分之五時為中等，若是僅過十分之三便為下等。

元代的驛站還被專門劃出部分人專門擔任，這些人被稱為站戶世代從事于驛站無需擔憂工作，元代驛站續(xù)持有鋪馬札子或圓牌才可利用，前者是供一般官員執(zhí)行公務使用，后者是專門用于執(zhí)行緊急公務。

元代時軍隊不時會進行小型圍獵活動，即可以訓練軍士的騎射技術也可以自己補給一定軍糧，到了每年冬初會在上都度夏舉行大型的圍獵活動，屆時皇帝會到此地檢閱侍衛(wèi)親軍與地方軍的軍貌。元代時期，由于蒙古人不懂水戰(zhàn)，便用南宋降將來訓練水軍，但是前面也提到過，元代的重要官職不是蒙古人就是色目人來擔當，那些貴族的新興一代根本沒有經(jīng)歷過戰(zhàn)斗，而且又不懂漢人的軍事訓練，這使得元軍的訓練不是荒廢就是徒有其表。

元代的軍法就是漢人王朝與蒙古傳統(tǒng)的一個結合，元代規(guī)定，凡臨陣先退不能按時執(zhí)行軍務、從駐屯地逃亡兩次者、出征逃亡者等都要處死。元代軍律中也有針對軍官貪污受賄放縱部分軍士就要定罪，還有防止軍官與士兵產(chǎn)生沖突的法律，但問題是由蒙古人和色目人擔任的軍官享有太多特權，導致這些法律根本就是沒有用的廢紙產(chǎn)生不了任何實質(zhì)性的作用。元代滯留在漠北的蒙古人還保留著原先的族兵制度，強壯且有特殊技能的就可以成為一名脫產(chǎn)的職業(yè)士兵，而其他人就是不打仗的時候，平時就是打打獵放放牧打仗的時候拿起弓騎上馬輪上馬刀你就是名士兵，被蒙古人征服的西北部族在元朝時期也保持著同樣的制度。在1234年，在漢軍萬戶的建議之下確立了軍戶制度，元代的軍戶基本上就是由現(xiàn)有軍人，罪犯和部分民戶組成，對于補充軍戶的方法就是簽軍，這個根本就沒有什么固定的比例，基本上就是隨機，有時候兩三戶里面就能出來一個有時幾十幾百里面才出一個。針對于部分軍戶貧窮根本湊不齊參軍用的物件干脆就劃分出來，基本上就是隨機兩三家聯(lián)合提供給另一戶物資，如果那一戶缺人，就由這兩三家里面挑一個人過來替代，這些軍戶在元代那根本就是苦不堪言，他們不僅要承擔軍役，更要承擔勞役差役，到了元朝中葉的時候，軍戶破產(chǎn)這個現(xiàn)象已經(jīng)越來越嚴重。元朝時期也有進行個募兵制，不過對于這個制度基本上就是有時候進行有時候不進行，并且只在局部地區(qū)出現(xiàn)，到了元末時倒是蠻頻繁出現(xiàn)。

元朝建立以后，在河南河北和一些西南邊境地區(qū)都有建立大片軍屯區(qū)，在河北等地區(qū)還有大片的混合型屯區(qū)，軍人由屯種來解決自身的糧食問題，并且還要向國家上交一定的糧食，這種方式解決了元朝的糧食問題，但是后來后方官吏貪腐導致這個制度荒廢了。