在与中央政府的关系上，蒙古军队和汉人军队也有差别。蒙古卫戍部队，特别是那些驻守中原北部地区、蒙古大草原、东北地区的部队，直接隶属大都兵部；而淮河以南地区的汉人卫戍部队，则向所在地行省负责。
元廷希望这种分散的指挥结构能够保持对南方军事的控制，有效防止权力过分集中于某一个指挥官手中，以免造成危险性后果。通常，提高军事控制可靠性的方法之一，是由蒙古人或中亚人出任行省最高长官，且由兵部直接任命。
为保证专制集权以及中央对地方“居重驭轻”的战略，元朝因袭了汉地制度，统一后蒙古军队镇守漠北以及由诸王分领，留在中原地区的不多。中央宿卫基本上由蒙汉两种制度构成，以汉军为主，蒙古军编入侍卫亲军的不多。
但是这种制度在南朝复国的战斗中被打破，以汉军和新附军为主体的江南诸都万户元帅府几乎全军覆没。而后的北侵之战中，以山东河南蒙古都万户府和荆襄万户府的卫军遭到毁灭性打击，宿卫京畿的侍卫亲军也受到重创。
在此情况下，元廷不得不调草原宗王军入卫中原，并重建侍卫亲军。而受制于经济制度和国家制度及政治局势，真金试图建立的以宗王军充当戍守宋元边境，重新攻取两淮的主力，以侍卫亲军遏制草原诸王，宿卫京畿的构想，在其死后，很快就趋于崩溃。
朝廷财政困难无法供养这么多军队，入卫的宗王军又不适应农耕，最后只能让地方行省供养。而属于行省管辖的地方卫军由于兵饷微薄、兵力不足、士气消沉，沉重的赋役导致军户大量逃亡，已经是名存实亡，无法承担其戍卫地方的职责，只能出钱雇佣那些民团来平乱剿匪。
至于那些宗王们在自己的封地内为所欲为，私征赋税，强抢良田，擅自颁布政令，对朝廷阳奉阴违，甚至纵兵过界劫掠富户。而临边的宗王还勾结不法商人参与走私，贩卖人口，倒卖军用物资，甚至向南朝倒卖严禁过境的战马。
正如贺惟贤所言行省官员不能禁止，他们或是徒叹奈何，或是干脆与宗王们坑惬一气，充当其的帮凶。他们的妄为使得地方政治糜烂，盗寇横行，百姓怨气载道，动乱不止。而这些又成了他们滥用武力的缘由，向朝廷邀功请赏的筹码。
