晋朝的军事制度沿袭曹魏，采用世兵制。晋武帝颁布去州郡兵及封国制，并任众王都督诸州军事。东晋兵制袭用世兵制，并以募兵制补充兵力。由于中央衰落，军力外重内轻，地方方镇较不受朝廷管辖。谢安为了巩固中央，建立北府军。
西晋军队分为中军、外军和州郡兵，中外军全部兵员都来自军户。中军直属中央，编为军、营，主要保卫京师，有事出征，兵力不下10万人。驻防城内宫殿宿卫、宫门及京城宿卫为宿卫军。驻防京郊，有事出征为牙门军。中军统帅为中军将军，后改为北军中侯或中领军。
外军为中央直辖的各州都督所统率的军队，都督一般由征、镇、安、平等将军或大将军担任。州郡兵是地方军备，西晋灭孙吴后，为避免东汉末期诸州割据再度发生，裁撤州郡兵。并改置武吏，大郡100人、小郡50人，用以维持治安。但是实际上取消的州郡兵甚少。
司马炎颁布封国制，诸王分封郡国，大国三军5000人、次国二军3000人、小国一军1500人（详见晋朝藩王列表）。并任一些王室都督诸州军事，如汝南王亮督豫州、楚王玮督荆州、河间王顒督关中。晋武帝任诸王都督诸州军事是为了提升宗室力量避免权臣专政，但却使得地方宗室掌握军权，权力有逐渐凌驾中央的趋势。西晋都督为持节使臣以督诸军，持节都督分为三级，都督中外诸军事为最高统帅，监诸军次之，都督各州诸军事居末，和将军分统外军。
西晋兵制
世兵制
世兵制的诞生，是一个逐渐演变的过程。演变的第一步，是从两汉的征兵制，过渡到汉末的多种集兵方式。这种募征来的兵，服现役期限不再是征兵制规定的两年，而变为长期的以致终身的；当兵从尽义务，变成谋生的职业；服兵役由人人有义务，变为一部分人的职业。建安后期，是演变的第二部。这时，兵士家属集中到一起居住，既留作人质以防士兵叛变，又便于管理；兵与民的户籍也由此分开，出现了兵户；当兵由及身而止，逐渐变为世袭。兵户和世袭兵大量出现，成为时代的潮流，新的世兵制也就形成了。
三国鼎立期间，世兵制发展成为魏、吴的主要兵役制度。晋灭吴后，扬威将军朱照日上报”吴之所领兵户凡十三万二千“。兵户数目可观有力地证实世兵制成为吴国的主要兵役制度。蜀国只有部曲和少数民族兵中实行世兵制。刘备入蜀的部队多是北方兵，入蜀后同其家庭一起转为世兵较为自然。少数民族兵士多是为诸葛亮南征中收降的，也转为世兵。
在东吴，同世兵制配套，还实行世袭领兵制。规定将领享有领兵权，并且代代相传，将领死后，子弟接替统领父兄故兵。由长子、长孙世袭；无子，由弟继承；子弟幼弱，或有罪，经吴主指定，由别人暂为代领，一旦子弟长大或有罪赦免，经吴主批准，即归还故兵。世袭领兵制使兵将结合空前紧密，并促进部队战队力的提高。