公元1271年，忽必烈在将要攻灭南宋之时，改国号为“元”；1276年，元军彻底攻灭了南宋，自此统一了全国，一个国土辽阔的大元朝，从1271年到1368年为止，前后存在了98年的时间。
元朝虽然建立了，忽必烈也在蒙哥去世之后，继承了大汗的位置。然而在蒙古帝国这里，除了大元朝之外，还有钦察汗国、察哈尔汗国、伊利汗国和窝阔台汗国，在这个联盟体性质的大家庭中，忽必烈的蒙古大汗的称号和位置，也仅限于大元朝，其他几个蒙古汗国其实并不承认，这里面存在的原因是什么呢？
一是文化认同度不同。在其他几个汗国眼里，忽必烈所建立的元朝，早已汉化了，和他们纯粹的蒙古人不一致。其实即使是忽必烈自己，也承认这一点，他在开国诏书中这样写道：
“祖宗以神武定四方，淳德御群下。朝廷革创，未逢润色之文法《春秋》之正始，体大《易》之乾元，绍百王而纪统。炳焕皇猷，权舆治道。可自庚申年五月十九日，建元为中统元年。”
从中不难看出，忽必烈入主中原后，承认尧舜禹是中华文明的开创者，而自己则是继承了大宋的国祚，还派人编修《宋史》；同样，日后的朱元璋，在建立明朝之后，也承认元朝的合法性，并派人编修《元史》。因此从元、明两个开国君主的行为看，忽必烈是自己主动承认，元朝属于华夏文明史的一部分；而朱元璋，也默认了这一点。
但是在蒙古帝国的其他几个汗国来看，忽必烈这种做法，无疑是彻底汉化了，所以他不配成为蒙古帝国大联盟体制上的大汗。众汗国群起而反对，其中闹腾得最热闹的一个人，要数海都了。
海都是蒙古大汗窝阔台的孙子。当初在成吉思汗临死之前，他命窝阔台继承汗位，但窝阔台一系，仅仅传了儿子贵由一代，其余时间分别有窝阔台的妻子以及贵由的妻子两个皇后临朝执政，最终在激烈的斗争中，拖雷一系胜出，先是拖雷的长子蒙哥即位，蒙哥死后，忽必烈在大汗争夺中胜出。
但对于忽必烈的胜出，海都是不服气的。一方面，大汗的位置原本属于自己家所有，谁知家里堂兄弟们不争气，便宜了蒙哥和忽必烈；再者，在当时蒙古王公贵族眼里，忽必烈征伐南宗，建立元朝，已经汉化了的他，只能代表大元朝，不能代表蒙古帝国。
为此从1268年开始，忽必烈和海都就多次大打出手，虽然从军事实力上，忽必烈远远超过海都，但海都却也不是省油的灯，他联合各个蒙古王公，如成吉思汗大儿子术赤派系，察合台派系，加上自己的窝阔台一系，共同反对忽必烈。
从1268年到1294年，即使忽必烈去世，也没能彻底征服海都，反而因为海都的存在，让忽必烈蒙古大汗的地位摇摇欲坠，名存实亡，其他几个汗国只是名义上将元朝当成宗主国，实际上从来没有实质性的联盟和互助关系。