在蒙哥成为大汗之前，历史上很难找到忽必烈这个名字。而随着他的哥哥蒙哥的即位，忽必烈这个名字一下子就变得重要起来。1251年，蒙哥命忽必烈总理“漠南汉地军国庶事”，从这一刻起，忽必烈的命运就和华夏大地上的汉室江山紧密地联系了起来。
事实上，忽必烈很早就开始对中原地区进行管理了，只是权限仅局限在他的封地邢州（今河北地区）一域而已。这要感谢一位伟大的女性，一位哺育出三位大汗、一位汗王的非凡女性——唆鲁禾帖尼。这三位大汗和一位汗王分别是她的四个儿子：蒙哥、阿里不哥、忽必烈和旭烈兀。要说明的是，阿里不哥的大汗位是有争议的，尽管在他与忽必烈进行汗位争夺的时候，远在西方的钦察汗国曾把“大汗阿里不哥”的字样筑在了钱币上，但是他最后失败了，向忽必烈投降了。
这里先不说这些，需要说清楚的是，忽必烈在邢州的封地是他的母亲唆鲁禾帖尼说服大汗窝阔台后才取得的。
忽必烈对中原的经营方略有着他自己的特色，这种特色重点表现在他对儒士的重用上。尽管从成吉思汗开始，蒙古人就已经看到了儒士的作用，但从来没有一个蒙古统治者像忽必烈这样系统地吸收汉人文化，重用儒士，倚重儒士。在忽必烈周围聚集了当时最优秀的儒士，张德辉、刘秉忠、赵璧、窦默、王鄂、郝经、姚枢、许衡、王文统，都是他的幕僚。
在众多的儒士中，对忽必烈起重要影响的是刘秉忠和姚枢。刘秉忠是经高僧海云推荐，来到忽必烈身边的。他多才多艺，不仅诗文绘画一流，更重要的是他懂得天文和术数。刘秉忠对忽必烈说：“可以马上取天下，不可马上治天下。”并历数中国历代王朝得失，指出了蒙古旧制度中的弊端，建议采用汉法，整顿政治经济体制。这些建议对忽必烈后来的施政有很大影响。当忽必烈刚到邢州的时候，邢州的状况可用“民生凋敝”四个字来形容。在金人统治时期，邢州有80292户，而忽必烈统治初期这里最多不过700户。他采用了刘秉忠的建议：减轻赋役、招复逃移、整饬吏治，结果“不期月，户增十倍”。姚枢是一位儒士，在众多儒士中他的主张十分务实，姚枢的建议总是隐含着蒙古人所能理解的逻辑。忽必烈最初治理中原地区时，民政和军事的权力是统一的。正是姚枢建议忽必烈交出民政权，只保留军权。忽必烈采纳了这一建议，结果在后来忽必烈的改革遭到蒙古贵族的反对，蒙哥对忽必烈的部下进行清洗时，忽必烈幸运地活了下来，并保住了军事领导权。