宋太宗也是一位比较有作为的皇帝，他继承皇位以后，决心将宋太祖统一全国的未竟事业继续进行下去。
消灭南唐以后，南方割据势力只剩下了吴越，已不足为患。而且吴越对宋朝一直顺从听命，当宋朝出兵灭南唐时，宋太祖要求吴越国主钱俶出五万兵夹攻南唐，钱俶果然照办。南唐灭亡后，钱俶曾到开封朝拜，受到宋太祖盛情接待。当时有许多大臣劝太祖扣留钱俶，但宋太祖考虑到南唐虽然国灭，有的地方却还有不少人在据城反抗，需要一段时间巩固他在江南地区的统治，他担心在这个时候扣留钱俶会引发吴越地区的反抗，于是就没有批准。不仅如此，宋太祖还把群臣主张扣留钱俶的奏疏都交给钱俶，使钱俶既惧怕，又感激不尽。到了太平兴国三年（978），这是宋太宗即位的第三年，这一年三月，吴越国王钱俶带了大批财物到开封朝见太宗。事隔三年，形势不同了，宋朝已牢固确立了在江南的统治，宋朝消灭吴越的时机也成熟了。所以，这次钱俶带了大批宝物到开封朝贡，宋太宗在收下贡物后，就不再理会钱俶了，既不说让他回吴越，也不明说是要扣留他。钱俶没有办法，主动要求除去吴越国王的封号和其他优待，只求能够返回吴越，太宗仍然不许。身处宋朝都城的钱俶意识到，如果在这个时候还不向宋朝归顺，恐怕性命也难以保全了，就只好上表把自己统辖的十三州八十六县都交给宋朝。宋太宗点头准许，并对钱俶等人进行封赏，把钱俶的近亲和吴越的官吏全都迁到汴京。南方的割据势力至此被太宗完全削平了。
接着，宋太宗开始积极准备消灭北汉。
北汉以太原为中心，统辖并、汾、忻、代、岚、宪、隆、蔚、沁、辽、麟、石十二州，经济发展与南方各国相比比较贫弱。同时，北汉国主为了不被宋朝消灭，每年都要向辽国供奉大量的财物，以换取支持。