公元581年二月，北周外戚杨坚代周称帝，建元开皇。在此后的几年里，雄才大略的隋文帝迅速统一了南北，结束了东汉末年以来长达几百年的分裂割据局面。
而隋文帝能够统一的原因主要有以下几个方面：
首先，北周建立在一个比较好的基础之上。在隋建之前，北魏太武帝扫荡了十六国的残余，北周武帝又进一步扩大了北朝的地域，这就为隋的统一奠定了坚实的基础。
其次，民族融合的彻底完成。自汉以来，先后活动于中原地区的匈奴、鲜卑、羯等少数民族经过长时期的经济、文化交流已经和中华民族的主干汉族完全融合在一起了。这样，自西晋末年以来民族矛盾为社会主要矛盾的时期已经不复存在，因而使中国的南北很容易的统一起来。
最后，北朝均田制和府兵制的继续发展。由于北朝时期的均田制得以继续推广，自耕农大量增加，社会结构趋于合理化；在此基础上扩大起来的府兵制，也因为兵源相对稳定，府兵的经济比较稳固，社会地位有所提高，战斗力比较强。
所以，正是有上述有利条件，在杨坚等人的正确领导之下，自永嘉末年西晋王朝崩溃起，长达二百三十七年的分裂局面，至此南北复归于统一。