西晋末年,腐朽的统治阶级内部爆发了“八王之乱”,长达十六年之久的激烈的混战,给人民带来了巨大的灾难,人民无法生活,走投无路,不断掀起反对西晋统治阶级的英勇斗争。各少数民族也都乘机起来反抗晋朝的统治,最先起兵的是匈奴族的刘渊。刘渊是匈奴贵族,304年,在左国城(今山西离石)称汉王,308年称帝,建都平阳(今山西临汾)。刘渊连败晋军,很快占领了山西中部和南部一带地方。310年,刘渊死,刘聪继位。次年,刘聪派刘曜、石勒攻进洛阳,俘晋怀帝,杀晋王公、士民三万余人,纵兵焚掠,洛阳城遭到严重破坏。怀帝被杀以后,晋愍(mǐn)帝即位长安。316年,刘曜攻破长安,晋愍帝投降,西晋灭亡。
西晋灭亡以后,中国出现了各族统治者长期割据混战的局面。从304年刘渊称王起,到439年北魏统一中国北部止,一百三十五年间,各族先后在北方和巴蜀建立了十几个国家。