势力不断增长。石勒造反兵败，率领胡人部众几千人、乌桓部落2000人归顺刘渊，上郡（今陕西北部）四部鲜卑陆逐延、氐酋大单于徵、东莱王弥等也都投奔刘渊，这样形成了一支由匈奴、鲜卑、氐、羌等各族组成的反晋力量，刘渊称帝的意图也渐明显。为给建立帝业做准备，刘渊四处出兵，频繁侵略晋地。永嘉二年（公元308年）冬十月，刘渊正式称帝。公元309年正月，刘渊又根据太史令宣于修建议，正式迁都平阳（今山西临汾西晋）。因从汾河水中获得治国玉玺，其上面写有“有新保之”，刘渊认为这对自己非常吉祥。
　　永嘉三年（公元309年）三月，晋将军朱诞归降刘渊，刘渊于是任命他为前锋都督，刘景为大都督，起大军攻晋。洛阳的老百姓虽然透了腐朽的西晋王朝，但是更不愿意受外族人统治。所以刘渊两次进攻，都遭到洛阳军民的顽强抵抗，没有占到一点便宜。
　　永嘉四年（公元310年），刘渊死，刘聪杀刘和而自立为皇帝后，开始攻打西晋怀南各州郡。永嘉五年（公元311年）六月，各路汉军先后攻陷洛阳，俘司马炽，杀王公士民3万余人，纵兵大掠宫内珍宝，财物和宫女，又烧宫庙、官府和平房，史称“永嘉之乱”。同年，晋怀帝被汉兵俘虏到平阳，刘聪封他为会稽郡公，享受三司的礼仪，而且还将小刘贵人嫁给他为妻。
　　永嘉七年（公元313年）年初，刘聪在光极殿大宴群臣，饭饱酒酣时，命令晋怀帝穿上青衣行酒令取乐。这一情景让晋朝的故臣庚珉、王隽悲愤不已，大声痛苦。刘聪十分生气，二月，刘聪就将晋怀帝和晋朝的旧臣10多个人全都杀害。
　　晋怀帝被害的消息传到长安后，太子司马邺举哀服丧，并且于四月即皇帝位，即孝愍皇帝，改元建兴。这时他只有14岁。当时的长安城里住户不超过一百，公私加起来也只有车4辆，文武百官既没有官服，也没有印绶，只有桑版刻上官号罢了，皇帝即位的仪式显得十分凄凉。建兴四年（公元316年），汉军在大司马刘曜的统领下，向长安发起强烈攻势。九月，汉军长安的外城被攻陷。在内无粮草、外无援兵之际，愍帝决定向汉军投降。萦琳派自己的儿子去见刘曜，想靠请降来表功，没想到儿子被刘曜杀了。晋愍帝只得自己亲自光着上身，乘着羊车出城向汉军请降。汉帝刘聪降愍帝为光禄大夫，封怀安侯。刘曜被封为大都督，并且大赦天下，改元麟嘉。
　　至此，西晋共经历司马炎、司马衰、司马炽、司马邺四帝，历时42年（公元265年～316年）而灭亡。
　　西晋灭亡之后，北方的各族人民（主要是匈奴、鲜卑、羯、氐、羌五个少数民族）纷纷起义，许多人像李雄、刘渊一样建立政权，前前后后一共出现16个割据政权，历史上称为“十六国”（旧称五胡十六国，胡是古时候对少数民族的泛称）。