司马炎为曹魏权臣司马昭的长子，曾出任中抚军，司马昭本意让幼子司马攸继承王位，但在众臣的反对之下，于咸熙二年（公元265年），册封司马炎为晋国太子。同年八月，司马昭中风猝死，司马炎继承父亲的相国职位和晋王爵位。

咸熙二年（公元265年），司马昭病死，司马炎继承相国、晋王位，掌握全国军政大权。经过精心准备，同年12月，仿效曹丕代汉的故事，为自己登基做准备。

在司马炎接任相国后，就有一些人受司马炎指使劝说魏帝曹奂早点让位。不久，曹奂下诏书说：“晋王，你家世代辅佐皇帝，功勋高过上天，四海蒙受司马家族的恩泽，上天要我把皇帝之位让给你，请顺应天命，不要推辞！”司马炎却假意多次推让。司马炎的心腹太尉何曾、卫将军贾充等人，带领满朝文武官员再三劝谏。司马炎多次推让后，才接受魏帝曹奂禅让，封曹奂为陈留王。司马炎于咸熙二年（公园环265年），登上帝位，国号晋，史称为西晋。

改元为泰始，曹魏遂亡。但这时的司马炎心里并不轻松，他很清楚，虽然他登上王位宝座，但危机仍然存在。

从内部看，他的祖父、父亲为了给司马氏家族夺取帝位铺平道路，曾经对曹爽为首的三族以及附属势力进行了残酷的屠杀，这件事所造成的阴影仍然横亘在人们的心中。从外部看，蜀汉虽平，孙吴仍在，虽说此时的东吴已不足以与晋抗衡，但毕竟也是一个不小的威胁。

要巩固政权，进而完成吞并东吴、统一中国的大业，就首先要强固统治集团本身的凝聚力，而要达到这个目的，就必须采取怀柔政策。司马炎在即位的第一年，即下诏让已成为陈留王的魏帝载天子旌旗，行魏正朔，郊祀天地礼乐制度皆如魏旧，上书不称臣。同时又赐安乐公刘禅子弟一人为驸马都尉，第二年又解除了对汉室的禁锢。这不但缓和了朝廷内患，尤其是消除了已成为司马氏家族统治对象的曹氏家族心理上的恐惧，而且还安定了蜀汉人心，进而又赢得吴人的好感。

为了尽早地使国家从动乱不安的环境中摆脱出来，为统一奠定牢固的基础，无为与宽松政策成了西晋之初的立国精神。这种立国精神在国家的各种领域中充分地体现出来。

泰始四年（公元268年），司马炎诏书中明确指出：“朕为永葆我大晋的江山，现以无为之法作为统领万国的核心。”

同年，又向郡国颁下五条诏书：朕一曰正身，二曰勤百姓，三曰抚孤寡，四曰敦本息末，五曰去人事。当年，曹魏王朝的奠基者曹操继东汉的动乱政治之后，为了安定人心，恢复国力，曾实行了比较宽松开放、节俭求实的治国方略。但到了曹叡统治后期，政治渐趋严厉，社会风气亦腐败，曹操当年的风范已不复存在。皇帝为了满足自己的私欲，往往不断把强大的物质重负转移到百姓的身上，而长期的战乱更使百姓在惨淡的生计之外，还在心理上增添了一种恐惧与疲惫之感。在这种情况下，司马炎反其道而行之，提出无为而治的强国方略是最适合不过的。

司马炎在治国措施上的，进行了系列改革。司马炎改革的政治制度上承曹魏，别有创新，有些为东晋南北朝所奉行，深刻地影响了西晋一代及其以后的政治。

三省制度的初步确立西晋代魏，同曹魏代汉一样，以王朝禅代的方式和平地进行，曹魏时的显贵大都成为新朝的开国元勋。司马炎称帝后，模仿古代名称，杂采近代制度，同时设置太宰、太傅、太保、太尉、司徒、司空、大司马、大将军等名号，号称八公，以宠待勋臣贵戚。其中太尉、司徒、司空虽沿汉魏仍有宰相之称，但除了司徒还拥有掌管州郡中正对士人乡品的品第职权外，与其他五公一样，几乎都是尊宠虚衔。

由于曹爽及司马氏父子先后操纵曹魏政权时，都利用尚书机构发号施令，使汉魏以来权力日益上升的尚书机构在西晋时取得了朝廷大政的决策权。尚书台以尚书令、尚书仆射主掌，西