甘露元年（公元256年）正月，司马昭加大都督职衔，允许“奏事不名”。六月，晋封为高都公，封地方七百里，加九锡，假斧钺，晋号为大都督，带剑穿履上殿。又辞让不受。八月十六日，加赐黄钺，增加封邑三县。

甘露二年（公元257年）五月初一，镇东将军诸葛诞杀扬州刺史乐綝，占据淮南起兵，送儿子诸葛靓作人质请求吴国援救。

议论此事的人请求立即讨伐淮南军，司马昭说道：“诸葛诞认为毌丘俭举事轻率急速而导致失败，今天他必然外连吴寇，这样一来，叛变的规模大而行动迟缓。我可以与四方将领联合起来，以全胜之策来制服他。”

于是向天子上表说道：“昔日黥布叛逆，汉高祖亲征；隗嚣违抗，光武帝西伐；烈祖明皇帝多次御驾亲征，都是为了振奋士气，耀武扬威。陛下应暂时亲临军旅，使将士得以借助天威。今讨贼诸军约五十万，以众击寡，没有不胜的。”

同年七月，司马昭携曹髦与郭太后一起东征，征发青、徐、荆、豫四州兵马，并从关中分部分军队，共同会师淮北。大军至项，让廷尉何桢持符节出使淮南，劝慰叛军将士，申明朝廷诛逆赏顺的政策，初五，司马昭进军丘头。吴国使文钦、唐咨、全端、全怿等三万余人来救诸葛诞，魏诸将迎击，不能抵御。将军李广临敌畏缩不前，泰山太守常时声称有疾不出兵，都被斩首示众。

八月，吴将朱异率兵万余人，将辎重留在都陆，军队轻装到黎浆。监军石苞、兖州刺史陈泰抗拒朱异军，朱异退走。泰山太守胡烈用奇兵袭击都陆，烧毁朱异的粮草辎重，石苞、州泰又进击朱异，大破其军。朱异残兵饥饿无粮，吃葛叶而逃窜，吴人杀了朱异。司马昭说：“朱异不能到达寿春，不是他自己的罪过，而吴人杀了他，只不过是向据守寿春的诸葛诞道歉，坚定他的意志，使他还指望救兵的到来。

如不这样，诸葛诞就会突围，拼命于一旦。或者认为我大军不能持久，他们就会节省粮食，坚持下去，等待其他变故发生。预料吴贼的出路，不会超出以上三种选择。如今我们应当采取多种行动，扰乱他们的视听，防备他们窜逃，这是取胜之计。”因而命令军队完成包围圈，遣送一些老弱残兵到淮北就地取食，前线士兵每人发给三升大豆。

文钦听说这种情况，果然十分高兴。司马昭更让士兵装作饥饿瘦弱的样子给淮南军看，又放出很多间谍到淮南军，扬言吴国救兵就要来到。诸葛诞等就让士兵放宽标准，尽情吃喝，城中粮食很快短缺起来。石苞、王基都请求进攻，司马昭说道：“诸葛诞图谋叛逆，并非一朝一夕，屯聚粮食，完善城池守具，自认为足以占据淮南。文钦与诸葛诞同恶相济，必不会随便突围出走。今若紧急攻城，必然损伤我方兵力。如外面援军突然到来，内外受敌，那是很危险的做法。如今三个叛贼同在一个孤城之中，天意或许会让他们同时灭亡。我们应从长远计议，制服他们，只须三面包围，坚守阵地。若贼救兵从陆路来，军粮必少，我们用游兵轻骑断绝其粮草运输，救兵可不战而破。外贼已破，文钦等必然束手就擒了。”

全怿的母亲是孙权的女儿，在吴获罪，全端的侄子全祎、全仪护卫其母投奔魏军。全仪兄全静当时在寿春，司马昭用钟会的计谋，代全祎、全仪写信劝全静投降，全静兄弟五人率领部下来降，寿春城中大为恐慌。

甘露三年（258年）正月初七，诸葛诞、文钦等出来攻击围城军，被诸军击退。当初，诸葛诞与文钦内部不和，到紧急的时候，二人相互猜疑。后来，诸葛诞、文钦在计议军事时，二人的意见相抵触，诸葛诞便亲手杀了文钦。

文钦之子文鸯进攻诸葛诞，不能取胜，跳下城墙投降魏军。司马昭任文鸯为将军，并晋封为侯，并让他绕城喊话劝降。司马昭看到城上守军持弓而不发箭，对诸将说道：“可以攻城了。”

二月二十日，魏军攻城，当天城被攻破，杀了诸葛诞，夷