青龙三年（235年），司马懿升任太尉，累增封邑。蜀将马岱入境侵扰，司马懿派牛金迎击，斩蜀军千余人。武都氐王苻双和强端率领其属下六千余人来降。
平定辽东
东汉末年军阀混战时，公孙度据有辽东。这个割据势力对曹魏一直时叛时降，保持着半独立的地位。公孙渊继为辽东太守后，对魏更加不逊。魏明帝震怒，派荆州刺史毋丘俭出任幽州刺史，时辽水大涨，毋丘俭不利而还。毋丘俭讨伐受阻，使公孙渊更加得意。景初元年（237年），原魏辽东太守公孙渊背叛魏国，自立为燕王，置列百官，定都襄平（今辽宁辽阳）。公孙渊遣使南通孙权，封拜边民，诱呼鲜卑，侵扰北方。
司马懿出兵辽东
景初二年（238年）当年正月，司马懿率牛金、胡遵等步骑四万，从京师出发，经孤竹，越碣石，六月，进至辽水。公孙渊急令大将军卑衍、杨祚等人率步骑数万，依辽水围堑20余里，坚壁高垒，阻击魏军。司马懿采用声东击西之计，先在南线多张旗帜，佯攻围堑，吸引敌军主力，而以主力隐蔽渡过辽水，逼进敌军的襄平本营，部将不解问其原因。司马懿说：“敌人坚营高垒，就是想让我们兵疲粮尽，若攻城，正中其计。
古人曰，敌虽高垒，不得不与我战者，攻其所必救也。现在他们大军在此，老巢却空。我直指襄平，敌军必惧，惧而求战，破之必矣”。接着整顿阵列前进，敌军果然出来截击。司马懿对诸将说：“我之所以不攻其营，正是要等现在的局面。”于是指挥魏军痛击，三战皆捷，遂乘胜进围襄平。
当初公孙渊闻魏军来攻，求救于孙权，孙权也出兵为其声援，并给公孙渊写信：“司马懿善用兵所向无前，深深为贤弟感到担忧啊。”适逢连降大雨，辽水暴涨，平地数尺，魏军恐惧，诸将思欲迁营。司马懿下令有敢言迁营者斩，都督令史张静违令被斩，军心始安。公孙渊军乘雨出城，打柴牧马，安然自若。
魏将领请求出击，司马懿不允。司马陈圭曰问司马懿：“当年攻上庸，八路并进，昼夜不停，故能在一旬半时间里，攻下坚城，杀了孟达。这次远道而来，为什么行动却更加缓慢？”司马懿说：“当年孟达军队少而粮食能支持一年，我们的军队是孟达的四倍，粮食却不足一月，以一月粮的军队对付有一年粮的军队，怎能不速战速决？以四攻一，即使一半人伤亡，也是可行的，当时不计死伤，正是要为有限的粮草争取时间。
而今敌兵多我军少，敌粮少我粮多，又遇大雨，想速
…。。