送信给曹操，想割河西之地以请和，但曹操不同意，马超于是退走凉州。
后来马超进击陇上郡县，张鲁也遣大将杨昂相助马超，共集结万余人，围攻凉州刺史韦康于冀城。五月，曹操抓捕马腾等人，宗族三百余人，全部被杀。另一方面，又派夏侯渊前去救援。八月，夏侯渊援军未到，马超已占据冀城，杀害韦康。夏侯渊领兵前来攻打，行军至距冀城二百余里时，马超领兵前来迎战，夏侯渊被马超大败，遂撤军。此时氐王千万起兵响应马超，率军屯于兴国。马超自称征西将军，领并州牧，督凉州军事。
建安十八年九月，韦康手下杨阜、姜叙等人合谋，将马超击破，占据冀城，并杀害马超全家。马超大怒，但又回不到冀城，于是袭击历城，杀死姜叙母亲。杨阜与宗弟七人来战马超，全部被马超杀死，杨阜自己也身负重伤。马超无家可回，只得投奔汉中张鲁。张鲁开始打算把女儿嫁给马超，最终在部下的劝说下方才作罢。
马超向张鲁借兵，打算攻取凉州。张鲁遣马超围攻祁山，结果失利而回。如今曹操围城，张鲁多次督促马超出阵，正如张鲁部下所预料的额那样，马超是来寄居的打算借兵东山在四，而不是归顺了张鲁，而马超听闻张鲁部下对其多有猜忌，想要害他，所以不肯出城应战曹操，于是二人之间的关系维持不下去了。
马超来头刘琮实际上和当初的算盘差不多，打算带上数月赢取信任之后借兵从剑阁杀回凉州东山再起！当然他这么想，刘琮是不可能给他这样的机会的。魏延看在主公的份上勉强接纳马超，在马超等人休整完毕之后便传达刘琮的命令。