后来马腾征战有功，被提升为军司马，迁偏将军。
可以说，耿鄙对于马腾，有着知遇之恩。
却不想，耿鄙在平定韩遂叛乱的时候，韩遂利用官兵之间的矛盾，用反间之计，让耿鄙被自己的部下乱军所杀。
听说耿鄙被杀以后，在耿鄙手下担任军司马的马腾，就投靠叛军，并且与韩遂结为异姓兄弟。
西羌叛乱的时候，边章、韩遂等人在凉州共同起事，屡次寇掠三辅。董卓正是靠着镇压西羌叛乱，这才成为割据一方的军阀。
后来，虽说西羌叛乱被朝廷镇压，韩遂、马腾仍旧在凉州割据一方。
董卓弄权以后，为了拉拢马腾、韩遂，就想将他们召到长安，封以高官厚禄，好使两人成为他的爪牙。
却不想，马腾、韩遂还在前往长安的路上，董卓就被吕布所杀。他们带兵到达长安以后，李傕、郭汜已经占据了长安。
李傕等人拜韩遂为镇西将军，遣还金城；马腾为征西将军，屯于郿。
马腾屯兵郿县以后，因私事有求于李傕，却被李傕拒绝。马腾勃然大怒，就派兵攻打李傕。
献帝刘协派遣使者前去劝和，马腾不从，继续与李傕交战。后来马腾的结拜兄弟韩遂，也派兵前来说和两人，在说和未果之后，就与马腾合兵一处，一同攻打李傕。
朝臣种邵、马宇、刘范欲诛杀李傕等人，于是秘密与马腾联系，愿为内应，但因事情败露，只得逃奔槐里。
李傕、郭汜怨恨马腾、韩遂起兵相攻，就派遣西凉大将樊稠，以及李傕的侄子李利带兵出击，攻打马腾、韩遂。
一时间，关中之地，战乱再起。