今天甘肃、宁夏一带明清以来是回族的聚居地，西北三马宁马、甘马、青马都起源于今甘肃临夏。清朝晚期，西北回民起义势力很大，清廷调中兴功臣左宗棠率楚军入陕甘。软硬兼施之下，要么投诚，要么被镇压，投诚的人中就有三马的始祖马占鳌、马千龄、马海晏。投诚洗白后，三人摇身一变成为官军，在清末大动荡之下逐步扩张，集两代之力，统治青海、甘肃、宁夏数十年。

马海晏长子马麒1929年出任青海省主席，掌控青海；马千龄之孙马鸿宾1930年担任宁夏省主席，掌控宁夏；马占鳌的后裔形成甘马。

马麒担任青海省主席两年后去世，时任甘肃全省保安司令兼骑兵第1师师长的其弟马麟回到青海，代理省主席。1933年马麟正式担任省主席，形成马麟主政，马麒次子马步芳掌军的局面，两人貌合神离。

在当时军阀中，以蒋介石、冯玉祥、张学良、李宗仁、阎锡山拥有数省势力最强，其余大的拥有一省之地，小的仅数个县市。西北三马，虽各拥有一省之地，但无论是人口还是经济都无法与内地相比，势力弱小，在蒋、冯、阎、李、张新军阀混战中必然要选边站。马麒很明智地为青马选择了蒋介石，而不是近在咫尺的冯玉祥。

然而马麟担任省主席后，与蒋介石中央政府的关系并不怎么好，蒋遂决定扶持马步芳牵制、分化青马。在蒋介石的支持下，1936年11月，马步芳架空了马麟，剥夺了他省主席的权力。担任空头省主席的马麟，在前往麦加朝圣后，返回老家居住。1938年，马步芳担任青海省主席，青马进入马步芳时代。

马步芳能够坐稳青马第一把交椅，获得蒋介石的支持，后一度代理西北军政长官，由青海王晋级西北王，除了马家在青海、甘肃三代的根基，更与马步芳在镇压红军西路军时所表现出来的坚决与残忍分不开。可能在蒋某人看来，手上有了如此的血债，与红军结下了如此血海深仇，唯有在反共路上一条路走到黑，绝对值得信任。

1936年10月，红军三大主力刚会师，中共就以红四方面军主力组成西路军，意图打通国际通道直接接受苏联援助。陕北往西就是三马马家军的地盘，红军的西征将直接触及三马的利益，在蒋介石的支持下，青海的马步芳、马步青兄弟、甘肃马仲英、宁夏马鸿宾、马鸿逵围攻西路军。历时5个月，西路军惨败，两万余人中战死近8千人，被俘近1.3万人，被俘者遭受了非人的虐待。

马家军在庆贺剿灭赤匪的同时，一边向南京蒋介石邀功请赏，一边以虐待俘虏、屠杀为乐，手段极其残忍。或用马刀和军镐砍杀，或活埋或火烧，很多战俘是被剖腹抽肠或挖眼取胆入药而死，个别高级干部如红9军军长董振堂还被砍头示众。仅在西宁郊区遭屠杀和活埋的就达6千余人，在张掖杀了3200多人，令人发指。1300多名女红军被俘后的命运更是悲惨，屡屡被奸污、性虐、戏弄。

与红军如此的血海深仇，染红了马步芳的红顶子。在与中共红军开打一个月后，马步芳就架空了叔叔马麟，成为青海实际上的王。

抗日战争中，全民抗战，马步芳也不得不调兵东进抗日。为了保存实力，临时招募八千余人组成暂编骑兵第1师，由堂叔马彪担任师长出征。在河南一带与日军多次交战，屡立战功，但抗战结束后马彪却被马步芳排挤出青海，离乡背井。

1949年4月，当彭德怀在太原战役结束后率华北野战军18、19兵团进入陕西，使西北中共军队达到三个兵团。第一次占据兵力优势时，蒋介石嫡系的西北绥靖公署主任胡宗南主动放弃西安，坐看中共与马家军两虎相争。而就在这样的危急时刻，马步芳却官运亨通，5月代理西北军政长官，中将加上将衔，肩上多了一颗金星，成为“西北王”。

1949年8月，彭德怀在攻占关中地区后西进甘肃，毛泽东明确提出对马步芳“坚决歼灭，只接受其无条件投降，而决不容许其来什么起义或改编”。前一年12月中共公布了第一批43名内战战犯，马步芳名列40，一同镇压西路军的宁夏马鸿逵名列39。兰州陷落后，马步芳逃往重庆，10月逃往台湾。

1950年，马步芳以2,000两黄金贿赂蒋介石身边的人，获得前往麦加朝圣的机会，从此一去不回。先后在埃及、沙特居住，曾担任中华民国驻沙特大使，1975年在沙特去世。