1927年10月12日的清涧起义和1928年5月份的渭华起义开始了西北共产党领导下的武装斗争。

1931年5月初，根据中共北方局的指示，山西特委从军阀高桂滋部、太原兵工厂及陕北特委调来40余位地下党员和进步青年，在山西隰县辛庄组建了中国工农红军晋西游击队第一大队（简称晋西游击队），大队长拓克宽，政委黄子文，副大队长阎红彦、吴岱峰，总支书记杨重远。1932年1月初，刘志丹领导的南梁地方武装和阎红彦、杨重远、吴岱峰领导的晋西游击队及其收编的商贩武装陕北支队在甘肃正宁县柴桥子村改编为西北抗日反帝同盟军，总指挥谢子长，副总指挥刘志丹，参谋长杨重远。

1932年2月12日，这支队伍在正宁县三嘉塬细嘴子村整编为中国工农红军陕甘游击队，总指挥谢子长（后刘志丹、阎红彦、谢子长），政委李杰夫兼队委会书记，参谋长杨重远。12月24日，在宜君县转角镇，红军陕甘游击队改编为中国工农红军第26军。在中共陕西省委、陕甘边特委刘志丹、谢子长、习仲勋等领导下，红军陕甘游击队及红26军，经过寺村塬、照金、南梁3个阶段，创建了陕甘边革命根据地。到1935年10月，红26军发展到近3000人，游击队1000余人。

1932年3月12日，共产党员刘善忠、共青团员高朗亭等4人，夺取民团步枪6支，成立了中国工农红军延川游击队。先后更名为西北先锋队红1支队、中国工农红军陕北9支队、陕北1支队，队长刘善忠（后高朗亭、强世卿、白德胜、李胜堂等），政委高朗亭（后杨重远、李成荣、魏武、任志贞等），在中共陕北特委领导下，开始了陕北的游击战争。1934年初，西北军事特派员谢子长回到西北，西北革命形势开始迅猛发展。1934年7月8日，在安定成立了中国工农红军陕北游击队总指挥部，总指挥谢子长，政委郭洪涛，参谋长贺晋年。1934年9月，成立了中国工农红军陕北独立师。1935年1月陕北独立师改称为中国工农红军第27军84师，师长杨琪（后贺晋年），政委张达志。在中共陕北特委刘志丹、谢子长、马明方、马文瑞等领导下，红27军和陕北各游击支队创建了陕北革命根据地（包括神府革命根据地）。到1935年9月，红27军发展到2000余人，游击支队25个，共4000余人，赤卫队20000余人，共产党员20000余人。

1935年2月陕甘边根据地和陕北根据地一起形成西北根据地，成为土地革命时期我党硕果仅存的一块根据地、各路红军长征的落脚点及八路军抗日战争的出发点。

1935年9月18日，长征到陕北的红25军与西北红26、27军合编，成立红15军团。军团长徐海东、政委程子华、副军团长兼参谋长刘志丹。红26军改编为第78师，师长杨森（后田守尧、韩先楚），政委张明先（后张达志、崔田民）。红27军改编为第81师，师长贺晋年，政委张达志。

1935年10月，中央红军长征到达陕北。11月，红78师随同红15军团编入红1军团，红81师归总部直接指挥。1935年12月以后，中央先后把陕北省的游击队整编为红28军，军长刘志丹（后宋时轮），政治委员宋任穷。陕甘省的游击队整编为红29军，军长萧劲光（后谢嵩、李仲英），政委朱理治(后甘渭汉)。陕北黄河沿岸的游击队整编为红30军，军长阎红彦，政治委员蔡树藩。关中特区的游击队整编为独立第1师，师长白志文，政治委员李宗贵。红27军84师第3团扩编为独立第2师，师长王兆相，政委张秀山。由红29军一部与豫旺堡、七营、黑城岔等地方武装组成陕甘宁独立师，师长姚喆，政治委员黎林。1936年12月，红81师恢复为红27军，军长贺晋年，政委王平。

抗战爆发后，红78师（原26军）、28军、独立第2师和15军团骑兵团分别编入八路军115师、120师和129师，东渡黄河到敌后方抗战；红27、29、30军及独立第1师、第2师、陕甘宁独立师等其他部队则编入八路军留守兵团，保卫党中央和陕甘宁边区。