刘志丹、马锡五等在陈珪璋部兵运工作受挫之后，认真总结经验教训，从当地实际出发，在继续开展兵运工作的同时，深入桥山山脉中段子午岭的绿林和饥民群众武装驻地，宣传革命道理，开展争取和改造工作。先后依靠杨培胜、赵连璧、贾生财等贫苦农民，在子午岭梢林中拉起了三支队伍，占据一定地盘，为实现“武装割据”打下基础。
1931年9月，刘志丹、马锡五根据中共中央关于“集中力量，发动农民斗争，开展游击战争”的指示，把分散活动在合水、庆阳山区的赵连璧、杨培胜、贾生财3支武装集合于合水县倒水湾进行整编。建立起中国共产党直接领导的、独立的工农革命武装——南梁游击队（游击队成立时，并未正式命名，当地群众习惯称之为“南梁游击队”，陕西省委称之为“陕甘边境游击队”）。游击队编为三个大队，赵连璧任第一大队队长，刘景范任副大队长；杨培胜任第二大队队长，白冠五任副大队长；贾生财任第三大队队长，谷聚山任副大队长；刘志丹任总指挥。全队共300余人。南梁游击队的成立，标志着陕甘边兵运工作成功。
南梁游击队成立后，首战二道川，旗开得胜，消灭张廷芝一个骑兵连，缴获战马40多匹，枪20余支。接着又击溃合水县民团的进攻。不久，部队发展到400余人。