该军前身是河南挺进军。1949年9月，陕甘川边区绥署主任 [[ 胡宗南 ]] 为加强秦岭防线的防御，在陕南西乡将河南挺进军 [[ 王凌云 ]] 部改编为新编第4军，王凌云任军长。下辖: ： 新编第11师， [[ 程秀芝 ]] 任师长; ： 新编第12师。 [[ 梁耀庭 ]] 任师长。10月，王凌云任河南挺进军总指挥(豫西行署主任)，该军番号撤消，其新编第11师改为河南挺进军第1纵队; ： 新编第12师改为河南挺进军第2纵队。