1947年七月，西北野战军正式成立，彭德怀担任司令兼政委，张宗逊担任副司令，张文舟担任参谋长，徐立清担任政治部主任。徐立清虽然是开国中将，但本来计划是授予上将的，因为他极力推辞才改为中将。而参谋长张文舟却只是开国少将，张文舟是我军非常优秀的参谋人才，红军时期担任过红29军参谋长，抗战时期担任过陕甘宁晋绥联防军警备第三旅的参谋长，解放战争时期更是高居西北野战军的参谋长。
抗美援朝战争时期，经过彭德怀亲自点名，担任过志愿军代理参谋长这些级别都不低，当参谋长记忆力必须要好，比如李达、刘亚楼那都是活地图，随便一个地方张口就来，张文舟自然也不在话下，很多地方扫一眼就能牢牢记住，彭德怀只要需要，张文舟就能随时报出来，让彭德怀对他非常信赖。1947年，胡宗南率军大举进攻延安，为了掩护总部机关进行战略转移，彭德怀指挥西北野战军与之展开了激战。
为了制定作战方针，彭德怀一行跑到前线去勘察地形，由于是躲在敌人眼皮子底下活动，所以没有办法绘制详细的作战地图，但是等他们回来以后，不管彭德怀说到哪里，张文舟都能对那里的地形地貌乃至敌军部署侃侃而谈分毫不差，俨然就是一个活地图。新中国成立之后，张文舟被调到装甲兵任参谋长，与许光达一起创建装甲兵机关和装甲兵学院，成为我国装甲部队的发展奠基人之一。
但是，在装甲兵干了还不到两年，张文舟又被彭德怀叫去，原来振军参谋长解方正在和敌军谈判，彭德怀身边缺少参谋就亲自点名，就把老搭档张文舟调了过去，担任志愿军代参谋长。后来彭德怀因病回国，但是张文舟并没有因此慌乱，反而是越打越勇，参与指挥了金城反击战和上甘岭战役等等，从而大大增加我军的谈判筹码，为协议书的正式签订提供了有力的支持。回国之后，张文舟又回到装甲兵担任过装甲兵副司令、装甲兵学院院长等职务，并于1955年授予开国少将。其实以张文卓的资历是可以授中将，但是张文舟对此毫不介意。