1932年，张文舟就已经入党了，在红军时期还当过第29军参谋长，到了抗战时期他担任警备第3旅副旅长，后来又去了西北野战军当参谋长，到了抗美援朝的时候还当过中国人民志愿军代理参谋长。解放战争刚一开始的时候，四大野战军刚成立没多久，第一任参谋长的任务都特别重，像西北野战军的参谋长是张文舟，中原野战军的是李达，华东野战军的是陈士榘，东北野战军的则是刘亚楼。可到了1955年授衔的时候，情况挺让人意外的：除了张文舟是少将，剩下的陈士榘、李达还有刘亚楼都成了上将。两个人衔之间的差距挺大的，所以大家都忍不住想知道是怎么回事。难道张文舟资历不够或者没什么战功吗？显然不是这样的。 那时候张文舟正给南京军事学院装甲兵系当主任，级别是正军级。按照规定他应该授少将军衔。不过总干部部一开始觉得他功劳挺大，想给他授中将。这时候彭德怀专门去找张文舟谈了心，建议他主动申请降为少将。张文舟是个很无私的老革命，二话不说就接受了这个安排。 这个决定可比西府战役更关键呢，也体现了他和彭德怀不图名利、坚守原则的高风亮节。后来张文舟又在装甲兵系统干了一辈子的事儿，先后当装甲兵副司令和装甲兵学院院长。1986年1月2日那天他因病去世了，享年74岁。大家把他的骨灰给安葬在八宝山革命公墓里，给他留下了不可磨灭的红色印记。