前指揮部領(lǐng)導與鄧小平一起領(lǐng)導太行山區(qū)的部隊。為適應(yīng)斗爭需要，八路軍第386旅改為第129師機動部隊。劉伯承根據(jù)毛主席創(chuàng)建以太行山為依托的晉冀豫抗日根據(jù)地的指示，在中共中央北方局和八路軍總部直接領(lǐng)導下，立即大刀闊斧地展開了開創(chuàng)根據(jù)地的工作。一面命令各團以營或連為單位，進到平漢路、正太路沿線，發(fā)動群眾，開展游擊戰(zhàn)爭，打擊繼續(xù)南犯的敵人。

1913年8月27日生于湖北麻城一個貧苦農(nóng)民家庭，1927年參加黃麻起義，1928年參加中國工農(nóng)紅軍，先后參加了鄂豫皖、川陜革命根據(jù)地反“圍剿”和二萬五千里長征。他能征善戰(zhàn)、敢打硬仗，戰(zhàn)績卓著，抗日戰(zhàn)爭，任八路軍一二九師三八六旅作戰(zhàn)股股長，補充團參謀長，三八六旅參謀長兼太岳軍區(qū)參謀長，南進支隊司令員，太岳軍區(qū)第二軍分區(qū)副司令員。

抗日戰(zhàn)爭時期，1938年1月，任八路軍一二九師政治委員，與師長劉伯承一起在太行山區(qū)開辟晉冀豫邊區(qū)。參與華北地區(qū)發(fā)動的一次規(guī)模最大的帶有戰(zhàn)略性的對日軍的進攻戰(zhàn)役百團大戰(zhàn)。

抗日戰(zhàn)爭爆發(fā)后，任八路軍第一二九師第三八六旅旅長，率部開赴太行山區(qū)，參與神頭嶺、響堂鋪、長樂村等戰(zhàn)斗的指揮，隨后又轉(zhuǎn)戰(zhàn)于魯西北、冀南、豫北。1940年任太岳軍區(qū)司令員，次年任太岳縱隊司令員，參與領(lǐng)導創(chuàng)建晉冀豫根據(jù)地。注重戰(zhàn)略把握，也注意戰(zhàn)術(shù)運用，在太行山的崇山峻嶺中創(chuàng)造了伏擊戰(zhàn)、破襲戰(zhàn)、圍困戰(zhàn)的著名范例。