薄一波1908年2月6日出生于山西省定襄縣蔣村，原名薄書存。他7歲入小學，1922年從定襄第一高小畢業，考進山西省立國民師范學校，開始接受五四運動新思想和馬列主義影響。1925年5月，他在大革命的洪流中參加了國民師范學校學生聲援太原市民反房稅斗爭。同年6月，又組織國民師范學校學生參加聲援五卅愛國運動。在斗爭實踐中，薄一波同志逐步認定只有馬克思主義才能救中國，1925年秋加入中國共產主義青年團，同年12月轉為中國共產黨黨員。入黨后，他組建了國民師范學校黨支部，任支部書記。1926年夏，任中共太原地方執委會北部地區委員會副書記，從事黨的組織、宣傳和群眾工作，領導了同山西國民黨新右派的斗爭。1927年4月12日，蔣介石在上海發動反革命政變，4月28日，奉系軍閥張作霖在北京殺害了李大釗等一批共產黨員和革命青年。5月5日，薄一波同志在白色恐怖下毅然在太原組織李大釗烈士追悼會。6月，閻錫山在山西公開舉起反共旗幟，下令通緝薄一波等30多名共產黨人。他們轉入地下，繼續進行革命斗爭。

大革命失敗后，薄一波同志任中共山西臨時省委委員，赴晉北恢復、重建黨組織。1929年至1931年，在北平、天津、唐山等地從事兵運工作，先后任中共天津市委士兵工作委員會書記、平漢線北段兵暴委員會書記、順直省委軍委常委，參與組織和領導了唐山兵變和平漢線北段兵變等斗爭。由于白區工作環境險惡，斗爭復雜，他四次被捕，兩次入獄，保持了共產黨員的崇高氣節。1931年6月，由于省委軍委負責人叛變，河北省委及所屬許多機關遭到破壞，薄一波同志在北平被捕，被判刑8年，關進“北平軍人反省分院”(即草嵐子監獄)，從此開始了長達5年的監獄生活。在獄中，被關押的共產黨員逐步形成了一個以黨支部干事會為核心的堅強戰斗集體。薄一波同志任黨支部干事、書記，同敵人進行了堅決斗爭，利用一切可能的機會組織大家學習馬列著作和共產國際的刊物及領導人的報告，保持了共產黨人的崇高革命氣節。1935年5、6月間，薄一波、殷鑒等12名共產黨人因拒絕“反省”而被北平國民黨軍法部門內定處以死刑。由于南京國民黨政府的批復尚未下達，負責對監獄政治犯行刑的國民黨憲兵第三團根據“何梅協定”立即南撤，這12位同志才幸免于難。1936年6月，中共中央北方局向黨中央建議立即采取措施，即按國民黨的規定履行出獄手續，營救被關押在草嵐子監獄中的同志。黨中央批準了北方局的建議。1936年9月，薄一波等54位同志經黨組織營救出獄。

毛澤東同志對薄一波同志在草嵐子監獄中的英勇斗爭給予充分肯定和很高評價，他在延安聽取薄一波同志匯報時指出：你們把監獄變成了學校，通過學習革命理論，武裝了自己的頭腦，為黨保存了一大批革命同志，這就是勝利。1945年黨的七大選舉中央委員時，毛澤東同志親自提名薄一波同志為中央委員候選人。1953年夏，當薄一波同志在財政會議上受到錯誤批判后，毛澤東同志在會議總結中仍然加寫了這樣的話：“應該指出，薄一波同志過去對敵斗爭是勇敢的。”這里指的首先就是草嵐子監獄中的斗爭。

薄一波同志出獄后，1936年10月下旬被派往山西，組成以他為書記的中共山西省公開工作委員會。他創造性地運用黨的統一戰線思想，通過公開合法的方式，成功地與國民黨地方實力派閻錫山建立了特殊形式的上層統一戰線。依據當時抗日救亡的總任務和黨的統一戰線思想，他提出了“戴閻錫山的‘帽子’、說山西話、做中國共產黨的抗日救亡工作”三句話方針，卓有成效地開展了一系列工作。特別是接辦、改組了山西犧牲救國同盟會，大力發動群眾，培養干部，使犧盟會成為中國共產黨直接領導的群眾抗日團體。僅1936年12月，犧盟會就訓練了抗日救亡宣傳工作的村政協助員1000多名，3個月發展了20萬名犧盟會員。到1939年夏，犧盟會員發展到300萬人左右。

犧盟會舉辦的軍政訓練班和民訓干部團中的絕大多數，后來成為山西乃至全國抗戰的骨干，實現了對山西舊政權的改造，使山西105個縣政權中70余個掌握在堅決抗日的共產黨員手中。抗日戰爭全面爆發后，為了不斷擴大黨領導的抗日武裝力量，薄一波同志向閻錫山建議組建山西新軍，1937年8月1日成立了新軍部隊山西青年抗敵決死隊，他先后任總隊、第一縱隊政治委員。他創造性地制定了《政治委員制度條例》，提出政治委員為部隊最高首長的制度，保證了我黨對新軍的領導權，使這支力量很快由一個總隊發展到四個縱隊，成為抗戰時期我黨領導的一支重要武裝力量。1937年11月初，他率決死隊第一縱隊前往晉東南抗日前線，任山西省第三行政區政治主任，領導創建了太岳抗日根據地，配合八路軍開展抗日游擊戰爭。以薄一波同志為代表的共產黨人與閻錫山成功地建立統一戰線，對華北的抗日戰爭具有重要意義，對全國抗戰也產生了積極影響。毛澤東同志關于把山西作為全國抗戰的戰略支點的偉大構想由此得到實現。毛澤東同志1943年在延安聽取薄一波同志匯報后稱贊說：“你們以少數人團結了多數人，取得了勝利，這是我們黨統一戰線政策的一個成功的例證”。

1939年底，閻錫山在蔣介石掀起的第一次反共高潮中率先發難，發動了企圖消滅新軍的12月事變。在八路軍的支持和配合下，薄一波同志率新軍堅決自衛反擊，粉碎了閻錫山的陰謀。此后，新軍正式編入八路軍序列，他繼續擔任山西第三專員公署專員、決死隊第一縱隊縱隊長兼政治委員，在黨中央、北方局和八路軍總部的直接領導下，鞏固和擴大敵后根據地。1940年4月，他出席鄧小平同志主持召開的冀南、太行、太岳地區軍政黨委員會高級干部會議，在會上提出安定民生、建立秩序、發揚民力、增加生產四項措施。會后他擔任冀南、太行、太岳行政聯合辦事處副主任，領導太岳抗日根據地的建黨、建政、建軍工作。1941年1月任八路軍太岳軍區司令員兼政治委員，8月任八路軍太岳縱隊政治委員，同年任新成立的晉冀魯豫邊區政府副主席。1942年9月起任中共太行分局委員，中共太岳區委書記。從1942年11月開始，他和陳賡、安子文等同志共同領導了歷時兩年半的沁源圍困戰，粉碎了日寇妄圖摧毀太岳根據地的陰謀，將敵人趕出沁源，被延安《解放日報》稱為“敵后抗戰中的模范典型之一”。1943年8月，他赴延安參加黨的七大。后由于七大推遲召開，他到中央黨校一部學習，并擔任第一支部干事。1945年4月至6月，他出席了黨的七大，當選為中央委員。

1945年8月日本宣布無條件投降后，黨中央決定成立晉冀魯豫中央局和晉冀魯豫軍區，薄一波同志任中央局副書記和軍區副政委，協助鄧小平同志主持中央局的日常工作。同年8月至11月，薄一波同志協助劉伯承、鄧小平同志指揮解放區軍民，取得了上黨戰役和平漢戰役的勝利。在平漢戰役中他和劉伯承同志一起，親臨前線同國民黨將領高樹勛會晤，爭取了高樹勛部的起義。1946年3月，他在晉冀魯豫邊區參議會一屆二次會議上當選為議長。同年4月，赴延安匯報工作。隨后參加了《中共中央關于土地問題的指示》(通稱“五四指示”)的起草工作。6月，他領導晉冀魯豫解放區貫徹“五四指示”，開展土地改革運動。1947年夏，他任晉冀魯豫中央局第一副書記、代理書記。同年7月至9月，他率晉冀魯豫解放區代表團赴河北平山縣西柏坡村，參加全國土地會議，討論制定《中國土地法大綱》。他在領導晉冀魯豫解放區的土改復查和基層整黨的運動中，堅持從實際出發，糾正“左”的錯誤，使土地改革運動得以健康發展。他結合解放區的實踐，努力貫徹毛澤東同志關于“發展生產，繁榮經濟，公私兼顧，勞資兩利”的十六字方針，落實工商業政策，推動了晉冀魯豫解放區經濟的恢復和發展。