在留守兵團正式頒布幹部編制和任命的會議上，主席親自到會，並作了熱情洋溢的講話。主席拍拍小的肩膀說:“同誌們，我在延安，就靠這個人吃飯，看著妳們留在兵團吃飯！接著，他說了壹句有趣的話:“小廣金，我將死在延安，葬在梁青。”。妳要做好這個準備！”
後來主席說:建立鞏固的根據地，前方靠英雄部隊，後方靠留守兵團。軍隊是根據地生存不可缺少的武裝力量，留守任務應視為與抗日救國前線同等重要。。。！
毛主席的話像重錘壹樣敲打著小廣金和留守兵團的幹部；當晚，小寫下了“任務重於生命”六個有分量的大字，作為自己和留守兵團的行為準則。
小廣金肩上的擔子並不輕松，他深感責任重大。留守兵團既要消滅根據地的土匪，又要堅守千裏江山的防線。部隊也有很多問題。留守兵團由各部組成，組織不健全，組織不統壹，遊擊習氣濃厚，紀律松弛，部分士兵對改編部隊進入國民革命軍戰鬥序列有壹定抵觸情緒。
為了把留守兵團打造成打不垮、拖不倒的壹流部隊，小廣金把自己多年學習和積累的軍事理論知識和作戰經驗運用到部隊的教育訓練中。他每天晚上都去找主席談部隊訓練的進展和存在的問題；主席也非常關心這支“禦林軍”的建設，總是在聽取了小的意見後提出壹些建議。
由於小的努力，留守兵團的紀律性和戰鬥力得到了顯著提高。主席肯定了他們的工作，但也警告小廣金他不能滿足。主席對小說:“我要妳的留守兵團多壹點，不然別人會說妳的軍隊就是這樣，得不到群眾擁護。。。"主席把國民黨頒發的《戰地服務團》和《作戰指導綱要》交給了小，並告訴他在部隊裏壹定要搞壹套自己的東西。
為了完成主席的囑托，小廣金親自編寫了壹本小冊子，內容涉及夜間訓練、防毒訓練、輕重機槍的使用等等，從壹般軍事知識到單兵戰術。在總結和組織實戰化訓練的同時，部隊的軍事技術有了明顯的提高。這壹階段過後，中央領導和邊區政府領導觀看了留守兵團的軍事訓練表演，幾乎所有人都極為滿意。只有毛主席不滿意。他告訴小廣金，這只是開始。
小廣金再次屏住呼吸，開始了下壹階段的總結和訓練。在第二次兵團首長會議上，頒布了建立正規軍事制度的各種草案，包括值班制度的規定和司令工作報告的大綱。在留守兵團的軍事會議上，這些草案被逐步完善，發展成為內務條令、紀律條令和參謀工作條令。這些規章制度的建立，極大地促進了軍隊的正規化建設。
不久，小在留守兵團全面普及這些制度和原則，開辦了幾期培訓班，分期分批地培訓骨幹、基層幹部和兵團領導，並進行各種形式的研討，把軍事學習推向了壹個新的高潮。這是主席的良苦用心。他的目的是通過留在兵團的“試驗田”，為陜甘寧邊區建設紅色生力軍，為將來建立正規軍、打敗日本侵略者奠定基礎。
在主席的指導和小的努力下，留守兵團被建設成為壹支作風優良、戰鬥激烈的紅色勁旅，不僅圓滿完成了保衛延安和黨中央的重要任務，而且還積極開展了壹手拿槍壹手拿鋤頭的生產自救，解決了根據地的缺糧問題。
1939年初，隨著日軍對根據地的大規模掃蕩和封鎖，陜北邊區兵力增加，延安出現了嚴重的糧食問題。軍隊只能靠紅薯、土豆和南瓜充饑。1939年秋，蔣介石停發軍餉和壹切給養，包括糧食、衣物、武器、彈藥、藥品等等。立冬在即，部隊面臨換衣養冬糧，國民黨軍也對延安實施封鎖，大本營陷入雙重封鎖。
小迅速致電陜甘寧邊區黨委書記高崗、邊區主席林，請求地方政府支援，但地方政府和群眾也很難拿出多少錢來支援部隊。小跑來跑去，想盡了各種辦法，但眼下部隊最迫切的冬裝問題仍然毫無進展。無奈之下，小只好如實向黨中央匯報了情況。
過了幾天，毛主席召集留在大本營的黨政軍負責人高崗、林、、小開會。小廣金壹進門，就看見主席蹲在火堆旁烤芋頭。主席招呼大家坐下後，就開始討論解決當前的困難。
主席問他們三個:“我們在陜北幹什麽？”問完問題，他依次看了看三個人，順手把古藺縣的調查報告往桌上壹推，問大家:“這些妳們看到了嗎？”三個人點了點頭。
“是的，我們來陜北，是革命的。現在日本帝國主義和國民黨頑固派正在餓死我們，困住我們。我們做什麽呢我覺得有三條路:壹是革命進行不下去，二是不革命，大家解散回家。二是不願意解散，沒有辦法。大家都在等著餓死。”主席提高了嗓門，接著說:“第三條路是依靠自己的雙手發展生產，共同克服困難。”
小廣金急切地問:“妳說呢，主席？”毛主席笑著對小廣金說，“軍人不也有兩只手嗎？壹手拿槍，壹手拿鋤頭就行了。”
不久，中共中央向全邊區黨政軍民發出了“自己動手，豐衣足食”的口號，壹場轟轟烈烈的大生產運動在陜甘寧邊區展開了。中央和各級領導以身作則加入隊伍，戰士們壹手拿槍，壹手拿鋤頭。
毛主席和朱先生各開了壹塊地。朱先生是農業專家。第壹年，地裏長滿了南瓜、茄子和苦瓜，這讓主席很貪婪。第二年，主席請了壹個楊嘉玲老鄉當顧問，壹有空就去田裏澆水、施肥、除草。很快就有了黃瓜、卷心菜和絲瓜，還有他最喜歡的紅辣椒。
總理和畢實同誌分別從重慶和蘇聯回來。他們每人開了壹塊地，種上了玉米和蔬菜。今年秋天，中央又掀起了壹股紡紗熱潮。1942年，楊嘉玲發起了壹項挑戰，在傳統的八壹運動會上增加了旋轉項目。比賽結果，總理和畢石同誌被評為數量和質量雙達標的紡紗能手，他們的紗線被送到邊境工業展覽會展出。
留守兵團在大生產運動中創造了輝煌的業績。從1939年冬天，三五九旅進入南泥灣，三五八旅進入大小豐川，燒荒開荒，壹年實現自給自足。
1942期間，全邊區開墾近百萬畝，使邊區耕地面積超過1380萬畝，糧食總產量184萬石。全邊區消耗糧食162萬石，余糧22萬石。棉花產量173萬斤，1至9月生產棉布15840塊，自給率73%。
小感到自豪的是，留守兵團已成為陜甘寧大生產運動的主力軍。
八年抗戰期間，小率部保衛延安和黨中央，剿滅土匪，抵抗日寇，解決與國民黨的摩擦，開展大規模生產運動，建立了豐功偉績。抗戰勝利後，小奉命前往東北，擔任東北民主聯軍副總司令兼參謀長。