山东纵队挺进支队编入苏鲁豫支队后，陇海路以南的原湖西人民抗日义勇总队萧铜第十八大队、萧县第二十大队等部，仍以人民抗日义勇队的番号，由耿蕴斋、孙象涵、张如、孙鹤一带领到陇海路南继续活动，再图发展，开辟新的抗日区域。后来，经过3个月时间，队伍发展到了2000余人，另外还有十多个50人以上的游击小队，从陇海路南道津浦路东，到处都是义勇队的武装。人民抗日义勇队二总队的旗号再次打出，耿蕴斋任总队长，孙象涵任副总队长，张如任政委，孙鹤一任参谋长，耿荆山任政治部主任。
耿蕴斋，曾任国民党萧县区长达八年之久，封建、落后的旧意识很浓。他根本不愿脱离家乡，更不愿积极抗日，扩展抗日根据地，只想把手中的武装变成他地主家庭的看家队。
1939年1月，彭雪枫率新四军游击支队司令部及随营学校进驻书案店，湖西人民抗日义勇队第二总队第二十九大队队长鲁雨亭闻讯，即派陈建平前往联络，并派30多名青年到八路军苏鲁豫支队随营学校学习，并接纳共产党员到本部发展党组织，开办训练班。协助八路军苏鲁豫支队打击日军。
1939年春，李贞乾率领改编后的苏鲁豫支队（即挺进支队，代号“嵩山支队”）挺进陇海路南，通过孙象涵做耿蕴斋的工作，希望所部能接受八路军的改编。
孙象涵建议让陇海路以南的原第二总队萧铜第十八大队、萧县第二十大队等部接受改编，耿蕴斋拒不接受副总队长孙象涵的合理意见。
孙象涵无奈，只好与李贞乾商议，决定留在陇海路南，坚持在本地抗日，发展义勇队队伍。
李贞乾只好将原湖西人民抗日义勇队的部分精良武器送给了孙象涵的警卫连。
1939年3月，115师代师长陈光、政委罗荣桓率领师部六八六团和补充团进入到了鲁西北和沂蒙山区，在恽城、宁阳、汶上等地连打胜仗，歼灭了伪军2000多人。胜利消息传来，苏鲁豫支队知道是师部到了，于是立即发电联系。很快师部就来了命令，要苏鲁豫支队将挺进支队正式编入苏鲁支队，统一对湖西地区抗日武装的领导。接到师部命令，彭明治、吴法宪立即向湖西特委作了通报，并随即将挺进支队改编为苏鲁支队的第四大队，由李贞乾任大队长，郭影秋任政委，李发任副大队长，孙鹤一任参谋长。
籍兴科起义后，由于郭影秋到独立大队担任政委，苏鲁豫支队四大队的政委就由暂由李贞乾兼任。不久，苏鲁豫支队将支队下属原相当于营级建制的四个大队，改编为相当于团级的建制，并在每个大队下编四个营，每个营下编四个连。独立大队编入三大队，大队长何玉祥，政委郭影秋。编入三大队下属的一个营，由何玉珏任营长。
李贞乾以湖西人民抗日义勇队为基础，为苏鲁豫支队输送了大量兵员。在崔韩庄战斗后，苏鲁豫支队派石英协助丰县县委发展抗日武装，首先在丰县四区建立了20多人的游击中队，队长裴忠勤，指导员江兆瑞。不久这支武装转移到丰、单、砀三县接壤地区，发展到7个中队，编成游击第二大队，大队长郭延方，裴忠勤的中队改编为游击二大队四中队。
春，苏鲁豫支队支队长彭明治与李贞乾商议，派石英在丰县东南地区扩充兵员，李贞乾派出原湖西义勇队的老战士叶道友等，并通过统战关系，配合石英工作。在李贞乾和丰县七区区委书记胡光耀（王光中）的帮助下，经过一个多月的努力，近千名青年踊跃报名参军，先后发展了11个中队。在“有枪初枪，有钱出钱，全面抗战”的口号鼓舞下，一些开明士绅也送子弟参加了八路军。这批新兵被编入了苏鲁豫支队第三大队，代号为“乌江大队”，大队长叶道友，政治主任石瑛，副大队长周良贵。沛县小李寨中队为第一中队；铜北的千里井中队为第二中队，指导员丁光辉；石城中队为第三中队，副中队长潘黎明；丰县鬼毛庄中队为第四中队；宋楼中队为第六中队；尹小楼中队为第七中队。
1939年3月，日均三泽大队近2000人，又纠集丰、鱼等县伪军1000多人频繁向微山湖以西及丰、鱼以东抗日根据地进行疯狂扫荡，妄图赶走苏鲁豫支队。
苏鲁豫支队三大队在谷亭南的赵庄、唐马庄一带勇猛地进行了反扫荡，毙伤敌600余人，给伪军以歼灭性打击。
一天上午，苏鲁豫支队一大队奉命西进单县，经过丰县华山时，与日伪军一部相遇。
为了不影响大队行动目标，大队长胡炳云立即命令二营阻击敌人，以掩护大队安全转移。
二营营长张万春率部抢占华山制高点，击溃了敌人的数次进攻，歼敌数十名，战士牺牲4人。至傍晚，残敌撤出战斗。
苏鲁豫支队一大队则在丰县西南三十里庙至砀山一线同在坦克、骑兵、炮兵掩护下的300多日均进行了英勇的激战，毙伤日伪军300余人，击毁坦克一辆，并乘机奔袭了砀山和李庄火车站的日军据点，毙伤日伪军数十人，沉重打击了敌人的嚣张气焰。
在巩固和发展湖西抗日根据地的同时，苏鲁豫支队曾多次寻求向南发展的机会，部队就曾两次南下越过陇海路进入过萧县境内。
第一次越过陇海路，是应萧县县委之请。抗战开始以来，萧县的形势一直比较好，差不多整个县都在我们党的领导和控制下。萧县县委书记李中道，县长叫彭笑干，由于萧县距徐州较近，敌伪活动很厉害，这也给萧县县委的工作带来了困难。听说苏鲁豫支队到了湖西，从1939年3月起，县委就再三派人来，要求鲁豫支队派一部分队伍南下支援他们。
经支队军政委员会讨论，决定派支队副支队长梁兴初、政治部主任王凤鸣率二大队越过陇海路，去萧县开展工作，同时侦察了解情况。
半个月以后，他们回来报告说，陇海路很好过，只要两边搞好警戒，一下子就过去了。到了萧县以后，在县委提供的情报和带领下，半个月内打了好几仗，这里二百，那里二百，把一些土匪、汉奸的队伍打掉之后，局面就打开了。梁兴初等人还反映，在萧县搞枪很容易，那里村村寨寨都有国民党军溃败时扔下的枪支，那时发展部队，多么需要枪呀！二大队南下只半个月，就搞了十几挺机枪和几百条步枪。他们认为，在安徽宿县、河南永城等地区，尽管汉奸｀土匪活动猖獗，但如果支队主力南下，相信很快就可以打开局面。
听了汇报，吴法宪和彭明治商量后认为，根据八路军总部和115师师部的指示精神，在湖西地区局面基本打开以后，队伍可以而且应该继续向南发展。于是他们向苏鲁豫特委提出，留四大队一部在湖西坚持斗争，苏鲁豫支队的全部主力南下，往豫东、皖北方向发展。
4月初，彭明治和吴法宪率领一、二、三大队和独立大队开始越过陇海路南下。铜山以南、宿县以东、灵壁以西地区的伪军和土匪队伍消灭掉，压缩敌占区，扩大抗日根据地。苏鲁豫支队主力很顺利地过了陇海路，之后又在地方党组织的帮助下，在徐州和宿县之间的夹沟顺利通过津浦路。在津浦路东第一个袭击的目标是位于濉唐河边的灵壁重镇时村这里设有一个收税大卡，驻有伪军三百多人。当天晚上，彭明治和吴法宪亲自指挥三大队向时村发起突然攻击，三百多名伪军全部被消灭，缴获了步枪300余支，机枪7挺，子弹上万发，另外还有包括布匹、食盐等大批资材。
苏鲁豫支队在时村住了大约一个星期，就又回到津浦路以西，开始向豫东方向推进，一直前进到了永城。苏鲁豫支队南下后，一直都很注意与彭雪枫支队取得联系，后来得知，彭雪枫支队还在平汉路以东，相距较远，相互之间一时联系不上，于是向东走了一圈，最后回到萧县。
回到萧县时，中共苏鲁豫特委刚刚改组为苏鲁豫区党委，区党委书记仍为白子明。
由于八路军苏鲁支队两次南下，威胁到了历来兵家必争之地的徐州，从而引起了日军的注意。为了加强守备，日军不仅将沿津浦路｀陇海路一线的各个据点都增加了兵力，而且在丰县、沛县也增加了部队，准备对湖西根据地进行“扫荡”。
苏鲁豫区党委听说日军即将对湖西抗日根据地发动“扫荡”，就要求彭明治和吴法宪返回湖西地区，准备反击日军的“扫荡”。
于是，苏鲁豫支队即刻返回湖西。走丰县南部，顺路消灭了那里的一部份伪军以后，就回到了湖西和区党委会合，并休整了一个时期。不久，日军湖西地区的“扫荡”终于开始了。
日军的这次“扫荡”，主要依靠汽车来完成，而且攻击的对象也包括国民党县政府的部队。一开始，敌人是坐着汽车出来“扫荡”，沿着公路跑一圈就回去，打都不好打。
大家认为，平原地区，村子稠密，大车路、公路四通八达，汽车到处都可以通。只要有路的地方，他的汽车就一定比人跑得快。苏鲁豫支队白天不能转移，一转移就很可能会暴露目标，就会有伤亡。所以，部队到了一个村子以后，就必须得在那里坚守一整天。针对这个问题，大家进行了热烈的讨论，最后终于找到了一个办法：挖沟。
湖西地区是平原，既不利于部队隐蔽，也无险可守，但是可以挖沟，让村与村之间都以深沟相通。这样，一则部队可以利用这个地形来有效袭击敌人，二则在日军“扫荡”时，老百姓可以从沟里跑掉，以减少损失。最主要的，我们在公路和大车路上挖出的沟，可以使日军的坦克、汽车不能够横冲直撞，从而让敌人的坦克、汽车无用武之地。总结了前一段反“扫荡”的经验之后认为，一定要动员群众，把村与村之间的道路，统统挖成沟。挖沟的具体任务交给了支队副参谋长黄纬华，让他去组织调查研究，画出路线图来，并具体组织实施。先动员几个村子，挖出个样板来，然后要各县来参观学习，统统按照这个办法来搞。
在区党委的支持和推动下，在群众的积极努力下，时间不长，整个湖西地区村与村之间的沟都挖通了。当时，大家管这种沟叫“抗日沟”。
1939年4月初，苏鲁豫支队电请八路军集总和115师批准，调整部队活动区域。命令苏鲁豫支队主力往南，向豫东、｀皖北方向发展，尽快与彭雪枫取得联系，以配合彭雪枫部打开平汉路以东、陇海路以南、津浦路以西、大别山以北这一大片地区的局面。
根据山东军区的指示，山东纵队挺进支队会同苏鲁豫支队南下，配合彭雪枫的新四军作战。山东纵队挺进支队代号为“嵩山支队”，由李贞乾任支队长兼政委。
苏鲁豫支队立即决定兵分两路：因李贞乾率领挺进支队主力要随苏鲁豫支队南下，便将并入苏鲁豫支队原四大队人马留在湖西地区坚持斗争。为加强四大队的力量，再从其它三个大队各抽一、二个老连队，编入四大队，并留下支队副支队梁兴初、政治部主任王凤鸣，由他们兼任四大队的大队长和政委。另外，立即给湖西区党组织一个警卫营，同时把各县的游击大队也都划归区党委直接指挥，以保证区党委能安全开展工作。
所有南下部队集中在单县、丰县和砀山之间，然后用一个晚上的时间，全部越过陇海路，进入到皖北萧县境内。
1939年5月，苏鲁豫支队主力进至津浦路东的张山集、椿树房、冯山、柏山一带活动，一部伸到宿迁北部的骆马湖、渔沟、双沟一带。徐州、宿县、灵壁的日伪军受到震惊。
5月13日，孙象涵所率领的东进部队，奉命返回路西与萧县人民抗日义勇队2总队主力会合，在肖二区梧桐、陶墟、土型一带进行整编，萧县人民抗日义勇队2总队正式改编为“八路军苏鲁豫支队游击七大队”。大队长耿蕴斋，副大队长孙象涵、政委兰庭辉、主任耿荆三。下辖3个营，每营4个连。
苏鲁豫支队各部相继转移到津浦路西僖山（河南永城属）、黄里（江苏萧县属）一带休整，对所属部队进行整编，支队扩编为旅的形式，大队扩编为团的形式。
苏鲁豫支队依托湖西根据地，纵横陇海铁路南北、津浦铁路东西广大地区，作战70余次，歼日伪军近3000人，创建了包括20余县的苏鲁豫边区根据地，部队也由初来时的1700余人猛增至近万人。
为贯彻落实中共中央指示，苏鲁豫支队重新研究了向徐州东南地区出动的路线和时机。鉴于支队整体运动目标较大，易被敌人发觉，确定第四大队回师陇海路北，
在湖西地区坚持斗争。第一大队随中共苏皖边省委书记张爱萍跨越津浦铁路，进入灵壁、泗县一带活动；支队主力留在津浦路西、陇海路南的苏皖边地区，消灭边境地带各据点的伪军和维持会，打开豫皖边的局面，以沟通与新四军彭雪枫支队的联系。
