1942年7月，在中共皖中区委领导下，皖中抗日根据地成立了皖中行政公署，吕惠生任行署主任兼皖江人民抗日自卫军司令员。

吕惠生上任后，作为皖中根据地的行政首长，不仅着力于组织动员群众参军、支前，并领导地方武装配合主力作战，还大力兴办工厂，积极发展商业贸易，不但保证了当地新四军第七师驻军的军需供应，更向苏北新四军军部提供大量的财政支持。他认真贯彻党的抗日民族统一战线政策，结交了大批当地爱国民主人士，和他们共商抗日和建设大计；为鼓励生产和改善民生，他认真执行减租减息政策，调动农民生产积极性，深受群众爱戴，被群众亲切地称为“泥腿子专员”。

1943年2月，皖中根据地中心区周边几县发生春荒。吕惠生一面采取各项措施，帮助群众度过春荒；一面积极筹划“大力兴修水利，彻底改变皖江圩田易旱易涝状况”的方案。

在经过反复思考论证和调查研究，并取得区党委同意后，4月21日，吕惠生主持召开了行署财经工作紧急会议，把兴修水利、根治水患摆上议事日程。会议决定：除重建无为县境内3闸工程，开辟黄泥岗河道、开凿湖东的大新圩山河之外，立即展开位于无为县东乡的黄丝滩江堤退建工程的建设。

6月，吕惠生亲自率行署水利委员会的全体委员赴现场勘察，提出了“少压农田、避开险段、直线走向”的基本方案，并就地草拟了黄丝滩退建工程计划，确立了施工基线。

7月，皖中行署成立皖中水利委员会，负责统筹根据地的水利建设，吕惠生兼任水利委员会主任。当月25日，吕惠生在皖江第一届参议会代表会议上，就黄丝滩退建工程提出“自三支笔到孙家土地庙为施工最佳路线”的建议，被代表会议采纳、批准。

黄丝滩江堤退建工程开工后，为了建好这一工程，吕惠生亲临现场勘查，选定最佳方案，精心制订规划，悉心组织施工。施工中，他亲自参与测绘，设计图纸，与民工一起挖土、挑担、打夯。在吕惠生率领下，21万（人次）民工，一面冒着日军飞机轰炸的危险，一面抵御国民党顽固派的骚扰，奋战211天，填埋沿堤大小沟塘30多处，完成土方40.4万立方米，终于筑成一条长12千米，“底宽约十二丈，顶宽二丈四尺，高二丈”的沿江大堤。据当时黄丝滩工程局的工程竣工报告：“此次退建后，新堤（走向）已几乎与江水（流向）平行，堤身不再受江水冲击。新堤较以往任何一次筑堤都坚实。” 1944年5月6日，皖中抗日根据地党政军各界代表召开了隆重的黄丝滩退建新堤落成典礼。

这条大堤的建成，使皖中300余万人民和400万亩农田免遭水患。为了表彰吕惠生在这一工程中的杰出贡献，根据地的党政领导和人民群众，将新建的黄丝滩江堤命名为“惠生堤”。