1929年6月，中共鄂西特委将鄂西游击大队编为鄂西游击总队，将第一中队扩编成鄂西游击总队第二大队，辖3个中队，段玉林任第二大队大队长。

段玉林和不久前来到洪湖地区工作的许光达、孙德清一起，领导部队战士们开展军事、政治整训。经过一段时间的整训，第二大队的军政素质有了显著提高。

随后，段玉林派各中队分别深入到监利县沿江地区和石首县小河口一带进行革命宣传，发动群众，协助当地农民恢复农民协会，建立赤卫队武装，开展打土豪和减租减息斗争。

7月初，段玉林率部粉碎了敌人对小河口根据地的“围剿”。随后，他率部进至沙口子，消灭敌一个连的兵力，缴获新枪70多支。8月初，他率队和当地赤卫队员于季家嘴一线，拦截了敌一艘运送武器的轮船，缴获90支步枪，11箱子弹和一个押送排的武器。

8月，国民党独立十四旅和新编第一师等部，纠合沿江各县地主武装，以重兵向江陵、石首、监利、沔阳、华容根据地疯狂“清剿”。段玉林指挥二大队，与敌人周旋数日后，在一弓堤设伏，把企图偷袭冯家潭红军医院和兵工厂的敌军一个营全部歼灭。尔后，游击队转战华容，出奇制胜，全歼敌两个民团。

不甘心失败的敌人集结兵力，向段玉林领导的游击队发动更大规模“围剿”，石首县的敌团防局长张家春纠集石首和藕池的团防兵300多人，于11月23日乘船向小河口进攻，扬言要在三天之内把小河口的革命武装“一扫光”。

段玉林在接到侦察员和群众的敌情报告后，立即和许光达、孙德清进行了研究，很快确定了一个“瓮中捉鳖”战术。

24日上午8点多钟，张家春亲自带领敌人乘船在老关靠岸，向小河口扑来。当这伙敌人进到离小河口数百米的地方时，遇到了游击侦察小组的“抵抗”。敌人不久便“打退”了游击侦察小组，向村内冲来。敌人来到村口时，又听到了几声稀疏的枪声。张家春以为村内游击队人数不多，便留下100多人在村外“扫清”游击队的阵地，由他亲自带领200多人冲进村里。进村后，由于道路崎岖狭窄，张家春就把团防兵分成几股，沿着各条小道在村中搜查游击队，但找了半天，不仅游击队员，连村民也没发现一个。

此时，埋伏在村外的段玉林见时机成熟，立即命令展开进攻。游击队员先将村口用火堆封锁，断敌后路，然后分成3队，迅速将敌人分割包围。敌人彼此孤立无援，很快被消灭大半，张家春被游击队俘虏。

村外敌人发现主力被包围，立即向江边逃窜，好不容易逃回岸边，正要开船逃命，发现轮船的螺旋桨不知何时已被破坏。段玉林和游击队员们随即赶到，立即发起猛攻，同时派出数艘小船在上下游实施堵截。船上的敌人乱作一团，不久便举手投降。此次战斗，游击队全歼来犯之敌，缴获轮船1艘，拖船3只，机枪4挺，长短枪200余支以及大批军需物资。