1944年11月，以八路军第三五九旅为主力组建的国民革命军第十八集团军独立第一游击支队(以下简称南下支队)，在司令员王震、政委王首道率领下，从延安出发，一路南下。进入湖南后，经报中共中央批准，支队取消了原番号，改名为“国民革命军湖南人民抗日救国军”。为了深入湘中开辟敌后抗日根据地，南下支队决定派队伍进驻湘阴敌后地区。1945年4月2日，熟悉湘阴情况的杨宗胜、吴光远率领南下支队第六支队100余人，穿过敌人防守空隙，到达湘阴，很快建立了中共湘阴县委和湘阴县抗日民主政府。

湘阴县抗日民主政府成立后，第六支队领导经过分析，决定运用党的抗日民族统一战线政策，瓦解敌人的营垒，扩大抗日力量。经过六支队和地下党、进步人士的多次思想工作，身为湘阴县日伪县长兼保安司令的左钦彝，认识到只有弃暗投明，才是唯一的出路。于是，他写了一封信给杨宗胜，表示愿意率部起义，接受抗日民主政府的领导。左钦彝率领所部起义后，该部被改编为湖南人民抗日救国军第一师，左钦彝任师长。为有利抗日斗争，杨宗胜派了一批干部到左部协助工作，并要求左部表面上仍然打着日伪旗号，暗中配合六支队打击日伪军。

左钦彝起义后，将保安队符号、袖章、口令送给第六支队的侦察员，使他们在南至长沙，北通岳阳的敌占区通行无阻。他积极配合六支队打击敌人，经常派人密送情报。当日军出动“讨伐”六支队时，他便及时通风报信，甚至让六支队指战员隐蔽在他的据点里。在左钦彝配合下，第六支队留在湘阴地区艰苦战斗了5个多月，成功开辟了湘阴敌后抗日根据地，与日伪军进行了数十次战斗，屡战屡胜，成为威震湘东的一支抗日劲旅，队伍也日益壮大。

日军屡次遭到六支队的打击后，对“毫发无伤”的左部产生了怀疑，便派杨姓特务到左部当翻译，行监视之实。左钦彝识破后，处处提防。一天，杨姓特务侮辱妇女，被左钦彝捉住，当着日军军官的面将其枪决；接着，又接连铲除了湘阴县的多名与日军“密切合作”的汉奸、土匪头子、恶霸。

第六支队还通过左钦彝的介绍，派副政委罗振坤带领几名地下党员，打入驻长沙日伪“和平军”毕坊清部，成功策反了该部5个团5000余人起义。起义后，毕坊清部被改编为湖南人民抗日救国军第二师。

不久，抗日战争胜利，左钦彝奉命率部随第六支队北返，并在与六支队的联欢会上正式宣布武装起义。