1925年底，共产党员黄日葵受中共北方区委派遣，前往广州任共青团广东区委学生运动委员会书记。时值第一次国共合作时期，黄日葵于1926年1月参加国民党“二大”，被选为国民党中央党部青年部秘书，同时兼任童子军委员会委员、政治训练处主任等职。其间，他积极开展青年运动，在国民党广东省党部宣传部和青年部举办的讲习所，讲授《国际社会运动史》等课程，通过讲坛向青年传播马克思主义思想。

1926年3月，广东、广西实现统一，广西的新桂系军队改编为国民革命军第七军，李宗仁任军长，黄绍竑任副党代表。国民革命军总政治部派黄日葵任第七军政治部副主任。7月，黄日葵离开广州前往广西赴任。

黄日葵一到军中，就废寝忘食地开展工作。他首先将他从广东带来的部分共产党员、共青团员有意识地安排到第七军政治部下设的各科、各股工作，并要求每一个党员、团员：要以身作则，要密切联系群众，和士兵打成一片，处处做出榜样。

黄日葵平时和蔼可亲、没有一点官架子，一有时间就和第七军官兵们接触谈话，关心他们的疾苦，同时宣传革命道理，启发官兵的政治思想觉悟，因此深受官兵们的尊敬和爱戴。黄日葵还办了一份《士兵生活》周报，通过刊物向士兵进行革命教育，宣传官兵平等新理念，很受士兵的欢迎。在黄日葵等的努力下，第七军官兵的政治生活日益活跃，部队与群众的关系也日益改善。同时，他还抽出时间到国民党左派俞作柏任校长的黄埔军校南宁分校去讲课，向学生们传播革命思想以及孙中山的“联俄、联共、扶助农工”政策，并在军校中发展了周飞宇等多人成为中共党员，促使军校中的革命气氛日益浓厚。

在广西工作期间，黄日葵认真执行中共中央的指示，团结广西的国民党左派力量，同破坏国共合作的国民党右派势力作斗争，推动了广西中共党组织的建设和工农群众运动的发展。

广西革命形势的高涨，引起了国民党右派的敌视。1927年初，广西当局借口北伐需要，命令黄日葵率领北伐慰问队到北伐前线“劳军”。慰问队到达芜湖即被解散。“四一二”反革命政变前，黄日葵已觉察到了反动派的阴谋，机智地从芜湖乘船到上海，躲过了反动派的追捕。不久，他转到武汉，任国民革命军第八军党代表。

“七一五”反革命政变后，黄日葵按上级指示，赴南昌参加八一起义，任起义宣传委员会委员。起义军南下后，黄日葵先后在各地继续开展革命活动。1928年2月，黄日葵召集在上海的广西同志，联名撰写了《给中央的报告——广西的组织情况、工农运动及对今后工作的意见》，总结大革命时期共产党人在广西工作的情况和经验。