1926年7月，国民革命军出师北伐。消息传到安徽合肥，国民党左派、进步人士许习庸立即召集了一批革命人士，积极策反各乡区的民团，准备择机起义占领合肥，迎接北伐军的到来。

10月，北伐军占领武汉后，革命形势迅速发展，许习庸等人认为武装起义时机已经成熟，于是派董伯荣前往武汉，向国民党安徽临时省党部请示。

国民党安徽临时省党部听取董伯荣的汇报后，对合肥的武装起义准备工作表示满意，当即指令国民党员许习庸、董伯荣，共产党员蔡晓舟、聂鹤亭、郑鼎等为负责人。不久，蔡晓舟、聂鹤亭、郑鼎秘密来到合肥，同许习庸等人在合肥北乡组织了以寿县古渡岗李雨村民团和合肥东乡民团为基本力量的地方武装，并制定出寿县、合肥的武装起义方案。

11月11日清晨，合肥县衙突然命令参加起义部队即刻移防回城。许习庸立即赶往古渡岗，向蔡晓舟、郑鼎报告了情况。蔡晓舟等经过分析，判断敌方可能获悉情报，决定立即宣布起义。

各路起义队伍300余人，当晚星夜兼程向吴山庙小营盘集结待命。12日，蔡晓舟等人在吴山庙小营盘树起革命军旗帜，宣布起义，并成立“国民革命军安徽讨贼第四路军”，推举蔡晓舟任司令，郑鼎为指导员，许习庸为副司令，董伯荣为参谋长，李雨村为总参议。根据郑鼎的意见，对起义队伍进行了一个多星期的革命教育和组织整顿，公布了起义军的纪律。

合肥城内的敌人得到吴山庙起义的消息后，急电安徽军阀调兵援助。按照预定行动计划，起义军于11月23日凌晨4时许整装出发，准备进攻合肥城。天刚拂晓，安徽军阀调集一个旅的兵力赶到合肥北乡四十埠，用大炮连续向小营盘方向轰击。起义军在枪林弹雨中，勇猛迫近四十埠，与守敌展开激烈的战斗，攻克了敌人的外围阵地。

安徽军阀得到报告后，急调3个团并配以多挺机枪赶来增援。起义军和敌人激战终日，终因寡不敌众、子弹短缺，不得不于傍晚撤回古渡岗。起义军撤退到古渡岗后，安徽军阀立刻调集大军“围剿”。为保存有生力量，起义军司令部经研究决定：部队化整为零，疏散隐蔽，伺机再起。蔡晓舟、聂鹤亭、郑鼎、许习庸等前往武汉，加入了北伐军，继续开展革命活动。

吴山庙起义“打响了合肥地区推翻军阀统治的第一枪”，不仅策应了国民革命军北伐，更成功鼓舞了安徽人民斗争的勇气，点燃了江淮大地迎接北伐胜利的革命火种。