1925年9月，安源党组织遭到反动军阀的破坏。为保存革命力量，安源党组织及时将人员疏散各地。10月，梅大栋返回旌德，在家乡三都梅村，与芜湖团地委派来协助工作的中共党员曹宣天(与梅大栋是宣城省立第四师范学校的同学，又是在江西安源路矿工作的同事)共同创办了一所农民夜校——旌德三都农民补习学校，先后吸收40多名进步青年农民参加学习。他们以自编的《平民千字课本》教学员读书识字，同时根据当地实际情况就地取材、深入浅出地向大家宣传革命道理，以提高学员的文化水平和思想觉悟。11月，遵照上级指示，梅大栋、曹宣天决定在夜校学员中发展一批进步青年入党。梅大梁、王士桢、朱观发、朱明林、朱甲、程朝干、张照谟等7名新党员站在马克思银像前，面向党旗，进行了庄严的入党宣誓。中共旌德三都农民补习学校支部正式成立。

中共旌德三都农民补习学校支部共有党员9人，梅大栋、曹宣天为支部负责人，支部直属中共中央局领导。该支部是中国共产党在皖南建立的第一个党支部。

党支部成立后，立即召开会议，作出决议，决定开展宣传，传播马列主义；建立农民协会，打击土豪劣绅；进城办书社，发行进步书刊；选派骨干去外地学习；组织工会、妇女协会、农民自卫军，开展革命活动。11月25日，梅大栋、曹宣天利用赶庙会的机会，带领夜校40多名学员，扛着镰刀铁锤图案的红旗，到县城进行宣传，呼喊“马列主义万岁”“列宁精神不死”等口号，高唱《八平歌》《农夫四季歌》《革命歌》等革命歌曲，传播革命思想。党支部、农民补习学校的革命活动，引起土豪劣绅的恐慌。劣绅方楚平向官府密报：三都梅村“赤化”了。1926年3月，三都农民补习学校被反动政府查封，只得停办。

党支部并没有因此停止工作，他们转移到县城继续开展革命活动。这时，曹宣天已被调回芜湖。梅大栋在县城开办了“辅仁书店”，作为党支部的秘密机关和进行革命活动的联络点。他和朱观发一起，继续进行党的工作。7月，中共党员谭梓生从上海法政大学毕业回到旌德，协助梅大栋工作，也成为支部负责人。他们在下洋、三溪、朱旺等地开办平民夜校，设立售书分店。在短时间里，就出售《资本论》《共产党宣言》《无产阶级之哲学》《唯物史观》《农民纲要》《新青年》《孤军》《前锋》等革命书刊，以及鲁迅、茅盾、邹韬奋、高尔基等人的名著等共3000余册，使马克思主义在旌德得到广泛传播，使更多的人掌握革命的思想武器。

随着革命理论的传播，党组织也得到发展壮大，梅大栋在城里发展王庭甫、汪君实等人入党，谭梓生在西乡下洋吸收谭笑萍、谭铁肩、谭冰瓯等人入党，旌德县党员很快发展到30多人。在党组织发展的同时，各种群众组织也得到相应发展，到1926年底，旌德县农民自卫军发展到800多人，开展了斗土豪、砸盐卡活动。同年10月，梅大栋被组织派往武昌工作，旌德中共党组织由谭梓生、王庭甫等人负责。

其后，宣城境内其他地方党组织先后建立。1927年9月，中共郎溪县特别支部建立。同年11月，中共宣城（原宣城县）独立支部诞生。1928年11月，中共泾县双花园支部成立。1929年2月，中共广德特别支部建立。同年3月，中共宁国特别支部建立。1931年夏，中共绩溪支部成立。