国民党内冯自由等一批反对“容共”的老党员仍在积极活动。孙中山虽然宣布将冯自由开除出党，但国民党中央执行委员会实际并未执行。冯自由离开广东转赴上海，与田桐、章太炎等一批老同盟会员联络，很快聚集一批同情者。1924年12月，冯自由、田桐、章太炎、居正、马君武、茅祖权、刘成禺、焦子静等在上海以“护党救国”为名，决定“重行集合”。在天津的江伟藩等人起而响应，公开声称要驱逐国民党内的共产分子。北京亦有部分国民党员组成“各省区国民党护党同志驻京办事处”，号称有成员400余人。
1925年1月7日，冯自由等发起成立“国民党海内外同志卫党同盟会”，宣称其行动目标是开除国民党内的共产党员，不信任汪精卫等包办国民党党务。次日，该会与“各省区国民党护党同志驻京办事处”共同集会，并议定联合行动方针，双方决定，暂不直接提出根本否定“容共”政策和驱逐共产派的要求，由两会各自依据“护党”目的，分别公开发表文电，争取全党同情，以确保党权不落入共产党人之手。
