经过反复盘算，阎锡山终于定下了主意，第一件事，就是厚起脸皮，亲往冯玉祥处负荆请罪。面对恼怒不已的冯玉祥，他做出后悔莫及的姿态，痛哭流涕地表示：“大哥来山西后，自己有二件对不起大哥的事。一是大哥通电反蒋，山西没有马上出兵，使大哥受了不少委屈；二是宋哲元出兵讨蒋，山西没有响应，使西北军兄弟受到损失。如今，小弟才真正明白，只有反蒋到底，才有一线生路。请大哥速回潼关，发动军队。这一次，小弟一定同生死，共患难。从今以后，晋军吃什么，穿什么，用什么，大哥的军队也吃什么，穿什么，用什么，一律待遇，决不岐视。此心耿耿，唯天可表。如果大哥仍不原谅，小弟只有在大哥面前自裁，以明心迹。”
冯玉祥看着他半真半假的表演，心里自是厌恶，他当面批评阎奉行的是“骑墙政策”，并提出忠告说：“毒蛇螫手，壮士断腕，当断不断，反受其乱。”但返回来一想，无论如何，当前蒋才是西北军的头号敌手。要反蒋，还是得联阎。再者，阎反复无常的表演现在已经陷于绝地，再精明再狡猾，谅他这次也无法骑墙变脸，再也难以使出骗人的花招来。于是，冯也就假戏真做，大度地表示只要能齐心协力共同倒蒋，过去的事就不再提了。
为形势所迫，阎锡山终于走上坚决反蒋的道路。
阎锡山在1930年2月下了倒蒋的决心
阎锡山比其他军阀高明一筹。决定反蒋之后，他不仅大力进行军事上的筹划和准备，而且也十分重视在政治上取得资本和主动。军事上得到冯玉祥的支持并加紧与各派军阀勾结，政治上则设法联络在国民党内有影响的人物汪精卫。孙中山先生逝世之后，汪精卫和蒋介石几次分分合合，核心在于争权夺利。汪在国民党内资历很高，但他手中没有军队；蒋从办军校、建军队起家，手中有了别人指挥不动的枪杆子，为所欲为，独裁专横，不可一世；汪以坚持孙中山先生“联俄联共扶助工农”三大政策的传人自居，不肯屈居附庸。早在1928年，以汪精卫为领袖的“中国国民党改组同志会”就已成立，改组派由此得名。而在国民党的“三大”上，改组派的主要人物，或被开除，或被警告，完全成为蒋介石的公开对立面。改组派以“反对恶化腐化势力，唤醒并组织社会上一切民主势力，实现国家外交、军事、财政、政治各方面的统一，打破割据局面”为政治口号，汪精卫也以“护党救国”的精神领袖的身份与蒋对抗。此时，汪精卫携同几个与他亲近的中央委员，正蛰居在广州、香港，待机而动。阎锡山想把党的旗帜也抓到自己手里，以扩大影响和号召力，就积极与汪精卫联络，共同反蒋。而以戴季陶为首，早在1925年就以反对联俄联共为口号的组成的国民党老右派“西山会议派”也不断策动反蒋，自然对阎锡山也吹捧有加。此时，国民党内的左、右两派就都聚集到了阎锡山周围。可谓实现了反蒋力量的大联合。为了搜罗和联络更多的反蒋力量，阎还委派原山西省党部委员李冠洋到北平组织所谓“新民读书会”，用以联络散在各地的受蒋排挤和有反蒋情绪的国民党党内同仁。
“新民读书会”在北平活动了三个多月，联络到三十多名反蒋同仁，其影响甚至远及日本。在日本的反蒋人物也远道回国，前来参加。经过“学习讨论”，在阎的指导和操纵下，读书会总结出两项结论：一是认为中国不存在阶级，只有大贫和小贫。肯定孙中山先生的理论。阶级斗争学说，不适合于中国革命；二是认为国民党的基础，是全体劳动人民。脑力劳动者和体力劳动者，在推动历史前进上有同等的重要性，而没有差别，两者是相辅而行的。政治属于全民性的，是孙中山先生所说的“管理众人的事”。依据这个结论，国民党应为代表全体劳动人民的利益而奋斗。阎锡山对此大加赞赏，并以此为“理论”，倡议组织“劳动国民党”，为自己在政治上另立山头准备条件。
为给军事行动制造舆论，阎锡山发动了对蒋介石的政治攻势。先是针对蒋介石气势逼人的“武力统一”的方针，打出争取人心的“和平统一”的旗帜，说“戡乱不如止乱，不止乱而一味戡乱，国内纷乱，将无已时”，将制造动乱的帽子扣到蒋的头上，义正辞严地要求蒋“礼让为国”，迅速下野。蒋介石予以驳斥，宣称：“舍以武力制裁之外，更有何求以实现和平统一之目的？”阎装腔作势，作出以天下为重，个人在所不计的姿态，提出要与蒋共同引退。组建元老院或枢密院，蒋、阎、冯和李宗仁一起进入，脱离军队，以