段琪瑞垮台，日本失去皖系军阀这个得力工具后，就加紧扶持另一个工具奉系军阀。因此，直、奉进入北京共同组阁不久，双方的矛盾就激化起来。由此引发了1922年的第一次直奉战争。直军大胜而奉军溃败，张作霖被撵出关外。直系军阀曹锟、吴佩孚暂时获得北洋政府大权。
直奉战争期间，阎锡山宣布山西严守中立，不允许任何军队开进山西或借道山西。奉行所谓“三不二要”：不入党派，不问外省事，不为个人权利用兵；要服从政府命令，要保卫地方治安。也就是说，不管谁执掌了中央政府权力，阎锡山都表示“服从”，避免成为排斥打击对象；与周围的关系，则主张“与邻省联络，使能不为我患，或竟邻疆乐与合作，进而为我用，代我御侮”。冯玉祥曾电请他出兵帮助直系，被他婉言拒绝。
直系执掌中央政权后，阎锡山表现出“服从”的驯顺。他对直系处处讨好，极力显示出关系密切的姿态。当吴佩孚鼓吹“法统重光”的高调时，他紧跟着通电赞成恢复旧国会；1923年10月，曹锟贿选总统时，山西还提供了50万元的贿选经费。亦步亦趋的小心，换来的却是直系图谋将山西纳入自己势力范围的一次次阴谋，这让阎锡山既头疼又恼火。他先是得到密报，说直系企图削夺其省长的职务；后来吴佩孚又多次施加压力，向山西狮子大开口索要军饷100万元，又索要子弹60万发，使阎锡山穷于应付而深怀忌恨。现实处境的逼迫和威胁告诉他，需要迅速改变以前闭关自守的策略，积极“拉朋友”以加强自己的地位。
美国大力支持直系军阀，先后卖给直系军队步枪万余支，机枪数百挺，并且帮助吴佩孚组织了飞机队。日本为了与英美势力争雄，也积极支持奉系军阀。有帝国主义势力在背后操纵，直奉双方的矛盾日益尖锐。1923年10月，直系头子曹锟以40万元的高价收买国会议长，以每张选票5000到10000元的价格收买议员，在军警的严密监视下，“当选”为大总统。这种卑劣行径，激起了全国各界的义愤。奉系利用四面八方反直的情绪，联络段琪瑞，联络广东以孙中山先生为首的革命派，结成“反直三角同盟”，与直系相对抗。张作霖还暗中联络直系的重要将领冯玉祥，准备里应外合，用武力将直系政府推倒。 此时，山西的阎锡山成为各方极力拉拢的对象。一方面，山西的实力已经为各方看重，另一方面，山西的重要地理位置，更是企图得到北京大权的势力不能不重视的。眼看着山西的身价越来越高，阎锡山认为这是走出山西的大好机会。但在阎锡山的账本中，计利的收入非常仔细而计亏的付出却总要略去。战争必然有胜有负，要能保障自己次次获利，就得保证自己永远站在得胜的一方。面对各方的游说和拉拢，经过精明算计，阎锡山看到局势并不明朗，哪家取胜尚难以预料，因而不能过早地将自己的命运系在任何一方身上。他召集心腹频频开会，一再强调，对付各方说客，必须统一口径：无论哪方的人来，都不能说太肯定的话。我不表示意见，你们也不能表示。
一时间，各方说客纷纷来到太原。吴佩孚的代表顾祥麟曾是阎锡山在日本士官学校时的同学，并在山西做过事，后因吸食鸦片为阎所恶，离开山西后投靠了吴佩孚。阎锡山让部下尽量和他拉紧一点，“叫他在吴佩孚面前给咱们多说几句好话”。并且特别说明，他爱抽大烟，就送他几斤好烟土。见面时，阎锡山表示：老袁死了，老段的力量也分散了，现在玉帅（吴佩孚）是天下一人，我不跟着玉帅走，还能跟着谁走呢？见到段琪瑞的代表张吉士，阎锡山表示：我能帮忙，一定帮老师的忙。有几分力量，一定帮几分。同张作霖的代表于国翰见了面，阎锡山满口答应说：我能帮忙的地方，一定帮忙。孙中山指派张继以私人名义，用同盟会的旧关系，给阎锡山等人写信，要求山西协助北伐，打倒直系。阎锡山亲自拟函回复，表示：孙先生此次参加北伐，革命同志无不欢欣，我们自当尽力相助。阎锡山这样在各派势力之间打太极拳的同时，又向各方派出自己的联络代表，以便进一步摸清各派实力，随时掌握情况，以寻求自己应变的最隹时机和方式。
1924年9月17日，张作霖进军山海关，打响了第二次直奉战争。这是一次大规模的军阀混战，双方投入的兵力达50多万。因为前线战斗激烈，直系屡屡告急，吴佩孚秘密率卫队到山海关督战，北京于是出现了后院起火的迹象。山西驻直方的联络代表台寿铭发回急电，称冯玉祥将要倒戈发动政变，请阎锡山务必注意。阎锡山连夜召集亲信