节节败退 只身逃出太原
不甘心失败的阎锡山，还企图扭转战局。1947年元旦，他连续发表三篇文告，吹嘘将此年定为“复兴年”。晋绥军再次与胡宗南的中央军配合，调兵遣将，妄图收复晋西。人民解放军太岳军区和吕梁军区则集中兵力，挥戈东向，向着晋绥军兵力薄弱的地带进攻，迅速攻克孝义，并逼近汾阳城下。孝义失守，就意味着阎锡山在太原周围的晋中地区的防线被打开一个缺口。阎锡山得到败兵的报告，十分恐慌，连夜从太原赶赴平遥，亲自坐镇督战调集大量援兵，企图收回孝义，解除汾阳之围，把行将溃决的防线稳住。解放军发起汾孝战役，仅仅11天，就将阎锡山的主力部队消灭了11万余人。
1947年3月之后，蒋介石全面进攻解放区的战略遭到彻底失败，被迫改为重点进攻。为了配合陕北解放区的作战，解放军太岳、晋绥军区在山西战场上连续发动晋南、乡宁、正太、运城等几个战役，歼灭了晋绥军大批有生力量，晋南重镇运城被解放，临汾成为一座孤城。正太线沿线300多里被解放军控制，太行、冀晋两解放区也连成了一片。阎锡山被打得目瞪口呆，除了大骂部下之外，再也拿不出什么妙招。1947年不仅没有成为他的复兴年，反倒成为他走向最后末日的转折年。
1948年2月，解放军发起了临汾战役。在山西全省的地图上，南边的临汾，北边的大同，是省城太原的南北屏障，也是山西境内南北两翼的中心。经过多年经营，临汾城周围建立起了坚固的工事，城墙又建筑在一个大土丘上，易守难攻。激战展开后，连蒋介石也惊慌失措，忙给阎锡山打气，宣称要“决心保卫临汾”，请美国陈纳德的飞行队派飞机助战，阎锡山则连续给驻防军司令梁培璜打电报，声称保卫临汾就是保卫太原，恶恨恨地令他“人尽物尽，城存成功，城亡成仁”，只能死守到底。梁培璜表示要与临汾“共存亡”，并在自己的床下堆了柴草，备好了汽油，显示与临汾共存亡的决心，同时就给部下下达了所谓“八杀”令：奉令进攻延迟者杀；奉令赴援延迟者杀；未奉令放弃守地者杀；邻阵被攻有力不援者杀；邻阵被陷不坚持本阵者杀；滥行射击虚报弹药、阵前无敌尸者杀；谎报军情企图卸责者杀；主官伤亡次级不挺身代行职务者杀。除了用一个“杀”字逼迫部下卖命之外，这位司令没有其它命令可发，充分暴露了在解放军的强大攻势面前，已经陷入完全绝望的状态。而最后的结果又极具讽刺意味：临汾城被攻破之时，这位晋绥军第六集团军中将副总司令并没有杀身成仁的勇气，而是乖乖地举手当了解放军的俘虏。临汾解放后，阎锡山失去了晋南，吕梁、太岳解放区连成一片。至此，山西全省只有北边的大同一座孤城，太原及太原附近的晋中地区若干县还在阎锡山的控制之下，阎锡山的统治岌岌可危了。
面对一连串失败，阎锡山倒也还有点自知之明，他不得不承认解放军成功地运用了运动战，“能把孙子的‘善攻者，动于九天之上；善守者，藏于九地之下’从未实现的兵法，实现在他的军队中。”而自己的军队，“有飞机，有大炮，占了这飞机大炮的光，学下个守；受了飞机大炮的害，没有学下个跑。”结果是落下两条死路：分散开叫人打死，集结起来自己饿死。不能说他的这些总结没有道理，但他不可能懂得，与人民为敌，与历史潮流对抗，即便学会跑也还是个死。
解放军在解放临汾后，稍作休整，就挥师北上，准备与阎锡山的晋绥军在晋中决战。6月18日，晋中战役正式打响。解放军总兵力6万多人，而阎锡山方面包括地方团队总兵力在10万以上。在徐向前指挥下，解放军连战连捷，消灭了阎锡山的王牌军“亲训师”，击溃了晋绥军主力赵承绶的野战军，赵本人也当了俘虏。历时一个多月的晋中战役结束，阎锡山的10万大军被消灭，31名高级将领被击毙或俘获，晋中14座县城被解放。太原成为一座孤城，阎的主力丧失殆尽。他所能控制的区域，只有南北约60公里，东西约50公里的一个狭长地带了。
太原是华北军事战略要地，东临地形复杂的罕山，城西有汾河作为天然屏障，河西20公里处又是山地。这种地形，决定了太原易守难攻。阎锡山从开始统治山西起，就利用城周围的有利地势，不断构筑和加强城防工事。抗战胜利返回太原后，更是大修碉堡，并自命为“碉堡战法”。太原有当时堪称强大的兵工厂，钢铁、水泥等建筑材料充裕。为了建筑碉堡和城防工事，所产出的建材，没有阎锡山的亲自批准，一律不准用于其它。在修碉堡的问题上，阎锡山确实费了不少心血。他认为：“共产党凭的人多，用的是波浪式冲锋的人海战术，所以到处取胜，谁防不住这一手，谁就要失败。我们一定要凭借碉堡群组成的据点工事，充分发挥火力，做到以铁弹换肉