因为在家里被债务所迫，还是没有什么办法，阎万喜和父亲只得外出谋生，来到了太原。在太原，阎万喜随其父去拜望了五台同乡魏仰微。魏见这年轻人能说会道，知书懂礼，很是喜欢。阎书堂见机行事，提出要魏收阎万喜为干儿子。魏很高兴的答应了，阎万喜给他做了义子，并经魏的介绍，到太原柳巷的“裕盛店”当了小伙计，生活才算是安定下来。
跌入社会底层的这两年，使阎万喜又感受到另一种人生。为了糊口活命，他做过在街头卖饼子的小贩，当过差役，当过帮工，当过店铺的小伙计。挨打受辱，寄人篱下，饥寒交迫，丧魂落魄的日子，自然与当年少掌柜的生活形成巨大反差。这既使他痛苦，也让他渴求改变命运。从优裕落入贫穷，让他品尝了人世炎凉的滋味，也增长了历经磨练的才识。在太原流浪期间，他见识了官僚富商们的权势、排场和奢侈，也看到了更多比他还贫困艰难的穷人，同时也目睹了清廷腐败无能，外国列强横行霸道，国家民族面临灾难的社会危象。这些，对一个受到过儒学教育的热血青年不能没有刺激和触动。他发愤要改变这种生活，想望着以后成就一番大事，在社会上有意结识了不少朋友。其中就有日后帮他成事的黄国梁、张瑜。三人来往频繁，经常在一起谈天说地，议论时局，越来越感到志趣相投，就以刘、关、张桃园三结义为榜样，换帖子结成了拜把兄弟。依年龄大小为序，张瑜为长，黄国梁为二，阎万喜为三。三人对天盟誓，有福同享，有难同当，要同心协力干一番大事，改变命运，光宗耀祖。
一日，阎万喜和父亲见路边的墙上贴出了大字的告示，四周围满了人，就挤进去看，原来是巡抚衙门创设武备学堂的招生广告。当时正值义和团运动失败之后，清廷一方面投靠帝国主义，加强对人民的镇压，另一方面又不得不采取一些改良措施，实行所谓的“新政”，在各省兴办学堂。山西省1902年成立了山西大学堂，之后又陆续设立农林、法政、武备等学堂。因为从学堂毕业之后，就算是进入了仕途，因此，投考新式学堂，成为改变命运，寻求向上攀升机会的重要途径。见此告示，阎万喜不由心中一动，觉得是一条实现自己抱负的路。可考虑到眼前的艰难处境，觉得上学走了，家里的日子会更难过，因此没有吱声。他父亲心里也在琢磨：俗话说“好铁不打钉，好男不当兵”，放在原来的家境里，他未必会同意宝贝的独生子走这条路。可眼下，有个吃粮的地方，毕竟比四处流浪强得多。弄好了，说不定以后还能飞黄腾达，于是就对万喜说：“就是砸锅卖铁，我也得供你上学。不走这条路，咱们怕是一辈子也抬不起头来。”阎万喜见父亲同意了，马上就去找到黄、张两位拜把兄弟，商量一番。大家都觉得这是一个好机会，约定三人一起报考。
回来一思量，阎万喜多了个心眼。自己虽然在私塾里书念得不错，背四书五经，写忠孝节义能够从容应对。可这洋学堂的课程从来没见过，也摸不准人家会出什么怪题，万一进了考场，一点也摸不着边沿怎么办？他不愿放弃这个改变自己命运的机会，就动脑筋想万无一失的主意。他把自己的想法和父亲说了说，父子二人一拍即合：商量请人代考。这种时候，只能先管自己，也顾不得磕头的把兄弟了。这是他的精明之处，也是他的狡黠之处。他父亲就想起了原来做生意时有过交往的一个人，名叫赵廉佑，此人当时就在山西大学堂读书。父子二人立刻备了礼，到山西大学堂去拜访赵廉佑。没想到，赵廉佑认为是小事一桩，痛痛快快答应下来。父子二人非常高兴。他父亲是个非常迷信的人，又去找算卦先生给儿子算卦，看看这武备学堂是否真的能考上，同时也请先生给儿子起一个响亮的大号，以图将来步步高升。算卦先生将阎万喜的生辰八字推算了一番，断定这次应考一定得中，但命中五行缺金，大号中须有带“金”的字。经过再三推敲，先生定下“锡山”二字。阎书堂十分满意。从此，阎万喜就改称阎锡山。
报名之后，阎锡山父子惴惴不安地等待着。但一想到算命先生的话，他们又多了几分宽慰。其实，当时武备学堂初办，还没有什么成文的规矩，对考生的查验也不严。况且赵廉佑也只比阎锡山大两岁，蒙混过关很容易。赵在山西大学堂也算是成绩优良的好学生，考试题目很平常——《韩信点兵多多益善论》，赵轻松完成试题，下来对阎家父子交代说，笔试没有问题，好好准备应付面试吧。父子两人自是高兴，少不得千恩万谢。在口试时，阎锡山经商时学到的本领派上了用场，他态度谦和，口齿伶俐，善于察言观色，回答头头是道，深得考官的赏识。到武备学堂发榜时一看，阎锡山的大名居然名列榜首。看来试题真的不怪不难，他的把兄弟黄国梁、张瑜也一起考中。
在决定人生命运的大事上，算卦先生如此灵验。阎书堂当年在选择“打虎”时机时，就常常依靠占卜，这次灵验，使他更加迷信。也许是