阎锡山在积极筹划其复出活动的同时，还加强了晋绥军的建设，并在河边村频繁接见山西军、政、教和工商各界人士，“日有数客”，以便了解掌握省内情形，为其复出作准备。在他回到河边村后，即叫杨爱源、孙楚前去，面授机宜。“杨、孙接受了阎的指示，立即组织了晋绥军事整理委员会，杨任主任委员，孙任副主任委员。各军师长均为委员。下设总务、考核、教育和补充四处，编制名额百余人。旧日曾任过军师旅长的二十余人，都被委为中将和少将督练员，派在各处服务。如梁培璜即派在考核处，曾去临汾一带，点发杨澄源69师的8月份饷项。所有督练员的任务，都和梁培璜一样，每月到各部队去考察、点名或校阅”（《阎锡山统治山西史实》第172页）。而从杨爱源到各督练员，都只向阎锡山负责，这样，通过他们，阎锡山未雨绸缪，对晋绥军加强了控制与管理，所以，他复出后的“清退客军”的行动能得以顺利进行。

同时，阎锡山对于他复出后如何进行经济建设,也做了一些工作，如他“与由太原建设厅长介绍来河边之水利技正，研究开发山西水利。计划先在河边村择地，亲自实验凿深井机器”。此外，他还利用闲暇，亲自执笔拟定《阎氏家族自治规章》，编撰《阎氏族谱》。

“9·18事变”后，中日民族矛盾的加剧，使国民党内部的派别之争暂时缓和。1932年1月2日，国民党中政会召集紧急会议，决议邀蒋介石返回南京，主持大计。1月16日，“汪精卫到杭州与蒋介石会晤，双方达成权力分配协议”（李松林等编：《中国国民党大事记》解放军出版社1988年版，第218页），宁、粤（南京国民政府与广东国民政府）合流。1月28日，日军进攻上海闸北，驻沪的国民党第十九路军奋起抵抗，“1·28”事变爆发。日益上升的民族矛盾，加上赵丕廉、徐永昌、汪精卫、李石曾等人的疏通，以及阎锡山处理“12·18”惨案的表现，使蒋介石不能不表示对阎锡山“摒弃前嫌，团结御侮”，并接受了汪精卫的提议，派阎锡山为太原绥靖公署主任。1月29日，国民党中央政治局会议推举阎锡山为国民政府军事委员会委员，同时被推举的有蒋介石、冯玉祥、张学良。2月18日，汪精卫给阎锡山来电，称“……介石及弟拟提议设太原绥靖公署，指挥统帅晋绥两省军队，并拟请公为主任，如荷赞同，拟即发表，立复为盼，弟兆铭巧”。阎锡山接电后的第二天即复电汪精卫，称“倾奉巧电，并悉一是，弟以多病之躯，本不堪再任繁剧，惟此国难主殷之际，兄与介兄既如此拟议，弟自当勉任其职也”（《阎锡山年谱》（四），第1664—1666页）。阎锡山的回电虽然如此，多少有些矫情，其实，他心里早就盼望的不正是这个结果吗！

之后不久，国民政府的正式任命发表。2月27日，阎锡山由河边村回太原，略作布置，即于当日上午10时，在山西省政府大礼堂举行了就职典礼，正式就任太原绥靖公署主任。何应钦代表国民政府出席了就职典礼。阎锡山下野蛰居一年有余后，终于东山再起，重掌山西。

复出后的阎锡山，所面临的问题都令他感到棘手，却又必须加以解决。山西地下党组织的相继恢复和广泛开展的民主运动，广大学生和民众抗日救国运动的日益兴起，这些都不能不使阎锡山感到担忧，而最为棘手的问题，却是待在山西的十几万“客军”，以及濒临崩溃的山西财政金融。