然而，阎锡山却也留有遗憾，他生病期间，曾对一直陪侍在侧的贾景德说，他痛惜自己不能追随“总统”“回大陆去，而深感遗憾”。阎之所云“回大陆去”，并非指他死后将其遗骸送回大陆去，能魂归故里，而是指未能与蒋介石“收复大陆”，“重整山河”。这充分说明，阎锡山即使行将就木，仍挂念着“党国大事”，仍心系于他的未竞事业。

但阎锡山对他身后之事的安排，却不甚在意，未向当局提出任何要求，只是遗嘱其家属七点：一、一切宜简，不宜奢；二、收挽联不收挽幛；三、灵前供无花之花木；四、出殡以早为好；五、不要放声而哭；六、墓碑刻他的思想日记第100段及第128段；七、七日之内，每早晚各读他选作之《补心录》一遍（台北《中央日报》1960年5月24日）。

他所说的两段日记分别是：

“义以为质，礼以行之，逊以出之，信以成之，为做事之顺道，多少好事，因礼不周，言不逊，信不孚，致生障碍者，比比皆是”。“突如其来之事，必有隐情，惟隐情审真不易，审不真必吃其亏。但此等隐情，不会是道理，一定是利害，应根据对方的利害，就显求隐，即可判之”（贾景德：《阎故资政锡山事略》（附录））。这或许是阎锡山对自己一生做人处事，观察事物，化解矛盾的经验之谈，并以之告戒后人，但究竟是什么意思，就不好妄作评断了。

阎锡山生前还自作挽联数幅，嘱家属在他死后，贴在指示处。

灵前的挽联是：“避避避，断断断，化化化，是三步工夫；勉勉勉，续续续，通通通，为一等事功”，横幕是：“朽瞋化欲”。

檐柱前的挽联是：“摆脱开，摆脱开，粘染上洗干净很不易；持得住，持得住，掉下去爬上来甚为难”，横幕是：“努力摆持”。

院中挽联是：“有大需要时来，始能成大事业；无大把握而去，终难得大机缘”。横幕是：“公道爱人”。

院门挽联是：“对在两间，才称善；中到无处，始叫佳”，横幕是：“循中蹈对”（贾景德：《阎故资政锡山事略》附录）。

檐柱前、院中和院门的挽联，人们还比较容易理解，而灵前的挽联，有人则认为阎锡山对六个字个作三次重复，特别强调，表明了阎氏一生立身处世的原则方针，建立事功的过程次序。因此，自避而断而化，由勉乃续乃通，也可说是阎锡山这位民国杰出政治家的生平写照（台湾：《阎锡山传记资料》（一），第31页）。但也有人说这是阎锡山在“故弄玄虚”。

阎锡山去世后，贾景德亲自为其作了长3000多字的墓表，称：综合平生，一本为人类谋幸福，替造化表功能之旨，尽责任致效用，孜孜不息，日无暇晷。早岁从事革命，辅建民国，身置军政重任四十余年，谋国之忠皎如日星，爱党之忧坚如金石，惠民之政沛若霖澍，研理之精贯通天人，济世之怀老而弥笃。应时变迁，创树良多，而覃思远识，定力尤有过人者，故临大事而能断，当大难而不乱，秉大节而不移，可谓扶天地正气之完人也矣（《阎锡山年谱》（六），第2556页），同时，还给阎撰写了墓志铭，由钱大钧篆盖，李鸿文书写。

阎锡山去世后，其旧属及山西籍旅台人士，在台北组织了“阎锡山纪念会”。台湾中国国民党、中央党史委员会、国民政府国史馆等单位，不仅召开座谈会，口述阎锡山之事迹，而且把阎作为民国的一个重要人物加以研究。

1982年、1992年，台湾“阎锡山纪念会”，分别举办了阎锡山百年诞辰和110年诞辰纪念大会。在百年诞辰纪念时，时任台湾国民党总统的蒋经国曾为阎题字：“永念耆勋”，与其父蒋介石所送之“怆怀耆勋”匾额相呼应；前“总统”严家淦、资政郑彦棻、国史馆馆长黄季陆等都在纪念会上作讲演。每次诞辰纪念，“阎锡山纪念会”，还将会议上的发言加以整理，编辑出版。同时，纪念会还组织人力，收集、整理阎锡山的有关资料，并编辑成册，供人参阅。以种种方式，表达对阎锡山的怀念。