阎锡山执政山西后，他在加强政治、经济、军事等方面的建设的同时，对文化教育事业也予以了极大的重视。这其中固然与他受到中国历来注重教育这一优秀传统文化有着很大关系，而他留学日本时，对于日本明治维新期间因推崇教育而使日本发生巨大变化所留下的深刻印象，也是一个重要原因。阎锡山对于教育的重视，在其提出的“用民政治”中，即有所体现。在这个“用民政治”中，他就把“民智”作为了与民德、民财并列的三项重要内容之一。为了“启民智”，还把发展国民教育、职业教育、人才教育、社会教育作为加强教育的几项重要措施。在他看来，现在国家“政体已成为民主，而民实无主之智能；主之者既非民，即失却民主之精神，无民主精神而曰民主，危险孰甚！，欲渡此一难关，惟有积极发展教育之一途”，所以，“国民教育为人群之生命，非普及教育不可”（《阎锡山年谱》（一），第355页），“国家的兴衰，社会的好坏，全看人民的程度。要想人民程度高，必须要有良好的小学教育”（《人民须知·社会篇》）。他于1919年10月在“全国教育联合会第五届年会”上说的这番话，虽然是从政治的角度出发的，却也进一步反映了他对教育的重视，其实，发展教育的意义，并不止此，它对于促进经济社会的发展，科学技术的进步，政治和精神文明程度以及国民素质的提高，都是极为重要的，从阎锡山的“欲决胜于疆场，必先决胜于学校”这句格言中，更可以说明他对发展教育的意义是有着深刻地认识的。

阎锡山在其要发展的几种教育中，对国民教育亦即他专指的义务教育或基础教育“视为最重”。因为在他看来，振兴教育，就像建屋，“屋之在地上者，人人皆知注重，殊不知屋之能否经久不坏，全在地下之基础，教育也是如此”。“人才教育，屋之在地上者，国民教育，屋之在地下者也。人才教育对于社会上有报酬，受此教育者，亦多亟亟以谋发展，故社会上皆知重之；国民教育系义务教育，低贱的，对于社会无报酬，受此教育者，也无所发展。其不为社会所重视，盖有故也。不过今日为列国并立之世界，此人群与彼人群遇，较量优劣，要在多数人民之知识，不在少数优秀人才，今日中国四万万人，不及他国二千万人者，因多数人无知识，……说到对内，共和国家，主体在人民，必人民之知识发达，然后能运用良政治。如其不然，则其政权必将由多数人民移之少数人之手。既移之少数人，则此少数人所运用之政治，必以少数人之利益为利益”（《阎伯川先生言论辑要》（三），第49页）。所以，他不但强调“当兵、纳税、受教育，为国民之三大义务”，而且要求“为父母的，无论如何贫穷，总要使子女上学，是父母对子女的义务，又名叫义务教育”，“人民若不上学，就要罚他，罚了还得上学，又名叫强迫教育”，“凡是山西百姓，不论贫、富、贵、贱的小孩子，七到十三岁，这七年内，须要有四年上学，这就名叫国民教育”，“国民学校的功课，就是修身、国文、算术、体操、图画、手工等事，有四年工夫就毕业，学下打算盘、写信、记帐的本事。稍有钱的，再上高等小学校；实在穷的，也可自谋生活。这就是求知识的第一样要事”（《人民须知·民智篇》）。同时，为了发展以普及小学教育为主要内容的国民教育，阎锡山还采取了相应的措施，即一，扩充师范学校，培养师资队伍；二，调查学龄儿童，筹款设校；三，劝导入学，实行强迫教育；四，全省分六次普及，第一次省城至七年九月普及，第二次各县城至八年二月普及，第三次各县乡镇及三百家以上村庄至八年八月普及，第四次二百家以上村庄至九年二月普及，第五次百家以上村庄至九年八月普及，第六次十家以上村庄至十年二月普及（《山西用民政治实行大纲》）。