日方见对阎的“谋略”工作，初见成效，更加紧了对阎的工作。1941年5月下旬，日本陆军省派田中隆吉第二次来太原，日本华北派遣军司令官冈村宁茨也派其特务参谋茂川秀和来太原，插手对阎的工作。这二人来太原后，要求阎锡山派赵承绶来太原商谈。阎不敢贸然派赵前往，遂以赵患伤寒为由而派其机要处副处长刘迪吉去太原。7月初，刘迪吉去太原后即与田中开始谈判，阎锡山通过由日军提供给刘的电台，让刘向田中提出条件，田中均予答应。这些条件是：一、防共合作以打倒蒋介石为基本条件；二、为维持山西纸币价值，贷款5000万元；三、为充实山西军（现在兵力6—7万）的实力（当前以30万为目标），供给步枪10万支、轻机枪二、三千挺、大炮300门；四、以上述办法加强实力后，马上宣告讨蒋，联合各地将领，为完成目的而迈进，另方面劝告蒋介石全面和平。附带条件是：一、恢复山西西北实业公司；二、委阎为华北国防总司令和南京政府军事委员长；三、以后每年须由南京政府给阎军2000万元，步枪10万支、大炮200门；四、以后须由南京政府支付1亿元作为华北民众救济费等（《日本外交档案中有关阎锡山投降活动的材料》，《山西文史资料》第6辑，第11—12页）。并且，双方还达成了“日阎停战基本协定条款”草案，还约定在汾阳签字。8月初，阎锡山打电报给在孝义的赵承绶，要赵就近前往，代表他到汾阳签字。9月7日，赵承绶偕骑兵第1军军长温怀光、参谋长齐骏鸣、骑兵第1师师长赵瑞及第7集团军参谋处长续志仁，以及刘迪吉、白太冲等，到达田屯镇，脱下军装，经过化装后，由日军接入汾阳城内。9月11日，赵承绶代表阎锡山，日本华北派遣军参谋长田边盛武代表日方在用日、中两种文字打印好的《日本军与晋绥军基本协定》即所谓的“汾阳协定”上签字。

“汾阳协定”的基本内容，与“日阎停战基本协定”草案，大体相同，其要义仍是日阎军队停战，与南京政府合作，共同。只不过在日方要求阎锡山做什么，怎么做，日方给予阎锡山的支持是些什么这些问题上更为具体和明确而已。如在汾阳谈判中，阎锡山坚持要求把雁北13县划归山西省管辖，日方认为雁北13县隶属蒙疆区，不能划归山西。后来日方华北派遣军由北平派来的一个大佐级军官即参谋长田边盛武来汾阳，与赵承绶会面时说：“日方和山西军诚意合作，以后共事的地方很多，不能因为一点小事发生意见，就依阎先生主张”（第125页），这才把“晋绥军之管辖区域，先为山西，渐及于全华北”写进“汾阳协定”之中。在如何实施“汾阳协定”的步骤上，则划分了三个阶段。在第一阶段，“停战协定成立后，孝义县城交与晋绥军，晋绥军即向以孝义为中心之区域挺进，阎长官移驻孝义县城或隰县，与日本军紧密合作”，“日本军集中于军事上必要之地区，晋绥军担任山西省内各地方之治安”，“在执行协议期间，一面秘密联络各将领，一面在太原或孝义与汪主席协议合作”。第二阶段，“第一阶段工作完成后，阎长官即向重庆政府督促和平。如不接受，则向中外宣告单独行动”，并且，“与日本军合作，首先肃清山西省内共产军”。晋绥军“兵力五十万，由山东、河南、河北、安徽等地补充壮丁约十万人，余由山西省内补充”，“恢复太原兵工厂”。第三阶段，“负责维持华北全境治安”，“察哈尔、绥远问题与蒙古民族问题之解决，概由汪、阎商议决定”。“西北实业公司”、同蒲铁路及山西省人民公营事业董事会所辖各工厂承认完整归还，俟阎长官来后施行（郭彬蔚译编：《日阎勾结实录》人民出版社1983年版，第13—16页）。对于阎锡山的支援，在枪、炮、资金、军费等数目上，也都作了明确规定。