1946年7月7日，胡宗南指挥在此之前先后渡河入晋的7个旅，自安邑、夏县北犯，占领闻喜县城。阎锡山为配合胡宗南的北进，则令其军队由同蒲路南下，企图打通同蒲南段，席卷晋南，寻歼军队主力于洪、赵地区。阎、胡二人虽然在上立场完全一致，但胡为蒋中央之嫡系，而阎则是地方实力派，一直担心胡会乘机占领晋南，所以，他这次的与胡配合，在很大成分上是要与胡争夺晋南。并且，阎经过上党战役，已领教过共军的厉害，因而不敢轻举妄动，而胡宗南自以为自己兵力雄厚，又有“天下第一旅”参战，则有些不可一世。正是利用了阎、胡之间的这种矛盾和心态，晋冀鲁豫部队以第4纵队和太岳军区部队为主，在吕梁部队的配合下，于调遣部分兵力牵制阎军南下，并阻击运城胡部北援的同时，7月13日，主力向已深入解放区150余里的胡部第31旅发动攻击，4天之内即在夏县埝掌镇、胡张镇和朱村，歼灭胡部第31旅两个团，并歼灭前来支援的胡部第78旅3个营。之后，胡部害怕被歼灭，且战且退，一部退到安邑，一部退到闻喜，军队跟踪追击，但未能歼灭，遂停止战斗。“闻夏之战”于7月22日结束，晋南战役首战告捷。

接着，晋冀鲁豫第4纵队又对集结于洪、赵地区的阎军实施歼灭，谓之“洪赵之战”。在此之前，中央为吸引阎军北上，减轻阎、胡两军对洪赵作战部队的压力，决定于7月1日由晋绥军区及晋察冀第4纵队和第1、2分区配合，于晋北地区发动攻势。阎锡山为使其部队不被歼灭，不顾胡宗南的反对，忙将其在洪赵的主力北调，把灵石到临汾的防务推给了胡宗南部，从而造成了灵石至临汾之间兵力的薄弱。这无疑给歼灭洪赵地区之阎军以极好的机会。而晋冀鲁豫第4纵队，又采取了集中优势兵力，先南后北，逐个歼灭的战术，因此，“洪赵之战”于8月14日开始后，进展相当顺利。到9月1日为止，15天的战斗，共占领洪洞、赵城、霍县、灵石4座县城，控制260余里铁路，共歼阎军1万余人，从而彻底切断了胡宗南部与阎锡山部的联系。

当晋冀鲁豫第4纵队和太岳军区转移到洪、赵地区作战时，阎锡山、胡宗南以为晋南地区空虚，有机可乘，胡宗南遂于8月中旬派其第30师和“天下第一旅”再到晋南，企图把晋南的军队消灭在洪赵地区。阎锡山为配合胡部行动，也于9月15日将介休、平遥的军队集结到铁路中心点介休义棠车站，与胡部遥相呼应。根据双方态势，晋冀鲁豫第4纵队决定，在临汾和浮山地区与北进之胡部作战，是谓“临浮之战”。9月22日，胡部近3个旅分三路，分由临汾及其以南的史村和翼城出发，由东、北两面向浮山进攻，企图以强大兵力聚歼浮山军队，即使不能如此，也将迫使军队向北突围，而将其赶至洪赵地区，与阎部南北合击，予以全歼。然而，由于部队已预作部署，不仅将3个旅迅速隐蔽集结于洪洞东南地区，等待胡部北进，同时将1个旅置于灵石一线布防，以阻击阎军由介休、义棠等地南下增援，所以，当22日胡部1个团进入浮山官雀村时，即遭包围。23日，从东向西进攻浮山之胡部，以及从西向东进攻临汾之胡部两个旅前来增援，也被第4纵队分割包围。至9月24日战斗结束，胡部2000多人被击毙，其余2500余人被俘。其他胡部得知消息后，则西窜避战，但军队跟踪追击，在24日又被歼灭1000余人，其余逃往临汾。

由闻喜、洪赵和临浮三个大仗构成的晋南战役，从7月初至9月24日止，历时两个多月，共歼胡宗南部2个旅1个团、阎军3个师各1部，约2.5万余人。此役不但消灭了阎、胡的有生力量，而且也彻底粉碎了阎锡山、胡宗南打通同蒲路的计划。