断了大辽铁骑的增援，考虑到短时强攻不可取，赵匡胤决定打持久战，慢慢玩，他命人在汾河上架起一座新桥。
隔三差五组织士兵攻城，始终攻城不下。太原城四周护城河又宽又深，完全打消了赵匡胤通过挖地道进城的想法。
这天，巡逻的兵丁在护城河里捞到一只莲花灯，灯上有一行小字“水流无限”。赵匡胤不解其意。
曹彬道：“臣读诗豪刘梦得《竹枝词》，记得里面的四句：‘山桃红花满上头，蜀江春水拍山流。花红易衰似郎意，水流无限似侬愁’，陛下现在愁的是如何攻下太原城，似乎‘水流无限’可以解除我们的烦忧，莫非有人提醒我们用‘水攻’？”
赵匡胤一拍大腿，“水攻好啊！朕怎么就没想起来呢！”
开宝二年（969）三月，赵匡胤决定采用水攻，引汾河水淹灌太原城。
命人征发太原附近各县的几万名男丁集中在太原城下，筑起一圈长堤，将太原城围起来。大军后撤，在太原城四周建立营寨，太原城南是李继勋的军队；太原城西是赵赞的军队；太原城北是曹彬的军队；太原城东是党进的军队。一切准备完毕，赵匡胤命令大军掘开汾水、晋水，太原城四面慢慢被大水淹没，瞬间变成了水中的一个孤岛。
大水从城墙下的沟渠暗道和城门处，纷纷涌进城内。刘继元派人用石头砖瓦和泥土封堵各处河道涵沟，还有东西南北各处城门。城内到处是河水带来的漂浮物和死老鼠、牲畜，北汉军民纷纷叫苦不迭。
刘继元几次派人突围，均未能成功，他期待的契丹援军迟迟未到，郭无为劝其降宋，刘继元不肯。
四月，接到北汉求救消息的大辽，第一时间组建援汉军团。契丹兵分两路，一路走太原附近的石岭关，一路直扑大宋重镇定州。赵匡胤早已做好了准备，张开大网等着大辽援兵到来。
镇守石岭关的何继箔按照赵匡胤的部署，在山西阳曲设下伏兵，让开先头部队，击其中间。等着契丹骑兵过半，宋军伏兵四起，喊杀冲天，辽兵大乱，此役斩首契丹几千人，并生擒契丹将领武州刺史王彦符。
得到捷报，赵匡胤异常地高兴，他命人将几千个契丹人的头颅和铠甲依次高悬在太原城前。他想用血淋淋的事实，警告北汉刘继元，投降吧，别再做无谓的抵抗，你们指望的契丹援兵已经在半路上被我军截杀了。
看着这些血淋淋的人头，北汉君民一下子成了泄气的皮球，士气低落到了冰点。可是，刘继元还不想放弃，他想凭借太原城的坚固，做最后的死守。
四月十五日，赵匡胤亲临汾河边视察造船。
五月初七，契丹的第二支援军打定州经过，想由此西进，援救太原。镇守定州大将韩重赟守住关隘，契丹兵无法前进一步，被迫退走，韩重赟乘势追击，大败契丹，斩首三千多人，擒获其将领二十多人。捷报再次传来，宋兵士气大振。
五月十二日，赵匡胤命令水军驾船载着强弩从四面围攻太原城，横州团练使王廷义脱去盔甲，率军猛攻，不幸头部中箭阵亡，殿前都虞候石汉卿也在攻城中战死。
二十八日，都虞候赵廷翰等一些渴望建功立业的武将叩头请战，愿以死效力，奏请太祖，要求冒死拿下太原城。
赵匡胤动容道：“你们都跟随我多年，没有一个不是以一当百，成为我所倚重仰仗的重臣，休戚与共的近卫，我宁愿得不到太原，也不愿意让你们冒着敌军的刀锋箭雨去冲锋陷阵出生入死。”下令没有命令不允许再去攻城，众将官感激涕零，哭倒在地。
为让北汉群臣彻底投降大宋，和平解放北汉，拯救黎民苍生，郭无为使尽浑身解数，彻底表现出他的“行为艺术”。
一天，刘继元宴集群臣，郭无为在庭中痛哭道：“为何要以空城抗百万之师?”抽出佩刀就要自刎，想以此煽动人心，归降大宋。
刘继元急忙走过来，拉着郭无为一起坐下，绝口不提投降一事。次日，刘继元又遣使去辽国催促援兵。
北汉坚守危城，至闰五月，太原南城一处城墙被水冲坏，大水涌进城内。
宋军整军正准备乘舟冲进城去，北汉军民也齐聚于此，顿时万箭齐发，投石车配合弓弩车，拼死抵抗。
也许是天不亡北汉，就在这个节骨眼上，不知从哪里漂来一堆柴草，不偏不倚，柴草漂浮到了城池缺口，将缺口堵塞住了。这真是救命的稻草啊！北汉军民趁机用滚木礌石设障堵住水口。大宋官兵好不容易等来了一个破城的机会，就这样眼睁睁的看着溜走了。