好在此时汉军逐渐爬上城楼，东墙吸引了墙上胡人的大量兵力，黑山军在南墙的阻力自然也削弱不少，张飞对黑山军做了半日的动员：“我等皆为汉人，前汉破胡侯有言：一汉当五胡！大家虽出身贫苦，可岂能堕前人武名？杀进城中，晋阳财货可尽分于诸位！”
黑山军方才勉强振奋斗志，拉出万人分为五部，于毒白绕率四部，交予张飞关羽一部，在南墙五处蚁附登城。
张飞顶着箭矢攀上城墙，胡卒举刀便要斩去张飞的手指，只是张飞借着最后一攀的冲力，将阻拦的胡卒也冲撞在地，几名胡卒紧跟着前来阻拦，但张飞一声低喝，俯身一扫腿将胡卒打翻，顺手从腰间拔出斫刀劈开一人的额头，白花花的脑浆伴随着血水挤出来，其余胡卒也随之胆怯。
此时晋阳城防已经出现两次缺口，虽然可以说仍有所僵持，但较昨日而言，毫无疑问是形势一片大好，就在这胡卒气沮的时刻，呼衍于勒都急中生智，对身后士卒呼喊说：“将薪柴扔过去！扔过去！”
说话间吕布忽而发现一力士扭身露出甲胄间的空隙，当即将斫刀沿着铁片径直插入进去，待他搅上一手再抽刀拔出，那力士咕噜一声，扑倒在地，伤口中随着膏油鲜血又流出碎裂的肠子，眼看就是不活了。
正兴奋间，于勒都将薪柴运到，几名胡卒往吕布头上齐齐一掷，撞在甲胄上，逼得吕布往后连退三步，他才发现是一根燃烧的梁柱。
城上的薪柴多时用梁柱门板所致，材质不仅牢固耐烧，而且尺寸庞大。吃了这一击，只觉得甲胄发烫，犹豫间，胡卒将薪柴在他面前堆成一堵火墙，吕布本想乘机扩大战果，但薪柴燃烧到处弥漫黄白色的灰烟，不止呛人口鼻，还迷得汉军将士流泪不止。别说前进半步，就连在原地驻守也难以进行。
张飞在南墙也仅能维持两刻攻势，黑山军虽然勉力出兵，但除去少数将领外，大部分士卒连最劣质的狗皮甲也无，只能短褐粗衣，硬顶着箭雨作战，能上城作战者不过十之二三，伤亡巨大且后援难济，即使南墙守军并不多见，张飞也无能为力，无人跟上，他也只能原路后撤。
第二日攻势又陷入了挫折，刘备下令鸣金收兵，但鼓声仍然不停，他换了一批鼓手，对他们说道：“如今虽屡战无功，可只要你等日夜擂鼓，待敌心神俱疲，便是我等克胜之时。”