话说元天穆的大军率领大军向东行进，元颢的大军正好乘虚杀入，自铚城（安徽省淮北市濉溪县临涣镇）进拔荥陽（荥阳城），直至大梁城下。
大梁守将丘大千有七万兵马，分筑九城对抗。陈庆之从早上到下午，攻克三座堡垒。丘大干恐惧，打开城门投降。元颢于是进城，与诸将商议说：“吾想称帝，然后率兵攻打皇宫，你们觉得如何。”诸位将军都同意了，元颢在梁国城睢阳南烧柴祭天登基为皇帝,年号为孝基元年。任命陈庆之为卫将军、徐州刺史，引兵向西，进攻荥陽。当时守荥陽的，乃都督杨昱。元颢派人劝他投降，杨昱誓死不投降。”
元天穆听说报告大吃一惊，和骠骑将军吐没儿率领大军三十万，星夜前来救援。梁的士兵得知，都很害怕。庆之解下马鞍喂饱战马，告谕将士说：“我自家乡来到这里，征服了无数土地，屠灭了不少城池。我的战士们，你们杀人家的父亲兄长，抢人家的妻子儿女，数之不尽。元天穆的骑兵马上要到了，我们是他们的仇人。我们只有七千人，敌人有三十万，他们根本不会让我们活下去。敌人是骑兵部队，我们在平原交战只有死路一条。在他们到来之前，你们必须打下荥阳，爬上那座高高的城墙。”于是擂鼓助战，命将士登城功尖，将士们当即蜂拥着攻入城中。攻破荥陽后，杨昱诸将三百人，都被抓了，伏与元颢帐前。”
众人说：陛下，望你杀了杨昱，满足众人心愿。元颢说：杨昱，忠臣啊，不过各位砌筑，只能杀了。于是斩了杨昱众人，且他们的心都被挖了出来，不久，天穆等人率兵包围城池。陈庆之率兵三千，将他们打败。天穆、吐没儿都跑了。于是乘势攻打虎牢，守关将军尔朱世隆也跑了。元颢大军占领了虎牢关，一路无阻，游兵直指洛陽（洛阳城）。
当时天子强大的军队都出去了，天子害怕，想要逃跑，有人劝帝去长安，中书舍人高道穆说：关中地区荒凉残破，怎么能去那里，元颢的军队不多，却乘虚而入，为何，这是因为我们用将不当，所以才有今日，若是陛下亲自率领禁卫军，以重金招募，多加奖赏，背城与敌决一死战，我等就是拼死，也会打败元颢这支孤军的。若是陛下害怕，不如度过黄河，命大将军元天穆，大丞相尔朱荣各自率军前来会合，构成犄角之势，进讨元颢的军队，一个月内，一定会取得胜利，这是完全之策。
皇帝采纳了高道穆的意见，夜间，来到了河内郡郡城的北边。令高道穆在烛光下起草了几十张诏书，公告天下，于是四方才知道皇帝在哪儿。元颢得知逃跑，率兵直奔洛陽。临淮王元或、安丰王延明率领百官，封存好官库，准备好皇帝专用的马车，出城迎接元颢。元颢进入洛陽，改年号为建武，大赦天下。任命陈庆之为侍中、车骑大将军，增邑万户。元颢身边的将军侯暄镇守睢陽，作为后援。行台崔孝芬率兵功之，城破后被斩首示众。
上党王元天穆等率四万军队攻下了大梁，又分派费穆带二万人攻打虎牢城，元颢派陈庆之攻击费穆。元天穆畏惧元颢，打算北渡黄河，便对行台郎中、济阴人温子说：“你想去洛阳，还是想随我北渡流黄河？”
温子说：“国主因虎牢失守，才弄得如此窘迫。元颢新来，民心还未安定，现在您如果前去攻击他，一定会成功。大王您平定了京邑后，再奉迎皇帝大驾，这乃是齐桓公、晋文公才有过的举动啊！现在您舍此而不为，却要北渡黄河，我私下里真为您感到惋惜。”元天穆觉得温子的意见很好，但却不能采纳，于是率军渡过了黄河。费穆攻打虎牢城，眼看就要攻取了，听说元天穆向北渡过了黄河，认为这样一来自己便没有了后继援兵，于是便投降了陈庆之。陈庆之率军进击大梁、梁国两城，群攻下了。陈庆之凭数千之众，从城出发至洛阳，共攻占了三十二座城池，大小四十七战，所向无敌。
魏军听说他的军队到了，魂都吓破了；小孩听到陈庆之的威名，也吓得不敢出声。费穆到了京城，元颢骗他入城，然后杀了他。他死了，元颢的下属高兴的不得了。敬宗害怕，带着尔朱皇后逃走了，侍卫后宫皆安居如故。