袁绍担心吕布对自己不利，再次派兵追杀吕布，那些士兵都害怕他，追上了也没有一人敢逼近。途中经过陈留，太守张邈派人迎接吕布，对他大加款待，临分手时两人握住对方手臂发誓结好。
兴平元年（194年），曹操向东攻打陶谦，派将领武阳人陈宫驻守东郡。陈宫趁机劝说张邈：“现在天下分裂，英雄豪杰同时崛起，您拥有十万人的队伍，处在可以四面作战的地方，按剑雄视天下，是可以做人中豪杰，反而被人控制，不是太卑下了吗？现在本州的军队东征，其地空虚，吕布是猛士，善于作战，英勇无敌，将他接来一同占据兖州，观望天下形势，等候时事的变化好转，这可以纵横一世。”张邈听从陈宫的意见，就同弟弟张超和陈宫等人迎接吕布，请他当兖州牧，占据濮阳，兖州所属郡县一同响应。曹操知道后率领军队攻打吕布，濮阳大姓田氏在城里响应曹操，曹操趁机入城后，放火烧东城门，来激励将士与吕布决一死战。吕布则先派骑兵冲散青州兵，导致曹军阵势大乱，吕布手下骑将抓到曹操问他曹操在哪儿，曹操说骑黄马的那个就是。于是吕布追击骑黄马的人，而放走了曹操。曹操策马冒火突围，烧伤了左掌。此后双方多次交战，相持一百多天。这时发生天旱，又有蝗虫为害，粮食不够，出现了人吃人。吕布将部队移到山阳驻扎。
兴平二年（195年），吕布再次从东缗出发，与陈宫率领一万余人来进攻曹操。当时，曹操部下的士兵全都出去收割麦子了，在营中的不到一千人，难以守住营寨。曹操于是下令妇人们上城寨的矮墙守御，营中不足一千的士兵们全都在营垒边摆出了无所畏惧的样子。曹操营寨的西边有一条大堤，南边有一片茂密深广的树林。吕布怀疑曹操有伏兵，于是说：“曹操多诡诈，我们不要进入伏击圈。”于是，吕布引军屯南十余里。
第二天，吕布再次前来挑战。曹操把自己的一半士兵埋伏在堤后，另一半的士兵暴露在堤外布下阵势。吕布的军队逼近时，曹操才命轻装部队挑战，等到两军厮杀在一起以后，伏兵才登上大堤杀出，步兵与骑兵一齐冲锋，大破吕布的军队，直追到吕布的营寨才返回。吕布当夜撤退。曹操将兖州各城全部收复，吕布东逃投奔刘备。张邈到袁术那里求救，留下张超带着家眷部属驻守雍丘。曹操包围张超，围了几个月，杀了张超和张氏三族。张邈未到寿春，就被他的士卒杀害。
徐州风云
兴平二年（195年），吕布见到刘备后，对其非常尊敬，对刘备说：“我和阁下都是北疆边境的人。我当时见关东军起兵，想要诛杀董卓。但我杀了董卓东出，关东诸将却没有一个接纳我，都想要杀了我。”并请刘备坐在帐中的床上，令妻妾向刘备行礼，酌酒饮食，称刘备为贤弟。刘备见吕布语言无常，表面以为然之，但心里却不开心。
同年七月，因李傕、郭汜的火拼，汉献帝从长安东归，途径河东，下诏书令吕布迎驾。由于吕布的军队没有储备足够的粮食，无法勤王，于是吕布派遣使者上书谢罪。朝廷任命吕布为平东将军，封平陶侯。
建安元年（196年），袁术率军攻打徐州，与刘备相持于盱眙、淮阴。相持一个月，双方互有胜败。袁术写信给吕布，许诺送上二十万斛大米，诱使其袭击下邳，于是吕布水陆东下，军队抵达下邳西四十里时，刘备的中郎将丹杨人许耽派司马章诳前来迎接吕布，并向吕布透露了张飞和曹豹相争，下邳城内大乱，丹阳兵都在西白门城内等待吕布的到来，于是吕布便大举进军，早晨到达城下。天亮后，丹阳兵打开城门，吕布坐在城门上，指挥军队大破张飞，俘虏刘备的妻妾儿女及其部曲的家眷。此时，刘备为袁术所败逃往海西，饥饿疲惫，向吕布请求投降。吕布又恼火袁术不再运粮来，就准备了车马迎接刘备，让刘备担任豫州刺史，派他驻守小沛。吕布自称为徐州牧。