興平二年（195年），曹操重振旗鼓，再戰呂布，三戰三捷，破定陶、廩丘等城，徹底平定兗州。
七月，因李傕、郭汜的火拚，漢獻帝從長安東歸，並下詔讓各路諸侯勤王。
十月，獻帝正式拜曹操為兗州牧。
建安元年（196年）二月，曹操討平汝南、潁川一帶的黃巾軍何儀、劉辟等部，漢獻帝封曹操為建德將軍。（此戰過後劉辟遁入山林，直到歸降呂岱。）
六月，因為曹操謀士董昭的勸說，獻帝身邊的楊奉等人上表，拜曹操為鎮東將軍，襲父費亭侯爵位。
此時，曹操想迎接獻帝，其謀臣大多認為山東尚未平定，獻帝身邊的韓暹、楊奉等又驕橫難製，所以不讚成迎接獻帝。但荀彧、韋孝寬等人卻極力支持，於是曹操就派曹洪率兵迎接漢獻帝，但被衛將軍董承與袁術的將領萇奴據險阻止。
七月，獻帝回到洛陽，董承為牽製韓暹等跋扈將領，又密召曹操來洛陽。
八月，曹操來到洛陽，奏明韓暹、張楊之罪，韓暹逃奔楊奉，又因為護駕之功被獻帝特赦。於是，曹操殺了侍中台崇、尚書馮碩、議郎侯祈，封董承等十三人為列侯，曹操本人亦領司隸校尉、錄尚書事。
隨後，曹操聽從謀士董昭的建議，於九月遷獻帝於許縣，被封為大將軍、武平侯。楊奉對曹操遷許之舉非常不滿，打算攔路截擊，結果失敗。
十月，曹操討平楊奉。
十一月，曹操出任司空，行車騎將軍事，總攬大權。
自此，曹操挾天子以令諸侯，奉天子以討不臣，又全據兗豫司三州，麾下又得到了諸如關羽、徐晃、羊侃等猛將的效力，隱隱約約已經成為了天下第一諸侯！
建安二年（197年）正月，曹操討伐張繡，軍隊駐紮在淯水，張繡舉眾投降，旋即複叛，曹操的長子曹昂、侄子曹安民、猛將典韋在此戰中戰死。
此後，曹操又兩度攻擊張繡，都沒有徹底擊破。
九月，曹操東征袁術，袁術不敵，丟下大軍，逃至淮河。
建安三年（198年）四月，曹操遣謁者裴茂率中郎將段煨討平李傕，夷其三族。
九月，曹操東征徐州，進攻一直與他為敵的呂布。
此戰，曹操麾下關羽、蕭摩柯、羊侃、薛安都、許褚五大猛將圍攻呂布。
呂布不敵，因此大敗，率領殘兵退守下坯。
而在曹軍攻勢之下，呂布軍上下離心，
十二月，呂布的部將魏續、宋憲等生擒陳宮，歸降曹操。
呂布見大勢已去，便下城投降。
曹操將呂布、陳宮、高順等人處死，收降呂布部將張遼以及泰山豪傑臧霸、孫觀等人，從此控製了徐州。
此戰過後，曹操因功被天子封為丞相。
建安四年（199年），因為畏懼曹操的強大，又害怕被攻滅，占據南陽的張繡便聽從謀士賈詡之計，率部投降曹操。
曹操大喜，拜張繡為揚武將軍。
之後，曹操委任族弟曹仁率部駐守宛城，防備荊州；又派遣夏侯惇率部駐守壽春，部將李典率部駐守合淝，一起防備江東。
同時，曹操開始整頓內部，加強軍備，以及自己在朝中的威望，並為接下來的一統天下作準備。
曹操花費八年時間，一統中原，速度不可謂不快。但期間遭遇呂布的侵襲，導致損失慘重，呂布可謂是曹操前期最強大的對手。
但曹操有一群忠心的部下可以依托，最終將呂布趕出兗州。曹操又聽取手下正確的建議，迎天子入許，因此才能稱霸中原。
最後，曹操徹底擊敗呂布，又得到了張繡的投誠，曹操環顧四周，天下再無對手。
直到衣帶詔事件爆發，並州劉淵向曹操最堅實的盟友——袁紹宣戰，隨後鮮卑人南下，入侵袁紹的領地，袁紹四麵楚歌之下，便向曹操求援。
其後，荊州劉表也向曹操、袁紹宣戰，江東孫策也蠢蠢欲動，曹操不禁被嚇出了一身冷汗。
結果，又陸續傳出了孫策遇刺身亡，劉表與侄子劉裕決裂的消息，曹操這才鬆了一口氣。