漢獻帝興平元年(194)春，太祖曹操從徐州返回兗州。當(dāng)初，太祖的父親曹嵩辭官回到譙縣，因發(fā)生董卓之亂，到瑯邪避難，結(jié)果被陶謙殺害，所以太祖立志討伐陶謙，以報父仇。這年夏，太祖派荀彧、程昱駐守鄄城，自己則領(lǐng)軍再次征討陶謙，接連攻克五座城池，奪取了直至東海郡的大片地盤，收兵經(jīng)過郯縣時，陶謙的部將曹豹和劉備駐軍郯東，截?fù)籼妫鎿魯×怂麄?，太祖又乘勝攻下襄賁縣，所經(jīng)之處，大多進行殘酷的屠殺。

　　適逢張邈和陳宮叛亂，迎接呂布，各郡縣紛紛響應(yīng)。荀彧、程昱保住了鄄城，范縣和東阿縣也因死守而幸免，太祖才領(lǐng)兵返回。呂布一到，就進攻鄄城，沒有攻下，后率軍向西進，駐扎在濮陽。太祖說：“呂布一天之中便攻下一州，卻不占領(lǐng)東平，切斷亢父、泰山之間的通道，憑險要地勢攔擊我，反而駐兵濮陽，我因此斷定他沒有大的作為。”于是率軍攻打呂布。呂布出戰(zhàn)，先派騎兵沖散“青州兵”。青州兵四散奔逃，太祖軍陣勢大亂，他飛馬冒火突圍，掉下馬來，燒傷了左手掌。行軍司馬樓異扶太祖上馬，帶他沖出重圍。未到營地之前，眾將因為沒有見到太祖，十分害怕。太祖勉強支撐，帶傷慰問部隊，命令部隊趕做攻城的器械，準(zhǔn)備再次進軍攻打呂布，兩軍相持一百多天。這時鬧起了蝗災(zāi)，百姓們饑餓不堪，呂布軍中的糧食也吃光了，于是雙方各自撤兵。

　　這年九月，太祖回到了鄄城。呂布兵至乘氏縣，被當(dāng)?shù)厝死钸M擊敗，東退駐守山陽。此時袁紹派人勸說太祖，想與太祖和解，聯(lián)合行動。太祖剛失去了袞州，大軍的糧食已經(jīng)吃盡了，太祖想答應(yīng)袁紹。程昱勸阻太祖，太祖聽從了他。當(dāng)年十月，太祖來到東阿縣。

　　這一年一斛谷米價值五十多萬錢，以至于出現(xiàn)“人吃人”，太祖便解散了剛招募來的新兵。此時陶謙已死，劉備代替他做了徐州牧。

　　獻帝興平二年(195)春，太祖率兵襲擊定陶，因濟陰太守吳資奮力保衛(wèi)定陶南城，未能攻克。正巧呂布來到，太祖又將他擊敗。這年夏，呂布派薛蘭、李封駐守鉅野，太祖前往偷襲，呂布帶兵救援，但薛蘭已經(jīng)兵敗，呂布只好退回，就斬殺了薛蘭等。呂布又會合陳宮所帶一萬多人從東緡來攻打，此時太祖兵少，設(shè)下伏兵，出軍攻擊，大破呂布。呂布連夜逃走，太祖追擊，又攻克定陶，分兵駐守平定諸縣。呂布向東投奔劉備，張邈與呂布同行，讓他弟弟張超帶家屬駐守雍丘。這年八月，太祖圍攻雍丘。十月，天子封太祖為兗州牧。十二月，雍丘守軍潰敗，張超自殺身亡。太祖誅殺張邈三族。張邈前往袁術(shù)處請救兵，結(jié)果被他的部下所殺。兗州平定后，就率軍向東攻打陳國。

　　這一年，長安城中大亂，獻帝東遷，護衛(wèi)軍在曹陽被亂黨打敗，獻帝渡過黃河到安邑縣。

　　漢獻帝建安元年(196)正月，太祖率軍到了武平，袁術(shù)任命的陳國國相袁嗣向太祖投降。

　　太祖準(zhǔn)備去迎接獻帝，眾將中有人產(chǎn)生疑慮，惟有荀彧、程昱極力勸說，便派曹洪帶兵西行，迎接獻帝，衛(wèi)將軍董承和袁術(shù)部將萇奴據(jù)險阻止，曹洪軍隊無法前進。

　　汝南、潁川一帶的黃巾何儀、劉辟、黃邵、何曼等人，都有數(shù)萬之眾。當(dāng)初追隨袁術(shù)，后又依附孫堅。二月，太祖派兵征討，大敗賊軍，劉辟、黃邵被斬首，何儀及其部眾投降。獻帝封太祖為建德將軍，六月，又升任為鎮(zhèn)東將軍，封為費亭侯。七月，楊奉、韓暹護送獻帝回洛陽，楊奉另派兵駐守梁縣。太祖便趕到洛陽，保衛(wèi)京都，韓暹逃走。獻帝授予太祖符節(jié)、黃鉞，讓他統(tǒng)領(lǐng)內(nèi)外諸軍，領(lǐng)尚書事務(wù)，總攬朝政。此時洛陽城已殘破不堪，董昭等人力勸太祖遷都許縣。九月，獻帝車駕出頧轅關(guān)，向東進發(fā)。獻帝任命太祖為大將軍，封為武平侯。自從獻帝被董卓威逼西遷長安，朝廷日漸混亂，直到此時，各項祭祀制度才又確立起來。

　　獻帝遷都許縣時，楊奉準(zhǔn)備在梁縣攔截，但錯過了時機。這年十月，曹公領(lǐng)兵征討楊奉，楊奉南逃到袁術(shù)那里，于是曹公進攻他在梁縣的駐軍，占據(jù)了梁縣。這時獻帝封袁紹為太尉，袁紹以職位在曹公之下而深感恥辱，不肯接受。曹公便堅決辭去自己的職位，把大將軍之職讓給了袁紹。因此，獻帝任命曹公為司空，代理車騎將軍。這一年，曹公又采納了棗祗、韓浩等人的建議，開始實行屯田制。

　　呂布襲擊劉備，攻占了下邳。劉備投奔曹公，程昱勸說曹公：“依我看劉備有雄才大略，又深得民心，最終不會居于人下，不如趁早除掉他?！辈芄卮穑骸叭缃裾钦袛堎t才之時，為殺一人而失天下人心，這樣不行?！?/p>

　　張濟從關(guān)中逃到南陽，他死后，侄子張繡統(tǒng)領(lǐng)他的人馬。 建安二年(197)正月，曹公到達(dá)宛縣。張繡投降，不久又后悔，重又反叛。曹公前往討伐，遭到失敗，自己被流箭射中，大兒子曹昂、侄子安民被殺死。曹公就領(lǐng)兵退回舞陰縣，張繡率騎兵抄襲，被曹公擊敗。張繡逃往穰縣，與劉表合兵。曹公對眾將說：“我讓張繡等人投降，卻犯了沒有立即扣押人質(zhì)的錯誤，所以遭到了失敗。我了解了失敗的原因，請大家看著，從今以后我不會再失敗了?！北愠繁卦S都。

　　袁術(shù)準(zhǔn)備在淮南稱帝，派人告訴呂布。呂布扣押了使者，把他的信呈送給朝廷。袁術(shù)大怒，派兵攻打呂布，被呂布擊敗。這年九月，袁術(shù)率軍進犯陳國，曹公率兵東征。袁術(shù)聽說曹公親自出征 ，就棄軍逃走，留下部將橋蕤、李豐、梁綱、樂就；曹公一到，便擊敗了橋蕤等人，把他們?nèi)繑厥?。袁術(shù)逃回淮南，曹公回到許都。

　　曹公從舞陰回來以后，南陽、章陵等縣重新反叛，歸附張繡，曹公派曹洪去征討，師出不利。曹洪撤軍，駐守葉縣，又多次遭到張繡、劉表的襲擊。這年十月，曹公親自南征，來到宛城。劉表的部將鄧濟占據(jù)湖陽，曹公攻下湖陽，活捉鄧濟。湖陽城軍民投降。攻打舞陰，也攻占了。

　　建安三年(198)正月，曹公回到許都，初次設(shè)置軍師祭酒的官職。三月，曹公在穰縣包圍了張繡。五月，劉表救援張繡，派兵切斷曹軍的后路。曹公撤退，張繡追擊，曹軍不能前行，于是結(jié)成連營，慢慢前進。曹公在給荀彧的信中寫道：“賊軍緊追我軍，雖然我們每天只能走幾里路，但我算計好了，到安眾縣時，一定會打敗張繡?！钡搅税脖娍h，張繡和劉表聯(lián)軍守在險要地方，曹軍前后受敵，曹公派人乘天黑在險要處挖鑿一條地道，把輜重物資全部偷運過去，又設(shè)下伏兵。此時已天亮，賊軍認(rèn)為曹公已逃走，全軍追趕。曹公便派出步兵、騎兵兩面夾攻，把賊軍打得大敗。七月，曹公回到許都。荀彧問曹公：“戰(zhàn)前您料定一定會打敗賊兵，有何根據(jù)呢？”曹公回答：“敵人攔截我回歸的部隊，與我拼死作戰(zhàn)，我由此知道一定會勝利?！?/p>

　　呂布又幫助袁術(shù)，派高順攻打劉備，曹公派夏侯惇去救援，曹軍失敗。劉備被高順擊敗。九月，曹公東征呂布。十月，大肆屠殺彭城的守軍和百姓，活捉了彭城國相侯諧。曹軍繼續(xù)前進，來到下邳。呂布親自率騎兵迎戰(zhàn)，結(jié)果被曹公打得大敗，他的勇將成廉也被活捉。曹軍乘勝追擊，直逼城下。呂布十分害怕，想要投降，陳宮等人阻止了他的計劃，他們一邊向袁術(shù)請求救兵，一邊鼓勵呂布出城迎戰(zhàn)，再次失敗后，就退回城中堅守。曹軍攻城，一時難以奏效。此時因連續(xù)作戰(zhàn)，曹軍已疲憊不堪，準(zhǔn)備收兵，便采用荀攸、郭嘉的計謀，挖開泗水和沂水，淹灌下邳城。過了一個多月，呂布的部將宋憲、魏續(xù)等人抓住陳宮，獻城投降，曹公活捉呂布、陳宮，把他們?nèi)繗⒌?。太山郡臧霸、孫觀、吳敦、尹禮、昌豨等人各自聚集隊伍，在呂布攻打劉備時，都跟隨呂布。呂布失敗后，曹公擒獲了臧霸等人，對他們盛情款待，還分割青州、徐州靠近海邊的地方委任他們治理，又從瑯笽、東海、北海三個郡國中分出部分地區(qū)，設(shè)置城陽、利城、昌慮郡?！　?/p>