建安六年（公元201年）夏四月，曹操屯兵黃河邊，進攻駐扎在倉亭的袁紹軍隊，再一次重創(chuàng)了敵人。袁紹回到冀州，收集散兵游勇，攻打附近歸降曹操的郡縣，這些郡縣的歸屬權又回到了袁紹手中。九月，曹操回到許都，開始解決后方隱患。劉備聽說曹操回歸，知道襲擊許都的計劃已經(jīng)破產(chǎn)，于是拋下軍隊投奔劉表，龔都等人的隊伍也自行解散了。

建安七年（公元202年）春正月，曹操進軍官渡。而在官渡之戰(zhàn)中戰(zhàn)敗的袁紹得了嘔血病，于當年夏五月去世。由于袁紹生前偏愛長相帥氣的三兒子袁尚，想立袁尚為接班人，只是沒有說出來。而袁紹陣營中有對立的兩派，一派是審配、逢紀，一派是辛評、郭圖。審配、逢紀支持袁尚，辛評、郭圖支持袁譚。按照傳統(tǒng)，袁譚作為長子，是當之無愧的繼承人，因此人氣更高。但在審配等人的努力下，按照袁紹的最初意愿，袁尚最終上位，接替了袁紹的位置。袁譚不服，自號車騎將軍，與袁尚決裂。曹操發(fā)兵討伐袁譚、袁尚。袁譚屯兵黎陽，袁尚派出支援袁譚的軍隊人數(shù)不多，且命令逢紀跟隨袁譚。袁譚向袁尚請求增兵，審配等人勸袁尚不要答應。袁譚大怒，把逢紀殺了。

曹操渡河進攻袁譚，袁譚向袁尚告急。袁尚本想分兵幫助袁譚，又怕袁譚不還自己的兵馬，就讓審配留守鄴城，親自帶兵相助袁譚，跟曹操在黎陽作戰(zhàn)。曹操從建安七年九月一直打到建安八年（公元203年）二月，才攻破黎陽。袁譚袁尚敗退，躲在黎陽城里不敢出來。曹操準備圍城攻打，袁譚、袁尚趁夜逃走。曹操一路追擊，一直打到鄴城，收割了麥子，攻下了陰安，帶兵回到許都。此時，郭嘉向曹操獻上“隔岸觀火”之計，要曹操暫時放棄對袁譚、袁尚的進攻，轉而攻打劉表，等袁譚、袁尚內部矛盾激化、自相殘殺之時，再順時而動，將其一舉擊破。曹操采納郭嘉建議，轉而南征劉表。曹軍到達西平的時候，袁譚、袁尚果然為了爭奪冀州打得不可開交。袁譚被袁尚打敗，逃到平原，派辛毗到曹營請降。然而辛毗也有自己的打算，雖然達到了勸曹操準降的目的，暗地里卻建議曹操以準降為契機，一舉消滅袁氏集團。

曹操回兵救袁譚，十月到了黎陽。袁尚聽說曹操到了，放棄平原回到鄴城。袁尚部下將領呂曠、呂翔背叛袁尚，投入曹操陣營。袁譚悄悄刻了將軍印，拉攏呂曠、呂翔，策劃叛變。曹操知道袁譚有詐，故意跟袁譚結親，為的是安撫他。曹操回到許都。袁尚派審配、蘇由把守鄴城，自己帶兵在平原攻打袁譚。曹操趁機進兵攻打鄴城，在離鄴城五十里的洹水屯軍。蘇由想當曹操內應，但計劃敗露，跟審配在城里交戰(zhàn)，戰(zhàn)敗后出城投奔曹操。曹操用地道襲擊鄴城，被審配從城里挖戰(zhàn)壕阻斷。審配的部將馮禮打開小門放進三百多曹軍，被審配發(fā)現(xiàn)。審配及時關閉小門，用大石頭砸死了進城的所有曹兵。曹操圍住鄴城，挖了一條周長四十里的戰(zhàn)壕。一開始戰(zhàn)壕還很淺，看上去就像能直接跨越一樣。審配認為曹操在做無用功，還嘲笑對方，堅守不出。曹操用了一夜的時間，把戰(zhàn)壕挖到二丈深，掘開漳河的堤壩放水淹城。從五月到八月，鄴城里大半的人都餓死了。袁尚聽說鄴城告急，帶著一萬多人回兵救援，在離鄴城十七里的陽平亭，靠著滏水屯兵，向城里的審配舉起火把。審配也舉火把回應，而后出城接應袁尚，結果雙方都被曹操打敗。袁尚在曲漳安營，被曹操圍困，不得已，只好派陰夔、陳琳向曹操請求投降。曹操不準降，乘勝追擊。袁尚逃到濫口，又被曹操圍困。袁尚部將馬延臨陣投降，導致袁尚軍隊大量潰散。袁尚只好逃到中山。曹操繳獲了袁尚的輜重、印綬、節(jié)鉞和衣物，將這些東西出示給袁尚的家人，導致鄴城軍心大亂、失去斗志。審配的侄子審榮趁夜打開東門放進曹軍，經(jīng)過一番激戰(zhàn)，生擒審配。審配誓死不降，被曹操斬殺。袁紹的外甥高幹帶領并州人馬投降，仍然擔任并州刺史。

據(jù)《先賢行狀》記載，審配在鄴城即將淪陷時，因痛恨辛評、郭圖敗壞冀州，就將辛評家眷盡數(shù)殺死。辛評的弟弟辛毗趕到時，兄家已死。

身在冀州的陳琳也歸順了曹操。雖然陳琳在袁紹起兵時寫檄文把曹操祖孫三代罵了個遍，但曹操愛才，并未追究。袁熙的新婚妻子甄氏留在冀州，改嫁了曹丕。曹操在袁紹墓前哭著祭拜，還奉還了搶來的家仆和寶物，為袁紹妻子提供了基本生活所需。于此同時，冀州還發(fā)生了許攸居功自傲被殺的事，記載在《魏略》中。

當年，袁紹和曹操起兵討伐董卓，袁紹問曹操：“如果我們不能成功，那要依靠什么立足？”曹操反問袁紹的意思。袁紹說：“我向南占據(jù)黃河，向北占據(jù)燕、代，兼并烏桓百姓，向南奪取天下，應該可以成功?！辈懿僬f：“我任用天下智能之士，用‘道’來引導他們，自然無往不利?！?/p>

九月，曹操知道河北百姓深受袁氏集團壓榨，免除了當年的租賦，深得民心。漢獻帝想封曹操為冀州牧，曹操拒絕，回到兗州。

在曹操占領冀州的同時，袁譚奪取了甘陵、安平、渤海、河間。袁尚逃到中山后，袁譚趁火打劫，發(fā)兵攻打袁尚，袁尚逃到故安，軍隊被袁譚收編。曹操給袁譚寫信，怪罪袁譚不守信用，跟袁譚斷絕了婚約，讓女兒回到自己身邊，然后進軍攻打袁譚。袁譚不敢迎戰(zhàn)，逃到南皮。十二月，曹操進軍平原，平定了附近各縣。

建安十年（公元205年）春正月，曹操打敗袁譚，將其殺死，連袁譚的妻小也不放過，冀州從此平定。當月，袁熙手下大將焦觸、張南叛變。袁熙、袁尚逃奔三郡烏丸。當年夏四月，故安的趙犢、霍奴等人殺了幽州刺史、涿郡太守。三郡烏丸在獷平攻打鮮于輔。秋八月，曹操攻打幽州叛賊，殺了趙犢等人，烏丸叛賊也逃之夭夭。

建安十一年（公元206年），由于已經(jīng)投降的高幹再次叛變，曹操于當年春正月出兵討伐高幹。北方冬春寒風凜冽，太行山巍峨險峻，行軍不易。曹操的《苦寒行》就是在這一時期創(chuàng)作的。高幹不敢交鋒。留下其他將領把守壺關，自己逃到匈奴境內向單于求救，遭到拒絕。曹操用三個月時間攻破壺關，高幹逃到荊州，被上洛都尉王琰擒住，被殺。

建安十二年（公元207年），曹操準備襲擊烏丸，但怕交通不便，就命人鑿開兩條水渠，一條叫“平虜渠”，一條叫“泉州渠”。眾將都說：“袁尚不過是喪家之犬，烏丸貪圖小利而不講親情，怎么會幫袁尚呢？如果我們孤軍深入，劉備一定會勸劉表偷襲許都。萬一發(fā)生變故，我們就追悔莫及了?！敝挥泄翁岢隽瞬煌庖姟９握f：“主公您雖然威震天下，但烏丸離您很遠，他們一定因此沒有防備。您趁他們沒防備，突然出擊，就能滅了他們。況且袁紹有恩于烏丸百姓，而袁尚兄弟還活著?，F(xiàn)在冀青幽并四州的百姓只是畏懼我們的武力才歸附的，我們沒有給予他們任何恩惠，如果我們舍棄四州南征劉表，一旦袁尚以烏丸為根據(jù)地招來誓死效忠袁氏的臣子，胡人那邊一有動作，烏丸百姓共同響應，靠著首領蹋頓的野心，覬覦我們的地盤，恐怕青州、冀州就丟了。況且劉表不過是個夸夸其談的家伙，他知道自己的才能比不上劉備，給劉備的任務重了怕自己駕馭不了，給劉備任務輕了又發(fā)揮不出劉備的作用，即使我們傾巢出動、遠征烏丸，也是沒有后顧之憂的?！辈懿俨杉{郭嘉的建議，帶兵北上。

袁紹在世的時候，立烏丸的所有酋長為單于，并與之通婚，其中遼西單于蹋頓最強，也最受袁紹重視。所以袁熙、袁尚投奔蹋頓，借助其勢力多次襲擾塞內。

當曹操人馬走到易城的時候，郭嘉提議說“兵貴神速”，建議曹操放棄輜重，輕兵出盧龍塞，襲擊單于庭。曹操采納了郭嘉的建議，輕兵奔襲，但塞外道路并不好走，行軍異常艱難，在向導田疇的帶領下才能保證不迷失方向。

到達盧龍塞時，曹操回頭向南，再向東行，到了秦皇漢武都到過的碣石旁，“東臨碣石，以觀滄?！?，創(chuàng)作了《觀滄海》這一篇現(xiàn)存最早的完整山水詩，借大海吐納萬有的宏闊景象，展示了自己心懷天下的遠大抱負。

據(jù)《曹瞞傳》記載，曹軍部下輕兵已經(jīng)困難到要挖地取水、殺馬匹充饑的地步了，以致后來曹操回到鄴城，還獎賞了當初阻止自己打烏丸的人。當曹操帶領的輕兵離敵軍二百多里時，對方收到情報，數(shù)萬騎兵傾巢而出，阻擋曹兵。雙方在八月遭遇，在白狼山展開激戰(zhàn)。由于曹操帶領的是輕兵，穿甲胄的少，所以畏懼心理很強。曹操登高眺望，發(fā)現(xiàn)地方陣型混亂，就帶兵猛攻，先鋒張遼帶隊把敵軍殺得大敗，蹋頓等單于被殺，投降的連漢人帶胡人有二十多萬。袁熙、袁尚幾千殘余勢力投奔遼東公孫康。曹操并沒有乘勝追擊一直不肯臣服的公孫康，而是隔岸觀火，讓公孫康與袁熙、袁尚兄弟自相殘殺。當年九月，公孫康果然把袁熙、袁尚的首級當禮物送給了曹操。

至此，袁氏集團徹底覆滅，曹操完成了統(tǒng)一北方的大業(yè)。然而，三十八歲的郭嘉也與此時病逝，令曹操悲痛萬分。直到后來赤壁之戰(zhàn)兵敗而回，曹操也還在思念郭嘉，認為如果郭嘉還活著，自己不至于如此狼狽。