公元290年，晉武帝死，惠帝即位，惠帝的妻子賈后與輔助朝政的外戚楊駿爭權。次年，賈后殺掉楊駿，由汝南王亮輔政，從而在王族內部開始了“八王之亂”。

在內亂期間，北方的匈奴左賢王劉淵、羯族石勒等人先后稱王稱帝，攻掠中原。西晉的官吏百姓紛紛逃向江南躲避戰(zhàn)亂。當時有個名叫祖逖的人，也帶著幾百戶族人渡過黃河，南遷到淮河流域去。

在逃難途中，祖逖總是把車馬讓給年老體弱的鄉(xiāng)親乘坐，自己和年輕力壯的族人背著物品徒步行走，他帶的糧食、衣服、藥品等，也毫無保留地拿出來，與大家一起使用。由于他與大家同甘共苦，又有指揮能力，大家一致推舉他當首領。幾經輾轉，最后來到京口（今江蘇省鎮(zhèn)江市）。

晉朝在北方的大勢已去，但駐守在建業(yè)（今江蘇省南京市）的瑯琊王司馬睿，手中還保存著一些兵力，掌握著江南地區(qū)的軍政大權。他任命祖逖為軍咨祭酒（軍事顧問官），祖逖幾次請兵北伐，司馬睿都不給他回音。

公元311年，匈奴貴族劉曜率軍攻陷晉朝都城洛陽（今屬河南?。?。繼惠帝位的懷帝倉皇西逃，準備前往長安（今陜西省西安市），結果半路上被劉曜的騎兵抓住，當了俘虜。消息傳到南方，引起了愛國志士的嚴重不安。

祖逖再也忍受不下去了。他特地到建業(yè)，當面對司馬睿說：“中原的百姓現(xiàn)在正在受煎熬，人人都有奮擊戎狄（指少數(shù)民族統(tǒng)治集團）的志向。大王應當發(fā)兵北伐，把飽受苦難的百姓解救出來！”

司馬睿只想保住自己的地盤和勢力，根本無意收復失地，恢復中原。聽了祖逖的話，低著頭不響。

祖逖慷慨請命道：“大王如果能下令出兵，并派我去收復中原，那里的百姓一定會望風響應！”

這樣一來，司馬睿不能不回答了，他思忖了一會，說：“既然你有這么大的決心，我就任命你為奮威將軍、豫州刺史，再撥給你1000人的糧餉和3000匹布，其余的由你自己設法籌集。”

情況很明顯，司馬睿并不是真的派祖逖去北伐。任他為將軍，卻不給一兵一卒，也不給一刀一槍，只給一些極有限的糧餉等給養(yǎng)；豫州還被匈奴兵占領著，當那里的刺史連一寸土地也沒有。

祖逖明知司馬睿是象征性地支持他北伐，但只要他同意讓自己出兵，也就可以了。于是他馬上返回京口，率領自己部屬，橫渡長江到北岸去。

船到中流時，祖逖望著滾滾東去的江水和原野茫茫的江北，不禁心潮澎湃，熱血沸騰。他猛地站起，舉起手中的船楫，叩擊著船舷，激昂地起誓道：“我這回要是不能收復中原，就像這大江之水，有去無回！”

，對天發(fā)誓，這豪邁壯烈的氣概，使部屬們深受感動。大家決心跟著他出生入死，收復中原。

祖逖渡過長江后，將部屬帶到淮陰（今屬江蘇?。┮粠яv扎。他一面招兵買馬，一面打造武器。不久，就聚集起一支2000人的隊伍。隨即揮師北上，先占領了譙城，又乘勝追到陳留（在今河南?。Ｊ盏牡乇P越來越小，而擁護祖逖的人一天比一天多。沒有多久，黃河以南的地方差不多都被他收復了。

后來，人們以“中流擊楫”來稱頌收復失地、報效國家的激烈壯懷和慷慨志節(jié)。