畢業(yè)后，劉珍年被分到奉系軍閥李景林部當迫擊炮連長，戰(zhàn)場上被炮彈皮削掉半寸深的頭蓋骨，居然不死，笑謂這道傷疤為軍人之花。李景林失敗后，劉珍年也蟄居京津養(yǎng)傷。他從來不吃空餉、不撈偏財，竟至于窘迫到一度每日兩餐，均用熱水干糧果腹。然豪情不輟，以此為苦其心志，餓其體膚的磨礪。不久，張宗昌在山東組建模范團，劉珍年在他的人馬里做了營長，一年后模范團擴張成軍，他水漲船高當了旅長，一仗未打，大家升官。劉珍年卻揪然不樂，輕蔑地評價曾做過湖南督軍的張敬堯：“張敬堯瞪圓眼睛，一副流氓腔調(diào)！”南軍北上，張部之流無智無膽，接連戰(zhàn)敗，束手嗟嘆，果然要將隊伍交給劉珍年來收拾爛攤子。

此時局面糜爛，部下勸劉珍年不要接手。劉乃笑道：“前漢完了有后漢，他們不干我們干，每于艱難見手段，所學所用，正斯其時。大家跟著我，勢必要闖出一番生面！”其后將麾下余部兩千多人馬，復又整編成一個團，遂從旅長降為團長，這次職位小了，卻顯出精神蓬勃的樣子。果然兵隨將能，劉珍年居然把這支失望疑慮的破爛人馬，帶成生龍活虎的勁旅。南軍雖勢如破竹，一路沖鋒陷陣，如入無人之境，但是魯南遇見劉珍年，就始終不能踏進一步，確實也是因為劉是真的能打硬仗，單是混跡在山東境內(nèi)的敵手，舊桂系軍閥劉志陸，就不是善茬。

此人在二十八歲就做到“鎮(zhèn)守使”，自命不凡，嘗與人言：“陸軍天下重，志陸寧以微？”陸榮廷失敗后，因為投靠張宗昌也盤踞膠東，一連吞并了幾股小軍閥。以劉珍年乃籍籍無名之新晉小輩，所以極為輕視，命令其改換門庭，同時率軍包圍劉珍年部于掖縣，以示震懾。劉珍年勃然大怒：“講打，咱不外行！”一戰(zhàn)之下，以驍勇善戰(zhàn)著稱的劉志陸，號稱數(shù)萬精兵，竟幾日內(nèi)全盤潰散，只身倉皇而逃，劉珍年相繼消滅和吃掉了膠東一帶的小軍閥，所部擴編成五個師，躋身膠東最大實力派，氣候漸成，有“膠東王”之稱。此時的劉珍年，完成了一個差生的逆襲，而且剛剛三十歲。