98k的故事要從第一次世界大戰(zhàn)說起。一戰(zhàn)結(jié)束后，德國作為戰(zhàn)敗國，武器工業(yè)受到嚴格的限制，甚至連步槍都不能生產(chǎn)!但即便如此，德國仍然在20年代展開了新步槍的研發(fā)設(shè)計。為了避開凡爾賽條約的限制，新步槍的研制是以“卡賓槍(騎兵用的短步槍)”的名義進行的。

1924年，一種使用了600毫米槍管和標準的G98槍機的新型步槍被設(shè)計出來，這種步槍相比原來的G98長步槍要短一些，卻比K98卡賓槍長得多。配合新式的7.92毫米sS步槍彈，這種新步槍的射程和威力均得到了較大提升，與G98長步槍的性能接近。這種新步槍被命名為“標準型步槍”。德軍并未大量換裝這種新型武器，而是將其出口到世界各地，其中也包括中國。為了繞開凡爾賽條約，這些標準型步槍絕大多數(shù)都是由比利時、瑞士、捷克和奧地利生產(chǎn)的。

由于新步槍的性能已經(jīng)被證明是值得信賴的，1929年，德國國防軍開始測試600毫米槍管長度的新步槍。但參加測試的卻并非是“標準型步槍”，而是將使用740毫米槍管的K98b卡賓槍改造成短槍管步槍進行測試。與標準型步槍相比，這些短槍管步槍使用了K98b的下彎式拉機柄，背帶環(huán)也被移到了槍托左側(cè)，此外還有一些細節(jié)上的改動。測試的結(jié)果令人滿意。

雖然1935年，這種步槍才以Kar.98k的名義進入德軍服役，但早在1933年，新生產(chǎn)的標準型步槍就已經(jīng)全部開始使用98k標志性的下彎式拉機柄了。1935年6月21日，德軍正式將K98k作為制式武器。盡管名為“短卡賓槍”(大寫的K指“卡賓槍”，小寫的k指“短”)，但K98k的長度與同期的步槍長度基本一致。事實上，這個“短卡賓槍”是相比和G98一樣長的K98b而言的。

盡管K98k的性能在手動步槍中相當出色，但面對美軍廣泛裝備的M1半自動步槍與蘇軍性能優(yōu)良的SVT40半自動步槍，K98k的性能，特別是火力就落后不少了。雖然德軍后來也裝備了G41與G43兩種半自動步槍，但限于德國的產(chǎn)能不足，K98k的生產(chǎn)一直持續(xù)到戰(zhàn)爭結(jié)束為止。由于戰(zhàn)爭的大量需求以及盟軍對德國本土的戰(zhàn)略轟炸，K98k的制造水平也隨著戰(zhàn)爭進行每況愈下。