20世紀(jì)50年代初，北約和華約開始進(jìn)行冷戰(zhàn)對峙階段，1954年原西德制定了新的軍備計劃，并開展了與制式步槍不同的制式?jīng)_鋒槍試驗，以此為促進(jìn)國產(chǎn)沖鋒槍的研制開發(fā)。德國國內(nèi)各大槍械公司參加了這次試驗，而一些國外的進(jìn)口槍也參與其中。

同年，為參加這次試驗，HK公司的設(shè)計師蒂洛·黙勒（Tilo M?ler）、曼佛雷德·格林（Manfred Guhring）、喬治·塞德爾（Georg Seidl）和赫爾穆特·巴爾烏特（Helmut Baureuter）開始了命名為“64號工程”的設(shè)計工作，這項設(shè)計的成品是使G3步槍小型化的沖鋒槍，命名為MP·HK54沖鋒槍。該槍發(fā)射9×19 mm手槍彈，準(zhǔn)星與初期的CETME步槍相似，呈圓錐形，照門則與后期的CETME步槍相似，為翻轉(zhuǎn)式。

20世紀(jì)60年代初，HK公司忙于G3步槍的生產(chǎn)，末能顧及HK54的發(fā)展，直到1964年HK54尚未投入生產(chǎn)，僅有少量試制品。1965年，HK公司才公開了HK54，并向德國軍隊、國境警備隊和各州警察提供試用的樣槍。

1966年秋，西德國境警備隊將試用的MP·HK54命名為MP5（Machine Pistol 5）沖鋒槍。這個試用的名稱就這樣沿用至今。 同年瑞士警察也采用了MP5，成為第一個德國以外采用MP5的國家。

通過試用，HK公司對MP5原槍型的瞄具進(jìn)行了改進(jìn)，將翻轉(zhuǎn)式照門改為可在25～100m之間調(diào)整的回轉(zhuǎn)環(huán)式照門；露出的準(zhǔn)星改為帶防護(hù)圈的準(zhǔn)星；帶鰭狀物的槍管改為光滑的不帶鰭狀物槍管；槍管前方增加了三片式的卡筍，用以安裝消聲器、消焰器之類的各種槍口附件，經(jīng)過上述改進(jìn)的MP5被稱為MP5A1。

MP5的性能優(yōu)越，特別是它的射擊精度相當(dāng)高，這是因為MP5采用了與G3步槍一樣的半自由槍機(jī)和滾柱閉鎖方式。當(dāng)武器處于待擊狀態(tài)在機(jī)體復(fù)進(jìn)到位前，閉鎖楔鐵的閉鎖斜面將兩個滾柱向外擠開，使之卡入槍管節(jié)套的閉鎖槽內(nèi)，槍機(jī)便閉鎖住彈膛。射擊后，在火藥氣體作用下，彈殼推動機(jī)頭后退。一旦滾柱完全脫離卡槽，槍機(jī)的兩部分就一起后坐，直到撞擊拋殼挺時才將彈殼從槍右側(cè)的拋殼窗拋出。由于MP5的槍機(jī)原理，在上膛時要讓槍機(jī)快速復(fù)位，否則很容易復(fù)進(jìn)不到位。因此MP5的標(biāo)準(zhǔn)操作方式是先把拉機(jī)柄卡到拉機(jī)柄槽的尾端，裝好彈匣后，用手拍下拉機(jī)柄，讓槍機(jī)在復(fù)進(jìn)簧的推動下復(fù)位。這種操作方式是MP5的特色，所以我們可以在一些記錄片或影視作品中看到這種使勁“拍拉機(jī)柄”的瀟灑鏡頭。

另外因為MP5的槍機(jī)過輕而且還是閉膛待擊，不像前沖擊發(fā)槍機(jī)那樣到位即擊發(fā)，因此MP5的槍機(jī)框內(nèi)有一個空腔，內(nèi)裝有38.6克重的松散狀態(tài)的鎢砂作為慣性體。當(dāng)槍機(jī)前沖到位時鎢砂粒前沖抵消反跳力，防止因為槍機(jī)組高速撞擊槍管節(jié)套而產(chǎn)生反跳，導(dǎo)致閉鎖不完全，造成全自動射擊中斷。