直到1960年代初葉，T-54/55使用的D-10T系列主炮都是蘇聯(lián)主戰(zhàn)坦克的唯一裝備。因此在1950年代中期以后蘇軍發(fā)現(xiàn)主戰(zhàn)坦克已難以對付M48坦克，而裝備著APDS這一蘇聯(lián)所不具備的有力彈種（直到1966年使用D-10系列火炮的單位配發(fā)的BM-8 APDS彈藥才有所改善）的西方坦克卻能在正常距離上擊穿T-55。這種不利狀況即蘇聯(lián)開發(fā)T-62的初衷。 該車先后（其實(shí)許多計(jì)劃是平行進(jìn)行的）經(jīng)歷了139、140和141工程（Объект，羅馬轉(zhuǎn)寫：Ob'yekt，英譯為：object，一般翻譯作“計(jì)劃”或是“工程”）等許多早期設(shè)計(jì)，和165/166工程的最終樣車發(fā)展?，F(xiàn)在回顧這段歷史會(huì)發(fā)現(xiàn)這一坦克的發(fā)展充斥著蘇聯(lián)式的官僚主義作風(fēng)導(dǎo)致的繁瑣冗長研發(fā)歷程和坦克設(shè)計(jì)局間的復(fù)雜關(guān)系。

蘇聯(lián)設(shè)計(jì)師為應(yīng)對上述情況所進(jìn)行的火力升級(jí)嘗試中，較早且影響最大的是的D-54系列坦克炮，設(shè)計(jì)計(jì)劃開始于1952年,由第9設(shè)計(jì)局（ОКБ-9）設(shè)計(jì)。最初目的之一是應(yīng)對西方105毫米L7線膛坦克炮。該炮發(fā)射普通穿甲彈時(shí)初速可達(dá)到1015m/s，而發(fā)射超速穿甲彈（俄語：Бронебойный подкалиберный，大意為次口徑彈，不清楚具體是APCR還是APDS）更是能夠達(dá)到可觀的1535m/s，在一千米上的穿深為310（一說350）毫米，而D-10T只能達(dá)到185毫米。搭載D-54系列的坦克樣車有許多，而D-54系列也有很多派生型號(hào)：

D-54:配用“彩虹”單向穩(wěn)定器的早期型號(hào)，曾搭載于141工程。

D-54TS:配用更新的雙向穩(wěn)定器“閃電”，搭載于139、140、430工程。由于效果不佳，又配用新的雙向穩(wěn)定器“暴風(fēng)雪”，搭載于140工程第二樣車和142工程樣車。

U-8TS:經(jīng)過大幅修改的D-54，加強(qiáng)了身管強(qiáng)度以適應(yīng)更強(qiáng)的彈藥（推測為APDS），膛線更陡，配用更新的“彗星”雙向穩(wěn)定器，搭載于165工程（也就是后來的T-62A），獲得工廠代號(hào)U-8TS。最終由于165工程的裝備（雖然只是短期的實(shí)驗(yàn)性裝備）獲得炮兵裝備局正式代號(hào)2A24。后來又曾作為其他試驗(yàn)車的主炮。

D-60：采用同類身管設(shè)計(jì)的試驗(yàn)性牽引式反坦克炮。

雖然D-54系列作為多種試驗(yàn)車的主炮持續(xù)多年，也擁有不輸于L7的優(yōu)秀潛力，但最終沒有成為大批量裝備的制式坦克炮，僅165工程曾試驗(yàn)性裝備。

雖然OKB-520設(shè)計(jì)局將140工程的構(gòu)想用到了165工程（140工程的炮塔與150工程的車體結(jié)合成了165工程方案）上，但是此時(shí)赫魯曉夫于1958年看到了T-12 100毫米牽引型滑膛反坦克炮于其配用的新式尾翼穩(wěn)定脫殼穿甲彈（APFSDS）后十分欣賞，堅(jiān)持用它作為坦克主炮。不過T-12型反坦克炮的彈藥長度過大，無法在坦克炮塔內(nèi)順利裝填和拋殼，于是又OKB-9設(shè)計(jì)局在D-54（U-8T）的基礎(chǔ)上研發(fā)了U-5T型滑膛坦克炮，為了在縮短彈藥長度的同時(shí)保證威力，將口徑擴(kuò)大至115毫米，并使用了一個(gè)大錐度的粗短藥筒。U-5T沒有D-54系列一貫的炮口制退器，而抽煙裝置也移到身管中部。520設(shè)計(jì)局下屬的24研究中心設(shè)法將其成功裝車于165工程，新車代號(hào)166工程。

由于滑膛炮在那個(gè)年代是新生事物，對于其效能存有一定擔(dān)憂，所以軍方?jīng)Q定將165工程與166工程同時(shí)投入試生產(chǎn)，165工程命名為T-62A，而166就是現(xiàn)在的T-62工程。[4]經(jīng)過一段時(shí)間的裝備，軍方發(fā)現(xiàn)，雖然U-8TS的性能不輸于（甚至在對垂直裝甲的侵徹力方面有微弱優(yōu)勢且精度更佳）U-5T，但是脫殼尾翼穩(wěn)定穿甲彈特有的轉(zhuǎn)正效應(yīng)優(yōu)勢在對于傾斜裝甲的打擊效果上更勝一籌（那個(gè)年代線膛炮還無法發(fā)射APFSDS）。鑒于當(dāng)時(shí)坦克已經(jīng)廣泛采用傾斜裝甲，且在實(shí)戰(zhàn)中以理想的垂直角度命中裝甲的可能性很低，U-5T總體優(yōu)勢明顯。于是，在短暫的并行裝備試驗(yàn)期后，T-62A的生產(chǎn)與裝備被終止，僅產(chǎn)數(shù)輛。T-62最終大規(guī)模裝備。

有一種傳聞?wù)f1961年一名伊朗軍官駕M60A1逃到蘇聯(lián)，蘇聯(lián)經(jīng)評(píng)估后重新進(jìn)行了該坦克的防護(hù)設(shè)計(jì)[5]?但是這極不正確因?yàn)楫?dāng)時(shí)M60A1并不存在。T-62的觀瞄設(shè)備都和T-55一致，只是炮手用了新的TSh-2B-41瞄準(zhǔn)鏡有4倍和7倍的變焦。同時(shí)還配有光學(xué)測距儀。它是首款徹底實(shí)現(xiàn)核防護(hù)的蘇聯(lián)坦克，并且配有自動(dòng)拋殼機(jī)，[8]?T-62型坦克自1961年開始生產(chǎn)，一直生產(chǎn)到1975年。

T-62型坦克一度是蘇聯(lián)裝甲部隊(duì)的主要裝備，代替了一部分T-55型坦克（雖然T-55生產(chǎn)的時(shí)間和產(chǎn)量都超過T-62）。T-62型坦克后來被T-64及T-72主戰(zhàn)坦克所代替。