奧卡姆剃刀

Occam's razor

定義：在所有符合實(shí)驗(yàn)數(shù)據(jù)的模型中，簡單的模型優(yōu)于復(fù)雜模型。

學(xué)科：計(jì)算機(jī)科學(xué)技術(shù)_人工智能_機(jī)器學(xué)習(xí)

相關(guān)名詞：沒有免費(fèi)午餐定理 數(shù)學(xué)模型 過擬合

圖片來源：視覺中國

【延伸閱讀】

奧卡姆剃刀是一個(gè)形象性的說法，與頭發(fā)、胡須沒有任何聯(lián)系，而是一個(gè)解決問題的原則。公元14世紀(jì)，來自奧卡姆的英格蘭邏輯學(xué)家威廉（William of Ockham）對當(dāng)時(shí)關(guān)于“共相”“本質(zhì)”之類無休止的爭吵感到厭倦，于是著書立說，表示只承認(rèn)確實(shí)存在的東西，而那些空洞的普遍性要領(lǐng)都是無用之物，應(yīng)當(dāng)無情地予以“剃除”。他所主張的“思維經(jīng)濟(jì)（簡潔）原則”，概括起來就是“如無必要，勿增實(shí)體”。后來人們就將這個(gè)理念稱為“奧卡姆剃刀”。

奧卡姆剃刀的基本含義是“在諸多相互競爭的理論中，選擇假設(shè)最小的”，也即最簡單的可能就是最正確的，切勿浪費(fèi)較多東西去做那些用較少東西同樣可以做好的事情。簡而言之，就是保持事情的簡單性，要馭繁于簡，而不要人為地把事情復(fù)雜化，自尋煩惱。

奧卡姆剃刀在科研、管理、投資等領(lǐng)域作為一種指導(dǎo)原則而廣泛應(yīng)用，在沒有經(jīng)驗(yàn)證據(jù)的狀況下，它可以作為一種快速決策和建立真理的手段。在人工智能領(lǐng)域，機(jī)器學(xué)習(xí)的過程中，選擇復(fù)雜性低一點(diǎn)的數(shù)學(xué)模型，算法的表現(xiàn)往往會更好。雖然奧卡姆剃刀不是在所有的場合都適用，但它是一個(gè)具有啟發(fā)性的指導(dǎo)原則，其核心意義在于不要將已經(jīng)很復(fù)雜的問題人為地更加復(fù)雜化，而在模型上化繁為簡是相對正確的途徑。