英偉達(dá)在AI領(lǐng)域取得了壟斷地位，主要得益于其高性能GPU的數(shù)量優(yōu)勢。GPU在深度學(xué)習(xí)領(lǐng)域的優(yōu)越性得到了吳恩達(dá)等人的認(rèn)可，英偉達(dá)通過對KDA開發(fā)和社區(qū)的持續(xù)投入，使得KDA和各類AI框架深度綁定。其他公司想要挑戰(zhàn)英偉達(dá)的地位，但都來得太晚，連AMD和英特爾都難以撼動英偉達(dá)在AI領(lǐng)域的地位。英偉達(dá)還在努力迭代其產(chǎn)品，提升在AI領(lǐng)域的絕對優(yōu)勢。在進(jìn)行神經(jīng)網(wǎng)絡(luò)訓(xùn)練時(shí)，裁剪掉不重要的參數(shù)可以極大地提升訓(xùn)練效率。

英偉達(dá)通過針對稀疏矩陣的優(yōu)化、特定的減脂算法、存儲精度的動態(tài)調(diào)整、nv link和nv switch等技術(shù)，提高了單個(gè)芯片的算力，加速了神經(jīng)網(wǎng)絡(luò)訓(xùn)練速度。他們的產(chǎn)品已經(jīng)能夠影響到整個(gè)AI產(chǎn)業(yè)的戰(zhàn)局和發(fā)展速度。雖然谷歌的TPU訓(xùn)練效率比英偉達(dá)的產(chǎn)品高，但谷歌的芯片不對外出售，且兩者并非處于完全相同的賽道。如果想要加入AI領(lǐng)域的競爭，要么財(cái)大氣粗，有自己的生態(tài)，可以完全為自己的生態(tài)打造專屬芯片，要么就只能從英偉達(dá)那里買大量的高端顯卡。整個(gè)計(jì)算芯片的設(shè)計(jì)制造，以及AI生態(tài)的建設(shè)，依舊是AI領(lǐng)域需要突破的關(guān)鍵。

- 英偉達(dá)在AI領(lǐng)域取得了壟斷地位，市場占有率超過80%

- GPU在深度學(xué)習(xí)領(lǐng)域的優(yōu)越性得到認(rèn)可，成為深度學(xué)習(xí)領(lǐng)域的標(biāo)配

- 英偉達(dá)通過對KDA開發(fā)和社區(qū)的持續(xù)投入，使得KDA和各類AI框架深度綁定

- 其他公司想要挑戰(zhàn)英偉達(dá)的地位，但來的太晚，幾乎不可能撼動英偉達(dá)在AI領(lǐng)域的地位

- 人工智能對精度的要求不高，進(jìn)行芯片優(yōu)化時(shí)，干的最多的事情就是偷工減料

- 英偉達(dá)推出了針對稀疏矩陣的優(yōu)化，通過配合特定的減脂算法，訓(xùn)練用的矩陣會變?yōu)闄M向上，每四個(gè)連續(xù)數(shù)據(jù)最多只有兩個(gè)非零數(shù)據(jù)的情況，此時(shí)的顯卡就可以直接把矩陣橫向壓縮成原來的一半進(jìn)行計(jì)算，效率自然就提升了一倍。

- 神經(jīng)網(wǎng)絡(luò)中很多時(shí)候并不需要高精度，早期大家開始采用半精度來儲存部分參數(shù)，進(jìn)一步開發(fā)出了八倍存儲格式，不同參數(shù)對于精度的需求是不同的，一般來說，存儲精度得以系統(tǒng)中的最高需求為準(zhǔn)。

- 英偉達(dá)最新的hopper架構(gòu)中，包含的transformer引擎，能做到動態(tài)調(diào)整參數(shù)的精度，對數(shù)據(jù)進(jìn)行存儲和計(jì)算，精度每下降一半，自然就意味著一倍的效率提升。

- 英偉達(dá)研發(fā)了nv link和nv switch，來加速其pu之間的通信，許多公司才會購買大量顯卡來疊加算力，以求大幅減少訓(xùn)練新模型所需的時(shí)間。

- 英偉達(dá)的產(chǎn)品是當(dāng)前可出售的產(chǎn)品中最好用的，其他公司不必?fù)?dān)心自己的數(shù)據(jù)被英偉達(dá)偷了去。

- 英偉達(dá)從一個(gè)游戲產(chǎn)業(yè)公司，奔向ai基建公司的歷程，也是一個(gè)美國芯片產(chǎn)業(yè)一貫以來的縮影，靠民用需求，帆布核心技術(shù)發(fā)展，需求是技術(shù)真母市場是技術(shù)支付。

- 新的工業(yè)革命已經(jīng)到來，爺爺技術(shù)的發(fā)展不僅加速了人類生產(chǎn)力的發(fā)展，也加速了那些落后產(chǎn)能的淘汰，現(xiàn)在各行各業(yè)都在變革的前夕，強(qiáng)者愈強(qiáng)，弱者無用，如果不奮力追上，可能真的已經(jīng)不需要弱者了。

??00:23 英偉達(dá)在AI基建領(lǐng)域產(chǎn)生了絕對的優(yōu)勢，甚至幾乎壟斷了行業(yè)

??00:56 英偉達(dá)在AI加速芯片領(lǐng)域中的市場占有率已經(jīng)超過了80%，全球超級計(jì)算機(jī)500強(qiáng)榜單中90%的新系統(tǒng)都搭載了英偉達(dá)的產(chǎn)品

??02:19 英偉達(dá)在1996年就發(fā)布了初代GPU G Force，老黃就一直在關(guān)注有沒有人在研究GPU在其他領(lǐng)域的意義

??03:09 吳恩達(dá)探索出了用GPU來進(jìn)行深度學(xué)習(xí)訓(xùn)練的方法，并發(fā)表了論文，這讓許多人認(rèn)識到了GPU在深度學(xué)習(xí)領(lǐng)域的優(yōu)越性

??04:37 科大擴(kuò)大開放給大眾使用，打造酷大的生態(tài)圈

??05:02 華爾街不懂人工智能，英偉達(dá)股價(jià)暴跌90%

??06:01 使用支持ka的高性能顯卡，讓深度學(xué)習(xí)跑得更快

??07:02 賣芯片的公司有機(jī)會嗎？

??08:00 人工智能對精度的要求不高，偷工減料提升訓(xùn)練效率

??09:01 電腦認(rèn)死理，即使參數(shù)調(diào)成零也會老老實(shí)實(shí)算一遍

??09:12 a100 顯卡針對稀疏矩陣的優(yōu)化

??10:05 存儲精度以系統(tǒng)中的最高需求為準(zhǔn)

??11:14 英偉達(dá)強(qiáng)勢進(jìn)入自動駕駛領(lǐng)域

??11:45 英偉達(dá)的硬件和工具集已經(jīng)能夠影響整個(gè) AI 產(chǎn)業(yè)的戰(zhàn)局和發(fā)展速度

??12:21 英偉達(dá)的產(chǎn)品未必是現(xiàn)在最適合 AI 訓(xùn)練的

??13:01 英偉達(dá)只賣鏟子，不參與大模型的具體競爭

??13:25 芯片是一切的基礎(chǔ)

??13:29 自己的ai大模型很重要，但計(jì)算芯片的設(shè)計(jì)制造和ai生態(tài)的建設(shè)更為重要

??14:11 新的工業(yè)革命已經(jīng)到來，落后產(chǎn)能將被淘汰

??14:26 在ai領(lǐng)域，如果不奮力追上，可能真的已經(jīng)不需要弱者了