微軟英偉達領(lǐng)投2萬張H100打造全球最強超算一躍成為OpenAI強勁敵
OpenAI六大勁敵之一Inflection AI,最新融資13億美元!
這家由DeepMind創(chuàng)始人之一創(chuàng)立的人工智能初創(chuàng)公司,從微軟、英偉達、和3位億萬富翁(Reid Hoffman、蓋茨和Eric Schmidt)獲得了融資。
Inflection AI發(fā)文稱,我們正在建立世界上最大的人工智能集群,將由22000張英偉達H100組成。
此輪融資后,Inflection最新估值為40億美元。以15.25億美元的總?cè)谫Y,成為融資第二大的生成式AI初創(chuàng)公司。
僅次于113億美元融資的OpenAI。
對于這番融資,網(wǎng)友表示這些大語言模型的玩家就是拿著VC的錢送給英偉達,就像某某某花了11億美元買GPU。
馬斯克也摻和一句:沒錯!
2萬多張H100,打造世界最大AI超算!
Inflection在博客中表示,將與合作伙伴CoreWeave和英偉達一起,構(gòu)建世界上最大的人工智能集群。
這個世界超大AI集群,將是前所未有。
22,000個英偉達H100 GPU集成,支持新一代大規(guī)模AI模型的訓(xùn)練和部署。
直接碾壓,Meta在5月宣布的16,000張GPU打造的集群。
2萬多張顯卡加起來,意味著超級AI集群在16位精度模式,能夠?qū)崿F(xiàn)驚人的22 exaFLOPS運算次數(shù)。如果利用較低的精度,就會更快了。
首席執(zhí)行官Suleyman表示,這大約是用于訓(xùn)練GPT4的計算量的3倍。
在TOP500超級計算機榜單中,Inflection估計,22k H100集群能夠排在第二,甚至直逼榜首。盡管主要針對AI,而不是科學(xué)計算的應(yīng)用進行了優(yōu)化。
就6月最新發(fā)布榜單來看,位列世界第一的超算是美國Frontier,第二是日本的「富岳」。
目前,Inflection也在MLPerf基準(zhǔn)測試中測試最新集群的性能。
27日,Inflection和英偉達、CoreWeave打造的由3,584個H100 GPU組成的集群,刷榜MLPerf。
短短11分鐘,內(nèi)完成了基于GPT-3的大規(guī)?;鶞?zhǔn)測試。
英偉達黃仁勛表示,人工智能革命的一個強大好處是能夠使用自然的對話語言與超級計算機交互,以簡化我們?nèi)粘I畹母鱾€方面。
Inflection的的工作,部署英偉達人工智能技術(shù)來開發(fā)、訓(xùn)練和部署大規(guī)模生成人工智能模型,從而實現(xiàn)令人驚嘆的個人數(shù)字助理。
當(dāng)然,這筆資金也將用來支持Inflection構(gòu)建和設(shè)計在5月推出的第一款產(chǎn)品「Pi」。
成立一年多,Inflection開發(fā)了最復(fù)雜的大型語言模型之一Inflection-1,讓人們能夠以最簡單、自然的方式與Pi進行交互,還能獲得快速、相關(guān)和有用的信息和建議。
值得一提的是,OpenAI最大投資人微軟也特別看好這家初創(chuàng)公司。
微軟CTO兼人工智能執(zhí)行副總裁Kevin Scott稱,
我們很自豪能支持Inflection,因為他們追求更值得信賴和更個性化的人工智能體驗。這是一個激動人心的時刻,像Inflection這樣雄心勃勃的人工智能公司正在以可訪問、易于使用、展示人工智能多種可能性的變革性產(chǎn)品引領(lǐng)行業(yè)。
就連谷歌前CEO Eric Schmidt大家贊賞,InflectionAI取得了令人難以置信的成就。在不到一年的時間里,他們開發(fā)了最復(fù)雜的LLM之一,并推出了Pi,第一個具有高情商的個人AI產(chǎn)品。
此前,Inflection在2022年初的第一輪融資中從Greylock、微軟、Reid Hoffman、比爾·蓋茨、Eric Schmidt、Mike Schroepfer、Demis Hassabis、Will.i.am、Horizons Ventures和Dragoneer籌集了2.25億美元。
根據(jù)Crunchbase統(tǒng)計的每輪最大AI融資機構(gòu)中,OpenAI位列第一,Inflection排在了第四位。
值得一提的是,最新一期融資結(jié)束,Inflection以40億美元估值僅次于OpenAI。下表列出了,與OpenAI勁敵的估值狀況。
公司估值OpenAI113億美元Inflection AI40億美元Anthropic15億美元Cohere4.45億美元Adept4.15億美元Character.ai1.5億美元Stability AI約1億美元這家名為Inflection AI的人工智能初創(chuàng)公司,由LinkedIn聯(lián)合創(chuàng)始人Reid Hoffman、DeepMind聯(lián)合創(chuàng)始人Mustafa Suleyman,以及前DeepMind研究員Karén Simonyan聯(lián)合創(chuàng)辦。
其中,團隊由來自DeepMind、谷歌、OpenAI和微軟的35名員工組成,Suleyman出任首席執(zhí)行官。
Suleyman曾幫助谷歌開發(fā)了LaMDA對話模型,2022年1月,因理念與谷歌出現(xiàn)分歧提出離職。
目前,這家總部位于加利福尼亞州帕洛阿爾托的初創(chuàng)公司,有約35名員工。
一流大模型Inflection-1,碾壓PaLM,GPT-3.5
就在前幾天,Inflection發(fā)布了自研的最領(lǐng)先大型語言模型Inflection-1,也是Pi背后的支柱。
Inflection-1在一個非常大的數(shù)據(jù)集上,使用數(shù)千個英偉達H100 GPU進行了訓(xùn)練。
技術(shù)報告顯示,Inflection-1是其計算類中最好的模型,在廣泛的基準(zhǔn)測試中優(yōu)于GPT-3.5、LLaMA、Chinchilla和PaLM-540B。
技術(shù)報告:
https://inflection.ai/assets/Inflection-1.pdf
根據(jù)同一計算類中的模型(定義為最多使用PaLM-540B的FLOP訓(xùn)練的模型),研究人員在廣泛的基準(zhǔn)上評估了Inflection-1。
以下是6個最受歡迎的基準(zhǔn),Inflection-1為大規(guī)模多任務(wù)語言理解(MMLU)樹立了新標(biāo)準(zhǔn)。
大規(guī)模多任務(wù)語言理解(MMLU)是一個常用的基準(zhǔn)測試,測試非常廣泛的學(xué)術(shù)知識。該基準(zhǔn)包括57個不同類別的考試,從高中、大學(xué)到專業(yè)水平的難度。
在這個基準(zhǔn)測試中,Inflection-1是同類中性能最好的基礎(chǔ)模型,優(yōu)于Meta的LLaMA、OpenAI的GPT 3.5和谷歌的PaLM540B。
Inflection-1在所有57個任務(wù)中平均達到72.7%,在5個不同的任務(wù)中準(zhǔn)確率超過90%。
在15個任務(wù)中,Inflection-1的準(zhǔn)確率超過85%。相比之下,人類專家的平均得分為89.8%,而人類評分者的平均得分為34.5%。
Inflection-1與MMLU基準(zhǔn)上的許多模型進行比較。最新模型優(yōu)于計算類中的所有模型,包括GPT-3.5和LLaMA。
Inflection-1在「小知識問題」上表現(xiàn)更好
在衡量語言模型閉卷問答能力的兩個基準(zhǔn)測試TriviaQA和Natural Questions上,Inflection-1優(yōu)于LLaMA、Chinchilla和PaLM540B,比LLaMA的TriviaQA性能提高了2.1%。
在Natural Questions上,Inflection-1比PaLM540B高出8.6%,比LLaMA高出6%。事實上,該模型能夠與谷歌最新的旗艦?zāi)P蚉aLM 2-L競爭。
在小知識問答方面,Inflection-1模型以相當(dāng)大的優(yōu)勢碾壓LLaMA,并與谷歌最近的旗艦?zāi)P蚉aLM 2-L競爭
值得注意的是,技術(shù)報告中展示的結(jié)果是Inflection-1基礎(chǔ)模型的結(jié)果,該模型沒有經(jīng)過任何微調(diào)或?qū)R。
Inflection-1通過專有的適應(yīng)過程被進一步改造,為聊天機器人Pi加滿buff。
Pi:情商遠(yuǎn)超ChatGPT,主打的就是一個陪伴
今年5月,Inflection重磅發(fā)布了全新的聊天機器人——Pi。
通過簡單的交流你就會發(fā)現(xiàn),它不僅是一個「聰明」的AI,更是一位「親密」的朋友。
Pi友好輕松的口吻,以及根據(jù)此前對話進行總結(jié)的能力,會讓你強烈感覺自己是在與一位真實的朋友交流。
此外,你還能選擇多達4種不同的語音,把生成的文字回復(fù)非常自然地講出來。
體驗地址:
https://pi.ai/talk
眾所周知,現(xiàn)在的語言模型,大多都是直截了當(dāng)?shù)亟o出問題的答案,并等待用戶的下一個提問。
相比之下,Pi則表現(xiàn)出了強烈好奇心,并且非??释M行聊天。而這也提高了它在使用自然語言方面的能力。
舉個例子,比如我們讓AI寫個「冒泡排序」。
秒秒鐘,ChatGPT就生成了相應(yīng)的Python代碼,并且配上了簡單的講解。
對于同樣的問題,Pi的表現(xiàn)更像是一位耐心的老師。
首先,它會為你簡單地介紹什么是「冒泡排序」。緊接著會詢問,你是想要某種編程語言的具體實現(xiàn),還是更加通俗易懂的解釋。
如果給出的是一個泛泛的回答,Pi并不會自顧自地隨機生成一段代碼,而是繼續(xù)追問我們想要的是哪種語言。
接著,就有些出乎意料了——Pi在一行一行地給我們解釋,每段代碼的含義是什么。
在加上語音之后,就更有「它好像真的想教會我」那味了。
Pi與個人AI的未來
作為個性化人工智能的代表,Pi可以說是充分地展現(xiàn)了生成式AI領(lǐng)域取得的進展,以及人類與技術(shù)互動的革命。
隨著不斷改進,它們很可能成為那些正在尋求與潛在客戶和現(xiàn)有客戶建立有意義、個性化和有效聯(lián)系的企業(yè)的必備工具。
像Pi這樣的AI伴侶聊天機器人是似乎預(yù)示著這樣一個未來:其中AI不僅是一種工具,也是社交生態(tài)系統(tǒng)的組成部分,而人工智能和人類之間的界線也將變得模糊不清。
不過,在讓AI更深入地滲透到我們的生活之前,還是要保持警覺和謹(jǐn)慎。隱私、安全,以及保持人與人之間真實的聯(lián)系,始終都應(yīng)是我們的首要任務(wù)。
網(wǎng)友熱評
Stability AI的創(chuàng)始人兼首席執(zhí)行官Mohammad Emad Mostaque表示,我所看到的最大的H100訂單是8萬。有很多2萬以上的訂單。只是說說而已。
我不知道集群的成本是多少,但假設(shè)H100的MSRP是4萬,任何折扣都被其他成本(網(wǎng)絡(luò)交換機、機架、CPU、存儲、冷卻、建筑)所平衡,不是到這些資金中是否大約8.8億是用于制造集群?
是的,所以LLMs正在向超大規(guī)模發(fā)展。22000張H100,13億美元的資金,不知道這將產(chǎn)生什么模型,但這是一個很大的計算量。
還有網(wǎng)友對此波操作表示不懂,從英偉達公司籌集錢,再把所有的錢都花在英偉達公司的GPU上???
英偉達迷之操作,有網(wǎng)友表示,建立在GPU上的服務(wù)價值,可能超過GPU市場價值的100倍。通過實物購買股權(quán)可以獲得相當(dāng)于毛利率的折扣。英偉達用GPU(按成本)支付以這些GPU市場價格為價值的股權(quán)。