最美情侣中文字幕电影,在线麻豆精品传媒,在线网站高清黄,久久黄色视频

歡迎光臨散文網 會員登陸 & 注冊

國產調度器之光——Fsched到底有多能打?

2023-08-25 09:26 作者:速石科技-靈魂工作室  | 我要投稿


這是一篇推薦我們速石自研調度器——Fsched的文章。看起來在專門寫調度器,但又不完全在寫。往下看,你就懂了。

本篇一共五個章節(jié):

一、介紹一下主角——速石自研調度器Fsched

二、只要有個調度器,就夠了嗎?

三、全面對比:速石研發(fā)平臺 VS LSF Suite

四、如果你想嘗試AI——

五、不止半導體領域。。。。

?

介紹一下主角——速石自研調度器Fsched

?

fastone Scheduler,簡稱Fsched,是速石科技所有產品的核心調度組件。Ta是面向HPC集群的操作系統(tǒng),是HPC集群的“大腦”,用于對HPC集群內的計算資源進行管理、監(jiān)控,對用戶提交的任務進行統(tǒng)一管理、分發(fā)和遠程執(zhí)行。

Fsched是速石科技基于開源的Slurm版本進化而來的全新產品。

?

1、我們的Fsched調度器到底厲害在哪?

先看一組我們在半導體領域用戶的真實驗證數(shù)據(jù)

5個月時間內:

CPU調度峰值達到5萬核;

提交了超過8000萬Jobs

構建超過700臺機器組成的大規(guī)模集群;

使用量約3000萬核時。


Fsched性能指標

吞吐量:

1000 jobs/second

響應時間:

1 ms

集群規(guī)模:

單個Fsched集群能夠支持的最大節(jié)點數(shù):1000

單個Fsched集群能夠支持的最大CPU核數(shù):30000

?

總結一下,F(xiàn)sched調度器優(yōu)勢:

1. 完全由速石獨立開發(fā),性能卓越;

2. 我們能提供代碼級技術支持;

3. 支持市面上幾乎所有EDA工具;

4. 服務了100+家不同類型的半導體行業(yè)用戶;

5. 兼容LSF/SGE等調度器,使用體驗不變。

?

關于調度器科普和不同流派近二十年的發(fā)展歷程,可以點擊回顧:億萬打工人的夢:16萬個CPU隨你用

?

2、代碼級技術支持有什么不一樣?

代碼級技術支持的特別之處主要體現(xiàn)在解決問題的路徑上。一句話,我們能做很多人做不到的事情。

?

一般問題:我們站在產品視角來解決

?

特殊問題:我們以開發(fā)者身份來解決比如一些特殊調度策略的改造與優(yōu)化,我們是開發(fā)者,所以能做。包括各種調度器日志的監(jiān)控分析,優(yōu)化調度器的提交方式和腳本等等。

DEBUG:深入代碼級的技術支持舉一個典型例子:當研發(fā)提交任務出現(xiàn)異常狀態(tài),怎么辦?

我們首先需要定位與任務相關的日志。日志分為:基礎設施層日志、中間件層日志、應用層日志等。IT和研發(fā)工程師的關注點不一樣:IT工程師一般看基礎設施層日志,CAD和研發(fā)工程師看中間件層日志和應用層日志。不同角色各看各的,定位問題效率低。

我們通過Fsched調度器:

1. 把調度任務的異常日志分類,找出是哪一層的問題;

2. 任務狀態(tài)跟蹤,通過異常應用找出相應進程和IO信息,方便判斷;

3. 通過數(shù)據(jù)分析抓取日志中的關鍵信息。

找到問題,over。


3、Slurm之上,我們還做了什么?

Slurm是厲害的:全球60%的TOP500超算中心和超大規(guī)模集群(包括我國的天河二號等)都采用Slurm作為調度系統(tǒng)。它擁有容錯率高、支持異構資源、高度可擴展等優(yōu)點,適用性相當強。

那么,基于Slurm之上,我們還做了些什么?

?

從0到1,幫助用戶更快,更簡單地用起來

1.產品級IT自動化管理,標準化地調用資源,保證環(huán)境一致性,降低用戶配置復雜度和出錯率,上手更容易;

2. 從業(yè)務出發(fā),F(xiàn)sched與底層資源的聯(lián)動性強,根據(jù)任務需求自動伸縮,更符合云上使用方式。

從1到10,讓用戶用得穩(wěn)定,用得放心

1.對Slurm開源版進行修復與增強。修復Slurm開源版在復雜環(huán)境下任務異常崩潰等問題,增加了混合云智能調度能力;

2. 基于Wrapper組件,F(xiàn)sched對上層EDA應用進行了兼容與優(yōu)化,保證用戶使用體驗不變;PS:同樣是Wrapper,水平也是有高下的。要達到多年戰(zhàn)斗在一線的專業(yè)高級口譯的經驗和水平,只能說:有難度。

3. 根據(jù)最佳實踐經驗總結的流程與規(guī)則,能優(yōu)化EDA Workflow,提高調度器使用效率;

4.代碼級支持能力讓用戶無后顧之憂。

?

只要有個調度器,就夠了嗎?

?

答案自然是否定的。

?

為什么?

或許,我們可以換個角度來回答這個問題。

?

就像汽車出現(xiàn)之前,用戶的期望永遠是——1匹更快的馬一樣。

在當下芯片設計研發(fā)領域,我們如果把調度器類比馬,那么汽車是什么呢?

?

我們給大家簡單描繪一下:

一個站在整個芯片設計研發(fā)體系和架構視角來滿足EDA行業(yè)用戶性能、功能、體驗的產品。

1. Ta是完整的一體化產品,功能緊密耦合,且經過層層實戰(zhàn)考驗;

2. Ta解決的是完整生命周期的芯片設計業(yè)務問題,調度器只是其中一個模塊;

3. Ta具有對企業(yè)未來發(fā)展的彈性,能擴展至不同規(guī)模和更多業(yè)務路線,比如AI。

而這,正是我們與其他很多產品最大的區(qū)別之一。

?

我們的產品在設計之初就是面向EDA應用,服務芯片設計研發(fā)業(yè)務場景的。這也決定了我們解決問題的出發(fā)點永遠是:是否滿足研發(fā)業(yè)務需求,然后從上至下地解決問題。

?

1、我們提供的是一整套上中下層聯(lián)動的芯片設計研發(fā)環(huán)境:

1. 連接上層EDA應用,對應用本身的運行提供支持和優(yōu)化;

2. 連接底層資源,給用戶提供更靈活,更高效使用資源的能力;

3. 結合EDA應用和底層資源的聯(lián)動和適配,給出最佳實踐經驗。

?

2、我們的功能都是面向實際業(yè)務場景設計和提供的:

1.?License調度優(yōu)化,可幫助企業(yè)用戶最大化提升License利用率,更好地規(guī)劃License購買策略,控制整體使用成本;

2. 我們能多維度監(jiān)控任務狀態(tài),提供基于EDA任務層的監(jiān)控、告警、數(shù)據(jù)統(tǒng)計分析功能與服務,讓團隊管理者監(jiān)控各個重要指標變化,從全局角度掌握項目的整體任務及資源情況,為未來項目合理規(guī)劃、集群生命周期管理、成本優(yōu)化提供支持;

?

3.?日常數(shù)據(jù)統(tǒng)計與運營分析管理,實現(xiàn)問題可追溯,可追蹤,降低成本,提升整體項目管理效率。
?

3、我們的交互方式不改變EDA用戶使用習慣。

原來怎么用,現(xiàn)在還怎么用。

?

速石研發(fā)平臺 VS LSF Suite

?

半導體行業(yè)用戶最熟悉的調度器是LSF,就不多介紹了。

不過,它背后的LSF Suite大家就不一定熟悉了。

?

來來,我們盤一下,我們速石研發(fā)平臺跟LSF Suite的區(qū)別是什么?

?

1、根本區(qū)別:設計理念不一樣

我們是站在整個芯片設計研發(fā)體系和架構視角來設計的一體化產品,解決的是完整生命周期的芯片設計業(yè)務問題,功能緊密耦合,且經過層層實戰(zhàn)考驗。而Fsched調度器只是其中一個模塊,不單獨售賣,在我們的全線企業(yè)級產品均屬內置,且與產品其他功能深度綁定。這正是我們上一節(jié)提到的面向EDA業(yè)務的產品定位決定的。

而LSF Suite里的核心調度器LSF與其他組件是不關聯(lián)的,屬于可選項。這也導致了用戶大多只接觸過LSF,而對它的其他組件沒有什么概念。

而且,因為各種功能組件之間獨立存在的,用戶使用的時候需要根據(jù)自己業(yè)務需要進行二次開發(fā)組裝,從零開始進行功能模塊需求評估、采購、對接、開發(fā)和測試驗證兼容性,才能搭建出一個完整的研發(fā)環(huán)境,時間周期也會比較長。另外還有期間的運維、后續(xù)的更新升級和功能擴展等事項。

?

2、性價比:速石研發(fā)平臺TCO更低

下圖是我們研發(fā)平臺與LSF Suite的橫向對比圖,可以清楚地看到,兩者的收費模式差別很大。

我們Fsched調度器是包含在平臺費用里的,相關組件也都是隨產品一起內置的,不單獨收費。

?

而LSF Suite除了核心調度器按使用核數(shù)收費以外,所有功能組件都需要額外收費。

?

從總擁有成本來看,對用戶來說,速石研發(fā)平臺付出的成本更低,獲得的東西更多。還有很多隱性成本沒有列在表格里,比如對接調試時間成本,人工成本,售后支持成本等等。

?

總結一下,我們跟LSF Suite的五大主要區(qū)別

1. 核心調度器Fsched完全國產自研,有代碼級支持能力;

2. 我們的產品設計初衷就是提供面向EDA業(yè)務的一整套研發(fā)環(huán)境,可擴展性強;

3. 各功能模塊緊密耦合,不單獨收費,整體性價比高;

4. 我們的CAD能力與經驗,能有效提高上中下層整體聯(lián)動效率;

5. 我們兼容LSF/SGE等調度器,使用體驗不變。

?

如果你想嘗試AI——

?

目前,AI在芯片設計領域的應用主要有兩條路線:

?

路線一:AI+EDA工具

Synopsys、Cadence與Siemens等公司紛紛在其最新工具中使用了AI技術,覆蓋先進數(shù)字與模擬芯片的設計、驗證、測試和制造環(huán)節(jié),讓開發(fā)者在芯片開發(fā)的每一個階段都可以采用借助AI的自主學習能力,提供芯片設計生產力。

當然,越來越多EDA工具也支持借助GPU進行運算加速。

?

路線二:AI算法模型訓練

Google研究人員使用10,000個芯片布局圖來訓練他們的深度學習模型——PRIME,人工智能生成的芯片的設計時間不到六個小時。

而NVIDIA設計了另一種用于芯片設計的深度學習方法——PrefixRL模型,NVIDIA使用其RL工具設計的電路比人類使用當今EDA工具設計的電路小25%,但性能相似。

?

路線一需要支持全流程EDA工具的一整套研發(fā)環(huán)境,以及構建異構資源(CPU+GPU、本地+云上)的調度及管理平臺的能力。

路線二需要的支持企業(yè)從ML/LLM模型構建、大規(guī)模訓練到最終部署需求的MLOps模塊。

我們都有。

?

另外,我們剛剛發(fā)布的一款行業(yè)知識庫聊天應用Megrez,面向企業(yè)客戶提供大語言模型的私有化部署能力,允許用戶自定義行業(yè)知識庫,實現(xiàn)領域知識的問答。

?

Megrez基于芯片設計領域提供的支持

?

不止半導體領域。。。。

?

在半導體以外的其他行業(yè),如生命科學、汽車/智能制造,我們也表現(xiàn)不錯:

?

汽車/智能制造

這樣跑COMSOL,是不是就可以發(fā)Nature了

LS-DYNA求解效率深度測評 │ 六種規(guī)模,本地VS云端5種不同硬件配置

怎么把需要45天的突發(fā)性Fluent仿真計算縮短到4天之內?

從4天到1.75小時,如何讓Bladed仿真效率提升55倍?

?

生命科學

王者帶飛LeDock!開箱即用&一鍵定位分子庫+全流程自動化,3.5小時完成20萬分子對接

1分鐘告訴你用MOE模擬200000個分子要花多少錢

155個GPU!多云場景下的Amber自由能計算

提速2920倍!用AutoDock Vina對接2800萬個分子
?

關于fastone云平臺在各種EDA應用上的表現(xiàn),可以點擊以下應用名稱查看:

HSPICE?│?OPC?│?VCS?│?Virtuoso?│?Calibre

速石科技芯片設計五部曲,前三部先睹為快:

模擬IC?│?數(shù)字IC??算法仿真
?

?

- END -

?

我們有個IC設計研發(fā)云平臺

IC設計全生命周期一站式覆蓋

調度器Fsched國產化替代、專業(yè)IT-CAD服務

100+行業(yè)客戶落地實踐

支持海內外多地協(xié)同研發(fā)與辦公

多層安全框架層層保障

?

現(xiàn)在免費試用,送200元體驗金,入股不虧~

?

你也許想了解具體的落地場景:

暴力堆機器之王——Calibre

Auto-Scale這支仙女棒如何大幅提升Virtuoso仿真效率?

揭秘20000個VCS任務背后的“搬桌子”系列故事

大規(guī)模OPC上云,5000核并行,效率提升53倍

從30天到17小時,如何讓HSPICE仿真效率提升42倍?

?

芯片設計研發(fā)平臺:

【案例】95后占半壁江山的浙桂,如何在百家爭鳴中快人一步

最強省錢攻略——IC設計公司老板必讀

芯片設計五部曲之三 | 戰(zhàn)略規(guī)劃家——算法仿真

【案例】速石X騰訊云X燧原:芯片設計“存算分離”混合云實踐

解密一顆芯片設計的全生命周期算力需求

缺人!缺錢!趕時間!初創(chuàng)IC設計公司如何“絕地求生”?

?

重大事件:

速石科技聯(lián)合芯華章,推動新一代EDA向云原生邁進

速石科技賦能里恩特,開拓更廣闊的芯片設計市場

速石科技應邀出席2023世界人工智能大會,AI研發(fā)平臺引人矚目

速石科技與深信服開啟戰(zhàn)略合作,助力芯片設計自主創(chuàng)新

速石科技成三星Foundry國內首家SAFE?云合作伙伴


速石科技(ID:Fastone_tech)

我們致力于構建為應用定義的云,讓任何應用程序,始終以自動化、更優(yōu)化和可擴展的方式,在任何基礎架構上運行。希望和你共同建立持續(xù)迭代的多云世界觀。

說出你的應用,我們就有故事~~

咨詢熱線:021-31263638 (你要是嘮這個我就不困了。)


國產調度器之光——Fsched到底有多能打?的評論 (共 條)

分享到微博請遵守國家法律
基隆市| 三河市| 桃源县| 包头市| 汽车| 聂拉木县| 台南县| 金阳县| 云梦县| 晋城| 蓬莱市| 莆田市| 株洲县| 侯马市| 江山市| 衢州市| 玉环县| 吴堡县| 宜良县| 布尔津县| 博罗县| 泗水县| 两当县| 五华县| 大石桥市| 岚皋县| 凌海市| 利川市| 呼玛县| 青田县| 德保县| 西林县| 岢岚县| 西贡区| 湖口县| 繁昌县| 浙江省| 临颍县| 鲁甸县| 南宁市| 洞头县|