燧原科技加入人工智能開放計(jì)算體系-DeepLink，共建AI軟硬件生態(tài)

2023/7/7 17:14:21 企業(yè)供稿

燧原科技與上海人工智能實(shí)驗(yàn)室合作，基于人工智能開放計(jì)算體系-DeepLink共建AI軟硬件生態(tài)，當(dāng)前雙方的合作主要基于燧原科技已量產(chǎn)的第二代訓(xùn)練產(chǎn)品云燧T20和第二代推理產(chǎn)品云燧i20。

　　2022年11月，燧原科技與上海人工智能實(shí)驗(yàn)室就云燧T20、云燧i20和深度學(xué)習(xí)框架的適配開始進(jìn)行深入合作，逐步在人工智能開放計(jì)算體系（DeepLink）上實(shí)現(xiàn)接入T20和i20，共同打造人工智能軟硬件生態(tài)。

　　目前，T20和i20已基于DeepLink實(shí)現(xiàn)多個(gè)模型的訓(xùn)練和推理的適配，支持CV、NLP 等核心領(lǐng)域以及開源LLaMA大模型。雙方的合作降低了硬件接入AI 模型訓(xùn)練和推理的門檻，為大模型的發(fā)展提供強(qiáng)勁算力保證。

　　燧原科技同時(shí)參與了DeepLink芯片評(píng)測(cè)工作，DeepLink評(píng)測(cè)體系針對(duì)送測(cè)芯片進(jìn)行多維度測(cè)試并提供季度評(píng)測(cè)報(bào)告，其評(píng)測(cè)結(jié)論為各類加速卡提供優(yōu)化參考，推動(dòng)AI芯片技術(shù)規(guī)范的標(biāo)準(zhǔn)建設(shè)。

　　DeepLink作為連接硬件芯片與深度學(xué)習(xí)軟件框架間適配的"橋梁"，廠商可基于DeepLink一次適配即接入廣泛的算法生態(tài)，根本性實(shí)現(xiàn)軟硬件解耦。目前DeepLink已提供200余個(gè)標(biāo)準(zhǔn)算子接口，支持超過5000個(gè)算子測(cè)例，同時(shí)支持大語言模型和視覺模型。遵循DeepLink標(biāo)準(zhǔn)可以實(shí)現(xiàn)主流框架與AI芯片高效適配，極大降低算力使用門檻，節(jié)省適配時(shí)間，更容易實(shí)現(xiàn)算力對(duì)模型的使能。同時(shí)通過編譯的優(yōu)化，系統(tǒng)性提升整體訓(xùn)練效率。

　　人工智能開放計(jì)算體系 (DeepLink)

　　云燧T20是面向數(shù)據(jù)中心的第二代人工智能訓(xùn)練加速卡，具有模型覆蓋面廣、性能強(qiáng)、軟件生態(tài)開放等特點(diǎn)，可支持多種人工智能訓(xùn)練場(chǎng)景。同時(shí)具備靈活的可擴(kuò)展性，提供業(yè)界領(lǐng)先的人工智能算力集群方案。

　　云燧T20

　　云燧i20是面向數(shù)據(jù)中心的第二代人工智能推理加速卡，具有高性能高能效、模型覆蓋面廣、易部署易運(yùn)維等特點(diǎn)，已廣泛應(yīng)用于計(jì)算機(jī)視覺、語音識(shí)別與合成、自然語言處理、搜索與推薦等推理場(chǎng)景。

　　云燧i20

　　燧原科技相關(guān)負(fù)責(zé)人表示:"DeepLink可以讓上游芯片和下游框架兩層在適配工程實(shí)施時(shí)能有效地解耦，并復(fù)用到不同的訓(xùn)練框架適配中去，從而降低芯片和框架的適配成本，同時(shí)保障算子實(shí)現(xiàn)正確性。燧原科技將與上海人工智能實(shí)驗(yàn)室合作，在算力和算法上進(jìn)行深度融合，為業(yè)界構(gòu)建軟硬一體、更加優(yōu)化的計(jì)算解決方案，為產(chǎn)業(yè)賦能，共建軟硬協(xié)同生態(tài)，推動(dòng)中國(guó)數(shù)字化產(chǎn)業(yè)轉(zhuǎn)型和升級(jí)。"

　　關(guān)于燧原科技

　　燧原科技專注人工智能領(lǐng)域云端和邊緣算力產(chǎn)品，致力為通用人工智能打造算力底座，提供原始創(chuàng)新、具備自主知識(shí)產(chǎn)權(quán)的AI加速卡、系統(tǒng)集群和軟硬件解決方案。憑借其高算力、高能效比的創(chuàng)新架構(gòu)和高效易用的軟件平臺(tái)，產(chǎn)品可廣泛應(yīng)用于泛互聯(lián)網(wǎng)、智算中心、智慧城市，智慧金融、科學(xué)計(jì)算、自動(dòng)駕駛等多個(gè)行業(yè)和場(chǎng)景。

　　燧原科技秉承開源開放的宗旨，攜手產(chǎn)業(yè)伙伴共創(chuàng)生態(tài)，成為通用人工智能時(shí)代產(chǎn)業(yè)的驅(qū)動(dòng)力。

燧原科技

相關(guān)閱讀