鯤云科技與百度飛槳完成適配，共同推進自主AI應(yīng)用落地

2021-06-24 08:48

鯤云科技近日攜手百度飛槳（PaddlePaddle），完成了搭載CAISA芯片的鯤云星空X3加速卡對PaddlePaddle框架模型轉(zhuǎn)化的全面支持。這意味著鯤云自主研發(fā)的全球首款數(shù)據(jù)流AI芯片CAISA，可快速適配百度飛槳PaddleX模型格式，支持主流算法網(wǎng)絡(luò)，穩(wěn)定運行，能夠達到兼容性及性能、可靠性要求，便于開發(fā)者快速實現(xiàn)多樣化AI應(yīng)用部署，這次合作進一步擴大了雙方在AI產(chǎn)業(yè)的創(chuàng)新生態(tài)。

Paddle模型到星空X3加速卡轉(zhuǎn)換部署流程

鯤云科技自成立以來，一直深耕數(shù)據(jù)流AI芯片的自主研發(fā)，已實現(xiàn)量產(chǎn)的CAISA芯片，在芯片利用率上提升了最高11．6倍，其高算力性價比、高架構(gòu)通用性及高軟件易用性的優(yōu)勢，在與百度飛槳的適配過程中得到了更好的呈現(xiàn)。搭載CAISA芯片的星空X3加速卡峰值性能為10．9TOPs，實測結(jié)果顯示運行ResNet50的延時低至3．38ms，吞吐率達到1181．68fps，在精度保證的情況下，性能表現(xiàn)優(yōu)于同類產(chǎn)品。

星空X3加速卡

百度飛槳深度學(xué)習(xí)平臺提供了快速有效搭建訓(xùn)練深度學(xué)習(xí)模型的方案，并透過Paddle2ONNX模塊與鯤云的星空X3加速卡完成了簡單快速的適配。在飛漿全流程開發(fā)圖形化工具PaddleX和鯤云自行研發(fā)的RainBuilder編譯器支持下，星空X3加速卡在離線狀態(tài)將ONNX等模型格式轉(zhuǎn)換成IR格式后在RainBuilder Runtime上部署，支持ResNet， YOLO， DeepLab 等各種CNN類主流算法推斷模型，開發(fā)者只需兩步，便可輕易實現(xiàn)模型到硬件的部署和運行。

RainBuilder端到端自動編譯工具鏈

飛槳是中國首個開源開放、技術(shù)領(lǐng)先、功能完備的產(chǎn)業(yè)級深度學(xué)習(xí)平臺，鯤云是國內(nèi)數(shù)據(jù)流AI芯片研發(fā)的先行者，致力于加速人工智能在產(chǎn)業(yè)的落地和應(yīng)用。本次合作為人工智能開發(fā)者提供了更高效的多樣化AI部署選擇，進一步降低了 AI 應(yīng)用的開發(fā)難度，提高開發(fā)效率，未來，百度飛槳與鯤云科技將在底層架構(gòu)和硬件上進一步推進合作，為自主人工智能產(chǎn)業(yè)的發(fā)展提供新的探索方向。

關(guān)于百度飛漿PaddlePaddle

飛槳（PaddlePaddle）以百度多年的深度學(xué)習(xí)技術(shù)研究和業(yè)務(wù)應(yīng)用為基礎(chǔ)，集深度學(xué)習(xí)核心訓(xùn)練和推理框架、基礎(chǔ)模型庫、端到端開發(fā)套件和豐富的工具組件于一體，是中國首個自主研發(fā)、功能完備、開源開放的產(chǎn)業(yè)級深度學(xué)習(xí)平臺。飛槳企業(yè)版針對企業(yè)級需求增強了相應(yīng)特性，包含零門檻AI開發(fā)平臺EasyDL和全功能AI開發(fā)平臺BML。EasyDL主要面向中小企業(yè)，提供零門檻、預(yù)置豐富網(wǎng)絡(luò)和模型、便捷高效的開發(fā)平臺；BML是為大型企業(yè)提供的功能全面、可靈活定制和被深度集成的開發(fā)平臺。目前，飛槳累計開發(fā)者320萬，服務(wù)企業(yè)12萬家，基于飛槳開源深度學(xué)習(xí)平臺產(chǎn)生了36萬個模型。飛槳助力開發(fā)者快速實現(xiàn)AI想法，快速上線AI業(yè)務(wù)。幫助越來越多的行業(yè)完成AI賦能，實現(xiàn)產(chǎn)業(yè)智能化升級。

關(guān)于鯤云RainBuilder編譯工具鏈

專為CAISA架構(gòu)設(shè)計的RainBuilder編譯工具鏈提供從算法模型到板級產(chǎn)品部署的一整套開發(fā)套件，包括RainBuilder Compiler、RainBuilder Runtime和RainBuilder Driver三層。RainBuilder Compiler支持算法模型的智能解析、自動化量化壓縮、節(jié)點融合、內(nèi)存優(yōu)化，能夠?qū)⒛Ｐ娃D(zhuǎn)化為適用于CAISA架構(gòu)的中間表達和數(shù)據(jù)。RainBuilder Runtime提供性能模型分析、精度驗證、自動線程調(diào)度、軟硬件并行、異常處理等功能，為用戶提供豐富易用的開發(fā)接口以完成對底層AI硬件的高效應(yīng)用。RainBuilder Driver支持CAISA硬件架構(gòu)驅(qū)動、硬件模塊計算調(diào)度以及硬件模型分析，可以自動進行細粒度性能優(yōu)化及調(diào)度。RainBuilder使用過程簡單便捷，支持用戶自定義算子，用戶無需對底層硬件有深入的了解，只需兩步，即可通過基于C＋＋／Python的標準開發(fā)流程實現(xiàn)算法快速部署。