侵權投訴
訂閱
糾錯
加入自媒體

隱私計算軟硬件結合起跑

2022-03-10 10:44
零壹財經
關注

創業公司入局

除了螞蟻集團之外,還有更多的創業公司正陸續出現在隱私計算軟硬件結合的賽道上,在解決隱私計算的安全性和性能的問題上尋求單點突破。星云Clustar和融數聯智是其中最早的兩家。

星云Clustar的專長在算力提升方面,并且正在這一領域做得更為精深。

該公司由香港科技大學智能網絡與系統實驗室主任、高性能網絡領軍科學家陳凱創立于2018年,定位于以算力為核心的隱私計算技術商。成立之后的第二年,星云Clustar幫助微眾銀行解決了目前應用最廣的聯邦學習開源平臺 FATE的算力問題,使FATE的性能實現1到2個數量級的提升(因測試平臺不同,性能提升效果略有差異),成為FATE的算力提供商。

與FATE合作之后,面向隱私計算市場,星云Clustar推出了隱私計算加速卡和隱私計算軟硬件一體機等軟硬件結合的產品。

在算力提升方面,計算機單機算力提升,主要是要“算得快”;計算機集群內部和集群之間算力的提升,是要在“算得快”的基礎上還要“傳得快”。在“算得快”和“傳得快”方面,星云Clustar都有所改進。

在“算得快”方面,星云Clustar自研了隱私計算加速卡,它可以解決聯邦學習因使用同態加密而產生的計算壓力與延時問題。根據星云Clustar提供的數據,相對于傳統服務器,星云Clustar在聯邦學習復雜的同態加密和解密計算實現1-2個數量的性能提升;密態乘法和加法效率提升2-3個數量級。

在“傳得快”方面,星云Clustar有自研的高效網絡技術GDR (GPU Direct RDMA) 。GDR技術主要是可以消除數據在單機之間的傳輸過程中不必要的數據拷貝,從而大大提升了通信效率,可使數據在單機間的傳輸時延降低75%,性能提升200%,極致性能提升450%。

星云Clustar CTO張駿雪告訴零壹財經,未來星云Clustar的技術和產品主要是沿著三根軸展開:更高性能、更多場景、國產化。

其中,在更高性能方面,星云Clustar正在努力降低FPGA的成本,使得未來單位價格購買的算力能進一步提升,這將使得在需要處理的數據量大幅增長的情況下,隱私計算的算力成本不至于大幅上升。張駿雪預計,明年星云Clustar能夠使得單位價格購買的算力提升一倍。未來,還可以通過自研技術的進步、產品的大規模上量,使得算力的實際使用成本進一步下降。

2021年,星云Clustar的產品在不少大型機構做了POC測試,也與微眾銀行、招商銀行、建設銀行等大型金融機構達成深度合作。張駿雪的切身感受是,從2021年下半年開始,業內對硬件的關注和討論就越來越多。市場最開始的關注點在于有和沒有隱私計算系統有什么區別,但當不少機構開始嘗試隱私計算系統之后,越來越多的機構開始比較哪個系統跑得快。經歷了2021年與不少機構的POC測試之后,星云Clustar整個團隊對于其軟硬件結合的產品在2022年的更大規模落地充滿了信心。

融數聯智則在創立之初就瞄準了芯片研發,這是算力提升當中最艱難的部分。

融數聯智創立于2019年8月,兩年后,即2021年,融數聯智正式發布首款隱私保護芯片(全稱Privacy Preserving Unit,即隱私保護芯片,簡稱為PPU)PPU26x,并且官方宣布實測密態數據運算加速單元百倍的加速比。融數聯智創始人兼董事長袁曄告訴零壹財經,PPU26x目前從在真實場景中的測試來看,大多數情況下能夠使密文運算加速500—800倍。他預計,明年融數聯智可以推出能夠使密文運算加速千倍的產品PPU36x。

星云Clustar和融數聯智之外,推出軟硬件結合產品的隱私計算創業公司在不斷增多。

2021年12月,在宣布完成超3億元人民幣Pre-A及A輪融資時,數牘科技也對外宣布,在隱私工程落地場景的同時,數牘前沿研究團隊也實現了計算機體系架構層面的硬件突破。

在給零壹財經的回復中,數牘科技介紹:

數牘科技的軟硬協同的隱私計算方案,圍繞全國產化進行生產打造,不僅是上層的隱私計算平臺,從底層芯片選擇、硬件電路的設計,到國產密碼算法研發,都是完全的國產自主可控,不斷鞏固自身產品體系的安全性和可靠性。

具體來講,數牘隱私計算硬件可單獨完成數據的“算、存、傳”,將現有的隱私計算平臺中涉及的算法、算子等核心運算進行能力下沉,使其部分托管至硬件環境中,并通過調用硬件的加速能力提升現有計算平臺的整體性能。

經過結合硬件的可插拔的特性,能夠非常靈活的對一臺通用的服務器進行能力改造,將之變為隱私計算專用服務器,從而也提高了服務器資源和算力的利用效率,進一步降低計算資源開銷。

就在剛剛過去的2月,隱私保護計算技術提供商锘崴科技宣布,與螞蟻集團聯合打造的锘崴信一體機正式發布。

據零壹財經了解,還有更多的廠商正在進入這個賽道,相關的產品正在研發、籌備當中。

與市場共舞

創業公司的入局,讓螞蟻的身影在隱私計算軟硬件結合方面顯得并不那么孤單。換個角度來看,這也是市場需求日漸清晰的信號。

數字經濟發展和隱私保護的雙重需要,正使得數據密態時代的到來成為大勢所趨。螞蟻集團副總裁、安全隱私技術委員會主席韋韜預測:“目前,密態數據處理的規模,就和數據挖掘最初的時候差不多,只在少量、簡單的場景有所應用。未來,密態數據處理的規模,也會像當年數據挖掘一樣,迎來爆發性發展。” 

挑戰隨之而來。在隱私計算的軟硬件結合方面,創新者們一方面需要小心翼翼地平衡巨大的研發投入與商業回報,一方面不可避免地正在迎來國際競爭。

事實上,星云Clustar的工作已經深入到芯片層面,但是要推出產品還需等待時機。

張駿雪向零壹財經透露,星云Clustar已經做完了隱私計算加速芯片的設計,甚至已經與芯片生產企業進行過對接。

在張駿雪看來,隨著隱私計算技術發展與產業鏈不斷突破,數據的運算方式、環境將愈發復雜,CPU、GPU等現有芯片將逐漸無法覆蓋大規模密態復雜運算的需求,而利用FPGA等可定制算力硬件,推進密態數據專用AISC芯片和算力平臺的研發與創新,將會是提升隱私計算在實際生產系統的效率的重要途徑。但星云Clustar作為一家創業公司,必須權衡研發投入與市場回報。隱私計算作為非常新興的行業,在商業化模式方面充滿了“戰爭迷霧”,找準企業定位,明晰發展方向,與客戶、產業鏈的互相配合,在“迷霧”中找到企業發展的生態位尤為重要。

聚集了大量芯片研發人才的融數聯智卻已經出發。

融數聯智推出專用隱私保護芯片,在外界看來,這其中風險極大——芯片是一個技術和資本密集型產業,如果推出的芯片遲遲無法獲得市場回報,這有可能使一家創業公司面臨極大的挑戰。

但對融數聯智來說,這是深思熟慮的行動。袁曄告訴零壹財經,2020年融數聯智的客戶當中已經出現了對芯片的需求,客戶需要處理大量高并發的數據。面對這個需求,雖然可以通過軟件方案不斷去優化算法模型以及密態運算的過程,但軟件的所有指令都是提交給 CPU 做運算,部分提交給 GPU 做加速,不管 CPU 還是 GPU,對于整個性能的提升都是有瓶頸的。即使使用FPGA,仍然有瓶頸,FPGA對性能優化的上限是百倍!皬目吹叫枨,到生產出較為成熟的芯片產品,估計需要3-5年。如果現在不做,到看到大量需求的時候再做,就有可能來不及了!彼f道。

現在,讓袁曄感到稍有些欣慰的是,融數聯智的芯片研發從全球來看處在前列,并沒有晚,與Intel的進度幾乎同步。“我們唯一擔心的就是,會不會有些早了。因為隱私計算的發展仍然處于初期。但確定的是,我們的錢不會白投,路不會白走!痹瑫舷蛄阋钾斀洷硎尽

就在本文調研過程中,融數聯智完成了新一輪融資。2022年2月28日,北京融數聯智科技有限公司發生工商變更,新增股東為螞蟻集團關聯公司上海云鉅創業投資有限公司。

從全球來看,隱私計算的軟硬件結合,正在變成一個廣受關注的領域,國際競爭在逐漸升溫。

秦承剛最早看到一篇和密態運算加速相關的論文是2012年美國一所高校的博士生做的。從2015年開始,這個領域在學術界變得越來越熱,越來越繁榮。MIT、微軟、Intel都有相關的論文和工作成果發表。從2021年開始,更多業界的公司、甚至領頭羊公司都開始關注這個領域。

2021年3月,美國國防高級研究計劃局(Defense Advanced Research Projects Agency,簡稱DARPA)發布全同態硬件加速計劃DPRIVE(Data Protection in Virtual Environments,虛擬環境中的數據保護項目)。DPRIVE尋求開發用于全同態計算的硬件加速器,與基于軟件的全同態方法相比,它將大大減少計算運行時的開銷、大大加快全同態計算的速度,從而使該技術更易于用于敏感的國防應用以及商業用途。該計劃,有包括Intel在內的四個團隊入選。

DARPA是美國國防部屬下的一個行政機構,負責研發用于軍事用途的高新科技。有文章這樣評價它的作用:“DARPA通過孵化突破性技術以持續推動經濟的發展,是美國生產率增長的核心引擎”。遠的有GPS和互聯網的原型ARPANET,近的有精確制導武器、隱形技術、無人機和腦機接口等,都是其推動發展的。

而在業界,2021年末,Intel開源了一個用FPGA加速全同態算法庫的項目。歐洲也出現一家名為ZAMA的公司,開始做硬件加速方面的工作。

秦承剛判斷:“如果真能做到全同態運算的速度幾乎跟明文運算一樣快。當這個芯片成為現實,隱私計算甚至云計算的技術體系肯定會發生演進!

作為中國金融支付場景里科技領頭羊公司,螞蟻集團有更多的能力進行前瞻性的戰略儲備。一方面希望多年來的技術積累在解決市場面臨的真實問題中有所作為,并且與市場協同進化,另一方面也希望在數據安全如此關鍵的領域,自身在相關技術的發展方面不要落后于國際同行。

從科技創新來看,秦承剛認為,隱私計算的軟硬件結合正在開啟一場長跑,其成果在未來數年中才能逐漸顯現。他告訴零壹財經,現在在硬件的創新方面正處于體系結構的黃金時代。這是因為,移動互聯網的飛速發展使得應用場景發展很快,上層的軟件也發展很快,這使得在計算機底層進行支持的硬件甚至芯片都需要隨之進行改變,進入了新一輪的創新周期。而從隱私計算的長遠發展來看,硬件的演進是加速,算法的演進是變革,未來軟件和硬件的創新會相互促進和推動。

從外部環境來看,在密態數據的處理方面,中國已經走到了世界的最前沿。由于監管環境的不同,許多國家仍處于數據收集階段,而中國已進入數據融合發展階段。在這一方面,中國擁有先發優勢。

韋韜記得,三年前微軟、IBM、英特爾的隱私技術專利水平是業界追趕的目標。但是在過去兩年多時間里,這個差距正在被大幅縮小。

根據第三方機構IPRdaily與incoPat創新指數研究中心聯合發布的《2020年全球新興隱私技術發明專利排行榜》,截至2021年3月19日,中國有7家公司沖進前十,螞蟻更是以740件的專利申請數量遙遙領先,微軟居第二, IBM及英特爾,分別位列第五名及第六名。

圖 2020年全球新興隱私技術發明專利排行榜前十(截至2021年3月19日)

來源 :IPRdaily、incoPat

“中國在這方面將引領發展,數據行業有這樣的機會!表f韜最后表示。

End.

       原文標題 : 隱私計算軟硬件結合起跑

<上一頁  1  2  
聲明: 本文由入駐維科號的作者撰寫,觀點僅代表作者本人,不代表OFweek立場。如有侵權或其他問題,請聯系舉報。

發表評論

0條評論,0人參與

請輸入評論內容...

請輸入評論/評論長度6~500個字

您提交的評論過于頻繁,請輸入驗證碼繼續

暫無評論

暫無評論

    安防 獵頭職位 更多
    文章糾錯
    x
    *文字標題:
    *糾錯內容:
    聯系郵箱:
    *驗 證 碼:

    粵公網安備 44030502002758號