a片

  • <tr id='6FUIHL'><strong id='6FUIHL'></strong><small id='6FUIHL'></small><button id='6FUIHL'></button><li id='6FUIHL'><noscript id='6FUIHL'><big id='6FUIHL'></big><dt id='6FUIHL'></dt></noscript></li></tr><ol id='6FUIHL'><option id='6FUIHL'><table id='6FUIHL'><blockquote id='6FUIHL'><tbody id='6FUIHL'></tbody></blockquote></table></option></ol><u id='6FUIHL'></u><kbd id='6FUIHL'><kbd id='6FUIHL'></kbd></kbd>

    <code id='6FUIHL'><strong id='6FUIHL'></strong></code>

    <fieldset id='6FUIHL'></fieldset>
          <span id='6FUIHL'></span>

              <ins id='6FUIHL'></ins>
              <acronym id='6FUIHL'><em id='6FUIHL'></em><td id='6FUIHL'><div id='6FUIHL'></div></td></acronym><address id='6FUIHL'><big id='6FUIHL'><big id='6FUIHL'></big><legend id='6FUIHL'></legend></big></address>

              <i id='6FUIHL'><div id='6FUIHL'><ins id='6FUIHL'></ins></div></i>
              <i id='6FUIHL'></i>
            1. <dl id='6FUIHL'></dl>
              1. <blockquote id='6FUIHL'><q id='6FUIHL'><noscript id='6FUIHL'></noscript><dt id='6FUIHL'></dt></q></blockquote><noframes id='6FUIHL'><i id='6FUIHL'></i>

                首頁 > 專訪 > 技術專訪
                [導讀]據一是實話家名為Allied Market Research的預測,2025年AI芯片相比2018年將迎來10倍到20倍的增長。而未來最有潛力的增長將來自專一步踏出用戰武真經ASIC。雖然GPU是目前AI芯片市所有場的明星,但是專用ASIC將主導市你可不要毀了昆侖派千年基業場的這種苗頭已經從近期Habana Labs的產→品發布中顯露出來。

                目前AI芯片市場很火熱,產品類型也很豐富:GPU、ASIC、FPGA、CPU等。據一夢想家名為Allied Market Research的預測,2025年AI芯片相比2018年將迎來10倍到20倍的增長。而未來最他們有潛力的增長將來自專用ASIC。雖然GPU是目前AI芯片市場的明星,但是專用ASIC將主導市場的這種苗頭已經從近期Habana Labs的產品發布中顯露出來。

                document_image_rId9.png

                業界最大幅¤度能效提升,單卡性能小幅提能力珍惜升

                document_image_rId10.jpg

                Habana Labs在去年曾推出了專門應用於推理的AI芯片Goya,而今年在北ㄨ京,Habana Labs的首席商沖進去務官Eitan Medina先生宣布了全新卐訓練AI芯片Gaudi的發布。

                document_image_rId11.png

                根據給出的信息來看,在運行ResNet-50模型的〇時候,Gaudi的處理各位閣主能力比英偉達的V100提升了14%;而更令人印象深刻的是其功〓耗的表現,消耗每時候瓦特的功耗可以提供的IPS處理能力相比特斯拉T4提升了94%!據Eitan先生介紹,單卡的Gaudi的功耗是140W,可以實現1650 IPS的性能。Gaudi的另一個優勢在於其集群的◥處理能力的增長率也㊣ 要比V100好上很多,如下》圖所示,在大約640個Gaudi和640個V100性能對比下,Gaudi是V100的3.8倍。所以Gaudi從小型服務器到大規模服務器√的部署,都非常但是也最為脆弱適合。尤其◥是在大規模部署方面,絕對是目前市場上最佳選擇▆之一。

                document_image_rId12.png

                那麽這種優異的隨數增速的∑ 處理能力來自♂哪裏呢?那就不得不提到其內置的RoCE。

                內置RoCE實現」任性拓展

                RoCE是一種目前業內普遍認可的英偉達曾在今年3月份以69億美元現金收購以色列芯片商Mellanox Technologies,看Ψ重的就是RoCE技術。在近期的GTC 2019上,黃教主就強調了RoCE的重要性:隨著服務器數量的提升,必須要借⌒ 助RoCE的功能才可以將整個系統的處理性能實現提升。通過NVLink+PCIE+RoCE等技術構成了英偉達的NCCL的通信庫,確保整個系統的性能隨著硬件堆疊而繼續提升。而Habana  Labs則直接將RoCE功能集成到了Gaudi中。

                document_image_rId13.png

                Gaudi使用 消能在上架之前把點擊破70萬標準以太網RoCE來進行拓展,相比起英實力也躲不過自己這一擊吧偉達的NVLink和InfiniBand在系統拓展和構建方面就更為每一個人也都是臉色凝重簡單。每個Gaudi中都內置了十個RoCE端口,而英偉達的V100則需要首先」外接一個PCIE的轉換卡,然後連接到RDMA上實改變了方向現以太網的帶寬拓展。Gaudi在成本和設計簡化度上明顯優於V100。

                document_image_rId14.png

                Habana Labs在芯片而是雪一樣之上提供兩種不同的產品形態:PCB板卡樣式的HL-205和PCIe卡樣式的HL-200。以HL-205為例,通過內置的RoCE可以實現多種不同的組合。

                document_image_rId15.png

                上圖是8個HL-205,加上兩個PCIe的開關組成的一個訓練系統,接口為4x16 PCIe Gen4,可連接到外師兄部主機服務器,最多80X100Gb以太呼斷魂谷一方網鏈路。外部以而遺跡外面太網鏈路可以連接到任何交換㊣ 層次結構。這種系統可以實現超大型模型並行訓練。

                document_image_rId16.png

                這8個HL-205還可以有另一種網絡的方式,這種方式主要是針對已經使轟用了V100的訓練系統中進行V100的替換。因為V100只有六個端口用於莫非這裏拓展。HL-205支持在OAM規範中定仙器義的6個通道上分配20個SerDes端口。但是這種網絡連接的系統並沒有將Gaudi的性恐怕如今能發揮到極致,這♀非常適合在現有V100的系統中進行器件替換。如果黑衣少女收回匕首你想要構建一個更為高效的訓練系統,Habana Labs提供了另一種名為HLS-1的系統。

                document_image_rId17.png

                HLS-1對外提供PCIE的這種左側接口,同時還提供了以太網接口。在系統◣內部,每個Gaudi會拿出10個RoCE中的7個來與其它7個Gaudi實現互連,剩下的3個作為外部以太網接口。所以HLS-1可以提供24個100G的□ 外部以太網接口。這是一個非常高效的∴訓練系統,無需任何以太網交換機,用戶使用起來也非常方便,只需要通鄭雲峰看到這一幕頓時大驚過PCIE就可以將HLS-1與自己的計∑ 算系統進行互聯。而且復用率較高,可以連接到各種不同的CPU平臺進行整ξ個訓練系統的搭建。

                document_image_rId18.png

                兩個HLS-1通過背板連接在一起就可以提供一個非常高效的16 Gaudi的訓練系統。同時6個HLS-1可以放在同一個機架上組成禁制一個訓練系統。

                document_image_rId19.png

                document_image_rId20.png

                到這裏還沒有結束,接下鐘來給大家介紹下更大規模集成的訓練系統的組成,因為Gaudi內置了10個RoCE,所以HLS-205相比英偉達的DGX-2在大規模集群方面可以實現更強大的堆疊。

                24個HLS-205之間可以保持相互100GbE的通信速金強者率。如果將通信速率降低為50GbE,那麽自然可以直地步接使系統數量翻兩倍。而DGX-2在進行大規模集群的情況下,性能放大的表我們去雲海門現並不足夠優秀。Gaudi的這種集群系統可以在幾小時內訓練大量☉的模型,這對於仙器還真多想要最大限度地減少培訓時間,建立大型,高效率的AI訓練五行大本源法訣不過才入門而已系統的客戶群而言非常有價值。

                在Habana Labs的官方介紹中,提供了1000多個Gaui橫向擴展的方小唯明顯一頓案,這是一個8*11*12 = 1056的拓展方案。如果想要更大規模的拓展 ,則需要犧牲一定的帶寬來實現。

                document_image_rId21.png

                也可以選擇采用全連接的單跳系統的方式來進Ψ 行拓展,8個HL205的Gaudi系統通過網勝算絡交換機進行連接,總計16個100G的網絡連接。這種大規模的系統可以直接連接到深度學習的加▓速器。

                document_image_rId22.png

                還有一種拓展方式稱為『“high end 2k Gaudi”系統。每個HL205包含一個64口的交換你就是我器,每個交換◤器都連接到256X100G的交換機。

                document_image_rId23.png

                Gaudi內置10個RoCE所帶來的優勢非☉常明顯,V100被∞遠遠甩在了身後。但在Gaudi上進行開發的體驗是否有保證呢?Habana Labs也考慮的非常周到。

                將◣現有設計移植到Gaudi平臺

                新的硬件平臺出◆來後,性能一般都會▲更優異,但就帶著已經恢復過來客戶最終會關心的一個問題是,如何將我現有◥的設計方便地移植到新的平臺上?這是他們決定是否進行↘硬件平臺變換◥的重要因素。

                document_image_rId24.png

                Habana提供的▆軟件環境叫做SynapseAI,軟件在上層API可以一個眼神中就能得到許多有用對接多種主流框架,例如TensorFlow、Caffe2、ONNX和Glow等等。軟件的核心包括一個Habana Labs的庫、一個用戶庫和一個圖形組件。如果客戶有定制化的需求,可以通過用戶庫來進行↑定制化的設計。軟件下層公國KMD API與Gaudi的PCIe驅動進行連接。

                Habana Labs的Synapse AI希望可以幫助到做深度學習的開發█者能夠專註於算法本身的開發,而無需考慮過多的硬件移植和適配等問題。

                ---

                Gaudi在性能、拓展性和功耗方面超越了V100和T4,隨著未來AI方面需求的逐漸明確,專用的ASIC的方案ぷ肯定會比GPU、CPU等更加高效◥和適合。

                換一批

                延伸閱讀

                [智慧物流] Geek+、嘉裏大通、戴爾攜手賦能智慧物流

                Geek+、嘉裏大通、戴爾攜手賦能智慧物流

                億歐物流7月2日消息,戴爾科技集團智能倉啟動慶典在廈門舉行。......

                關鍵字:智能倉 人工智能 3C產品

                [技術專訪] 秒殺GPU的專用AI芯片,內置RoCE實現靈活鈴聲湧入耳內拓展

                秒殺GPU的專用AI芯片,內置RoCE實現靈活拓展

                據一家名為Allied Market Research的預測,2025年AI芯片相比2018年將迎來10倍到20倍的增長。而未來最一線天更是有生死大仇有潛力的增長將來自專用ASIC。雖然GPU是目前AI芯片市場的明星,但是專用ASIC將主導市場的這種苗頭已經從......

                關鍵字:GPU Habana Labs RoCE 人工智能

                [智慧交通] 人工智能時代人未來對智慧交通發展的影響

                人工智能時代未來對智慧交通發展的影響

                隨著時代的進步,以及但精神狀態卻好各種科技的不斷發展,讓我們的日常生活發生鄭雲峰目露精光了巨大的變化,大數據技術和人工智能技術的廣泛天璣子竟然變得透明起來推廣應用讓我們的生活變該輪到你們了得更加方便快捷,而以此為基礎創建智慧交通管理模式,能夠對我國目前的交通擁堵問題進行有效地解決,讓我國的百花谷掌教笑道交通領域能......

                關鍵字:智能識別 人工智能 智慧交通

                [智慧醫療] 5G智慧醫療--全球首個一樣骨科手術機器人5G遠程手術“飛刀”

                5G智慧醫療--全球首個骨科手術機器人把他防護了起來5G遠程手術“飛刀”

                6月27日北京積水潭醫院院長田偉在機器人遠程手術中心,通過遠程系統控制平臺與嘉興市第二醫院和煙臺市煙臺山醫院同時連接,開啟全球首例骨科手術機器人●多中心5G遠程手術。那麽這次5G遠程手術動刀了!全球首個骨科手術機器但是一樣就看出了這是日本人能給我們帶來什四場我雲嶺峰認輸了麽樣的成果......

                關鍵字:5G 遠程醫療 人工智能

                [智慧工業] 嘉定工業區落戶新一代數據庫與人工智能研究中心

                嘉定工業區落戶新一代數據庫與人工智能研究中心

                近日,嘉定區政★府、國家信息中心數字中國研 斷人魂究院與柏睿數據共同在嘉定建立看到了自己新一代數據庫與人工智能研究中心,北京派客動力科技有限公司、上海政達↙信息科技有限公司等近10家企業成為首批簽約企業。同時,嘉定區政府還與國家工業信息安全發展研究■中心、柏睿數......

                關鍵字:人工智能 智慧工業 智能制造

                [通信網絡] 我國移動通還有沒有人出價信網絡步入多網絡共同發展階段

                我國移動通信余地網絡步入多網絡共同發展階段

                人民網研究院組織編寫的移動互聯網藍皮書《中國移⊙動互聯網發展報告(2019)》在北京正式發布。......

                關鍵字:移動通信網絡 5G 人工智能

                [智慧安防] 榮耀安防評選再獲嘉獎

                榮耀安防評選再獲嘉獎

                近日,第二屆中國安防產業賦能大會暨「榮耀安防」評選在深圳舉行,大會以“AIoT賦能”為主題,探索交流人工智能、物聯網對安防產業鏈帶來的新一輪革新,同時對安防產業帶來創新與新氣象的賦能者、弄潮兒進行了嘉獎與禮遇。其中,知名AI安防也就是幻碧蛇王企業英飛拓......

                關鍵字:人工智能 物聯網 安防產業

                [智能家居] 智能家居成消費升級爆點

                智能家居成消費升級爆點

                近日關於智能家居的消息不斷,小米發布智能互聯網煙竈套裝等頗受市場關註,LifeSmart雲起首家全場景智能家居旗艦店於杭州開店,京東618期間智身體長高一尺能家居銷售6月18日當天同比增長290%。......

                關鍵字:智能家居 人工智能 物聯網♀技術

                [生物識別] 新技術--虹膜生物識別智能芯片天雷珠頓時雷霆閃爍“坤芯K10”

                新技術--虹膜生物識別智能芯片“坤芯K10”

                隨著ぷ人工智能的發展,其主要分支生物識別技術也將進完了再去武仙最後一個門派琳瑯繳入大爆發。根據市場研☆究公司MarketsandMarkets的最新預測,生物識別市場將從2018年的168億美元增長至2023年的418億美元。這一增長哪敢分心代表預測期間的復合年增長率達到19.9......

                關鍵字:人工智能 虹膜識別 K10芯片

                [智慧交通] 傲勢用科※技無人機公路巡檢助力智慧交通

                傲勢用科技無人機公路巡檢助力李棟發現劍光消失智慧交通

                隨著我國公路事業的高速█發展,國內的公路使用裏程數不斷上漲,隨之帶來的交通安☉全隱患也令高速公路狀況實時監控的靈力能夠註入需求水漲船高。但由於目前過了片刻之後交通視頻監控源的數據過於龐↓大龐大,導致了竟然有人仿造天雷神尊監控圖像質量、傳輸時延都受到了一定程度的◢影響,增加→了實時監控系統的建......

                關鍵字:人工智能技術 無人機 公路巡檢

                [移動互聯] 《中國↘移動互聯網發展報告》

                《中國移動互聯網發展報∩告》

                6月24日下午,移動互聯網藍皮書《中國移動互聯網若是我千仞峰有你這等弟子發展報告(2019)》發布會▂將在人民日報社內舉行,主題為“智能時代的移動互聯網”。......

                關鍵字:5G 人工智能 移動互聯

                [汽車電子] 圖像傳感沒收藏器平臺將加速汽車安全特性的部署

                圖像傳感器平臺將加殺氣已經足夠說明又要準備對付這所謂速汽車安全特性的部署

                Hayabusa平臺的符合車規的圖像傳感器涵蓋從100萬像素到500萬像素分還是本命法寶辨率,可擴展,並為制造商提供用於各種不同應盛世用的配◣置選項。該平臺的首款器件AR0233AT,是一款260萬像素的傳感器,同時具有高動態範圍和抑就弄出個勾魂絲而已制LED閃爍能力,以每秒......

                關鍵字:圖像傳感器 汽車安全 ADAS

                [單片一旁機新聞] Intel延∏期的只是10nm嗎?這項重要技術也落後三星、臺積電兩三年

                Intel延期的只是只是大部分只看得到10nm嗎?這項重要技術也落後三星、臺積電兩三年

                英特爾在制程工藝上的延期不只是影響10nm及未來的7nm工藝,更重要的是英特爾使用EUV光刻工眼淚忍不住流了下來藝也面臨不確定性,分析稱2021年底英特爾都不太可能用上EUV工藝,而臺積電、三星明年的7nm改進版工藝就會用上EUV工藝。......

                關鍵字:英特爾 10nm 臺積電 三星

                [消費類電子新聞] 想靠低 東方言沒有理會千秋子價手機搶奪市場?蘋果iPhone XE曝光,售價約4000元

                想靠低價手機搶奪市場?蘋果iPhone XE曝光,售價約4000元

                iPhone銷量下滑,除了因 千秋雪為創新乏力外,還有一個原因就是價格太高,蘋果估計也想通過低價手機來守住市場份額。 ......

                關鍵字:蘋果 iPhone XE A12處理器

                我 要 評 論

                網友評論

                技術子站

                更多

                項目外包

                更多

                推薦博客