HABANA LABSがGaudi AIトレーニングプロセッサーを発表

Habana Labs, Ltd.

2019-06-18 11:59 1301

＊Gaudiは記録破りのパフォーマンスとイーサネットのネイティブ統合による拡張を提供

【テルアビブ（イスラエル）、サンノゼ（米カリフォルニア州）2019年6月18日PR Newswire＝共同通信JBN】

AIプロセッサーの大手開発業者であるHabana Labs, Ltd.（www.habana.ai）は17日、Habana Gaudi（TM）AIトレーニングプロセッサーを発表した。Gaudiプロセッサーをベースにしたトレーニングシステムは、同数のGPUで構築されたシステムよりも最大4倍のスループット向上を実現する。

Habana GAUDI HLS-1 AI Training System with Heatsink (PRNewsfoto/Habana Labs, Ltd.)

Gaudiの革新的なアーキテクチャーは、小さいバッチサイズでも高いスループットが維持されるため、トレーニングシステムのパフォーマンスをほぼ直線的に拡張可能で、これにより、Gaudiベースシステムのパフォーマンスを、単一デバイスから数百のGaudiプロセッサーで構築される大規模システムに拡張できる。

記録破りのパフォーマンスに加え、Gaudiはもう1つの業界初をAIトレーニングにもたらした。それは、標準イーサネットを使用してAIシステムをあらゆるサイズに拡張できるようにする、AIプロセッサー内のRDMA over Converged Ethernet（RoCE v2）機能のオンチップ統合である。Gaudiを使用することで、Habana Labsの顧客は、スケールアップとスケールアウトの両方のAIトレーニングシステムに標準イーサネットスイッチングを利用できるようになった。イーサネットスイッチはマルチソースで、速度とポート数の点で事実上無制限の拡張性を提供でき、既にコンピューティングとストレージのシステム拡張のため、データセンターで使用されている。Habanaの標準ベースのアプローチとは対照的に、GPUベースのシステムは独自のシステムインターフェースに依存しているため、拡張性とシステム設計者の選択肢がもともと制限されている。

Linley Groupの主任アナリスト、リンレイ・グウェンナップ氏は「Habanaは、その新製品で推論からトレーニングまで素早く手を広げ、ニューラルネットワーク機能の全領域をカバーした。Gaudiは、AIトレーニングアクセラレーターの中でも強力なパフォーマンスと業界をリードする電力効率を提供している。100GイーサネットリンクをRoCEサポートと統合した初のAIプロセッサーとして、業界標準コンポーネントを使用して構築された大規模なアクセラレータークラスターを実現している」とコメントした。

Gaudiプロセッサーは32GBのHBM-2メモリーを搭載、現在2つの形態で提供されている。

＊HL-200 － 100Gbイーサネット8ポートをサポートするPCIeカード

＊HL-205 － 10ポートの100Gbイーサネットまたは20ポートの50Gbイーサネットをサポートする、OCP-OAM仕様に準拠したメザニンカード

Habanaは、外部ホスト接続用のPCIeコネクターと既製のイーサネットスイッチ接続用の24の100Gbpsイーサネットポートを備えた8つのHL-205メザニンカードを含むHLS-1と呼ばれる8-Gaudiシステムも導入しており、複数のHLS-1システムを搭載することで、標準の19インチラックでのスケールアップが可能になった。

Gaudiは、Habana Goya（TM）AI推論プロセッサーに続き、Habana Labsによって昨年発売された2番目の専用AIプロセッサーである。Goyaは、2018年第4四半期から出荷され、業界最高のスループット、業界最高の電力効率（1ワット時毎秒の画像数）、およびリアルタイム遅延で、業界トップの推論性能を実証してきた。

Habana Labsのデービッド・ダーハン最高経営責任者（CEO）は「トレーニングAIモデルは毎年、幾何学級数的に高い計算能力を必要とするため、生産性と拡張性の劇的な向上を必要とするデータセンターとクラウドの差し迫ったニーズへの対応は不可欠だ。Gaudi の革新的なアーキテクチャーにより、Habanaは業界標準のイーサネット接続を統合しつつ、業界最高のパフォーマンスを提供している。GaudiはAIトレーニングプロセッサー市場の現状を一変させるだろう」と語った。

Facebookの技術・戦略担当ディレクターであるビジェイ・ラオ氏は「Facebookは、われわれの業界が集まれるイノベーションのためのオープンプラットフォームを提供しようとしている。Habana Goya AI推論プロセッサーがGlow機械学習コンパイラーのバックエンドを実装し、オープンソース化したこと、そしてHabana Gaudi AIトレーニングプロセッサーがOCP Accelerator Module（OAM）仕様をサポートしていることをうれしく思う」と語った。

Gaudiプロセッサーは完全にプログラム、カスタマイズ可能で、包括的かつ柔軟なソリューションを提供する開発ツール、ライブラリー、コンパイラーと共に第2世代のTensor Processing Core（TPC（TM））クラスターを備えている。Habana Labs SynapseAI（TM）ソフトウエアスタックは、豊富なカーネルライブラリーと顧客が独自のカーネルを追加するためのオープンツールチェーンで構成されている。

Habanaは2019年後半に、限られた顧客にGaudiプラットフォームをサンプル出荷する予定。Gaudi AIトレーニングとGoya AI推論プロセッサーの詳細については、www.habana.ai を参照。

して顧客を選択する予定です。

▽HABANA LABSについて

Habana Labsは、ディープニューラルネットワークのトレーニングや生産環境での推論展開に最適化された、新規プロセッサープラットフォームから開発を行うために2016年に設立されたAIプロセッサー企業である。処理性能、拡張性、コスト、消費電力を大幅に改善したプラットフォームを提供することで、当社はAIの真の可能性を解き放ちつつある。Habanaは、イスラエルのテルアビブ、カリフォルニア州サンノゼ、中国の北京、ポーランドのグダニスクにあり、世界中で150人を雇用している。

詳細については、www.habana.ai を参照するか、pr@habana.ai に問い合わせを。