Neurostream-ディープラーニング用の新しいチップ

高性能コンピューティングシステムは、すでにハイスループットメモリ(HBM)およびハイブリッドメモリキューブ(HMC)テクノロジの使用を見出しています。 この方向で、積極的に開発されています。



ボローニャ大学の科学者たちは、1月末にメモリ内コンピューティング(PIM)のアーキテクチャを発表しました。これは、深い畳み込みニューラルネットワークで効果的に機能します。 彼女はニューロストリームという名前を得ました。



/写真ライアン・マクミンズ CC



この設計は、プロジェクトのフレームワークではスマートメモリキューブ(SMC)と呼ばれた有望なタイプのコンピューターメモリHMC(ハイブリッドメモリキューブ)に基づいています。 このソリューションは、マルチコアPIMプラットフォームNeuroClusterによって補完されます。



NeuroClusterは、NeuroStreamおよびRISC-Vコプロセッサに基づいた浮動小数点コンピューティング用のモジュール設計を備えています。 興味深いことに、2.5ワットのエネルギー消費で240ギガフロップスのパフォーマンスを達成するために使用されているHMCクリスタルはわずか8%です。



「メモリキューブ」の消費電力は非常に低いですが、畳み込みネットワークのタスクに対処することができます」 大学の科学者による記事は述べています。 「これにより、コンピューターロジックのリソースを解放して、別の負荷を処理できます。」



システムの消費電力がわずかに増加し、スケーリングによって占有されるスペースがわずかに増加するため、このPIMシステムは費用対効果とエネルギー効率に優れ、4つのSMCを有効にすると955ギガフロップスに簡単に拡張できます。



科学者は、新しいソリューションの機能とNvidia Tesla K40 GPUの計算能力を比較しました。 Tesla K40は、235ワットのエネルギー消費で1092ギガフロップスを実装できました。 NeuroGridテクノロジーは42.8ワットの電力で955ギガフロップスに達しました。エネルギー効率はGPUの4.8倍です。







画像 :SMCネットワークと「キューブ」のブロック図



さらに、Neurostreamの作成者は、低精度の算術演算だけでなく、ソフトウェアソリューションによってエネルギー効率を改善できることを期待しています。 科学者によると、これによりエネルギー消費を70%削減できます。 ボローニャ大学のスタッフによる記事でソリューションの詳細を読むことができます。



さらに、研究では、研究者は、ネットワークのトレーニングプロセスを監視するために使用される4つのNeuroClusterユニットを備えたシステムを実装する可能性を調査する予定です。



PSしかし、私たちは1cloudプロジェクトのブログで他に何を書いていますか:






All Articles