ストレージクラスメモリについて

コンピューターとシステムの理論の存在全体にわたって、1つの声明が真実のままでした。プロセッサーは、データ記憶装置よりもはるかに生産的で高価です。 CPUが一度に多くのストレージデバイスに対応できるという事実は、さまざまなサイズのシステムのハードウェアおよびソフトウェアの開発に大きな影響を与えました。



実際、Randal BryantとDavid O'HallaronによるComputer Systems：A Programmer's Perspectiveのような本は、記憶の階層とその影響を強調しています。開発されたプログラム。



ただし、データセンターとソフトウェア開発者は、将来の変更に備える必要があります。 一般にSCM（ストレージクラスメモリ）と呼ばれる高速の不揮発性ストレージデバイスの出現により、通常の基盤が揺らぐでしょう。 SCMは徐々に人気を集めていますが、SCMを使用するには、パフォーマンスに対処するために1つまたは複数のマルチコアプロセッサを割り当てる必要があります（数十万IOPS）。



長期保存の速度は常にCPUの速度よりもはるかに低く、この差は90年代の初めから00年代の初めにかけてのみ増加しました。 プロセッサは着実に改善され、改善され、メカニカルディスクのパフォーマンスは変化しませんでした-物理学は開発を妨げました。 何十年もの間、このギャップを減らし、プロセッサーのダウンタイムを回避するために、さまざまなスキームと手法が考案されてきました。



1つの方法はキャッシュです。 最新のシステムでは、キャッシュはすべてのシステムレベルで実行されます。プロセッサはRAMをキャッシュし、オペレーティングシステムはディスクセクター全体をキャッシュします。



他の方法では、文字通りプロセッサー時間とパフォーマンスを交換できます。 たとえば、圧縮と重複排除により、処理されるデータのサイズが小さくなり、「高速」メモリのサイズが増加するように見えますが、これにはコンピューティングリソースを使用する必要があります。



圧縮は引き続き、エンタープライズクラスのストレージシステムで使用される主要なテクノロジーであり、ビッグデータを扱う環境でもあります。 Apache Parquetなどのツールは、ディスク上のデータを再編成および圧縮して、読み取り時間を短縮します。



フラッシュストレージは、これらすべての欠点から解放されました。 このテクノロジーは新しいものではなく、SASおよびSATA SSDはすでに10年間購入できます。 ただし、SCMはフラッシュデバイスを新しいレベルに引き上げます。フラッシュメモリは低速のSASおよびSATAバスではなくPCIeバスに接続され、データ交換の速度が向上します。



さらに、NVDIMMなどのSCMが登場しています。 NVDIMMはDIMMモジュールの形で作られており、実際、DRAMとNANDフラッシュメモリを組み合わせたハイブリッドメモリです。



通常の状態では、NVDIMMは通常のDRAMメモリとして機能しますが、システムがクラッシュまたはシャットダウンした場合、DRAMからのデータは不揮発性フラッシュメモリに移動され、無期限に保存できます。 コンピューターが動作を再開すると、データがコピーされます。 このアプローチにより、マシンの起動プロセスを高速化し、重要なデータを失う可能性を減らすことができます。







現在、PCIeベースのSCMは、最大1,000倍のパフォーマンスを実現できます（100 IOPSに対して100k IOPS）。 残念ながら、これはコストの大幅な増加につながります。SCMは通常のHDDの25倍の費用がかかります（$ 1.50 / GB対$ 0.06 / GB）。 エンタープライズクラスのデバイスのコストは、それぞれ3,000ドルから5,000ドルの間です。



高価なSCMの使用を最大化するには、ストレージシステムが常にSCMに作業を提供する、つまり占有状態を維持する必要があります。 磁気ディスクを単に交換することはできません。ハードウェアシステムとソフトウェアをリサイクルする必要があります。



フラッシュデバイスが多すぎると多額の費用が発生し、それらのデバイスが少なすぎるとアクセスが困難になるため、この問題には注意して対処する必要があります。 適切なバランスを見つけることはそれほど簡単ではありません。



また、リソースの時分割を覚えておく価値があります。 長年にわたって、ハードドライブとプロセッサの間のやり取りには割り込みが使用されてきました。 ギガヘルツで測定された周波数で動作するコアの場合、数秒ごとに割り込みを処理することは難しくありません。 1つのコアで、「dれ」のリスクなしに数十または数百のディスクを駆動できます。 ただし、低遅延ストレージデバイスの出現により、このアプローチは適用できなくなりました。



このモデルは劇的に変化しなければなりません。 ストレージデバイスだけでなく、パフォーマンスも大幅に向上しました。ネットワークデバイスも加速しました。最初は最大10G、次に最大40G、次に最大100Gです。 この分野で解決策を「スパイ」することができますか？







加速度の違いが大きすぎるため、明確な答えを出すことはできません。ネットワークは1,000倍、ストレージデバイスは100万倍高速になりました。 さらに、メモリを操作する場合、パッケージの操作に使用される最適化手法は適切でない可能性が高いため、複雑な圧縮、エンコード、および重複排除機能をサポートする必要があることがよくあります。



ネットワークでは、待ち時間を短縮するために、カーネルをバイパスするアプリケーションによってすべてのパケットが制御される方法が使用されます。 ただし、ネットワークとストレージデバイスには違いがあります。ネットワークフローは独立しており、複数のコアで同時に処理できます。メモリの場合、すべての要求を調整する必要があります。



明らかに、これは実用的ではありません。 1つのコントローラーが、膨大な数のSCMデバイスへのアクセスを同時に制御することはできません。 ハードウェアは最大限に使用されるため、別のアプローチが必要です。



容量とパフォーマンスの負荷要件はハードウェア機能と一致しないため、高速ドライブの使用に制限が生じます。 たとえば、予想される負荷が50万IOPSの10 TBのデータは、それぞれ最大10万IOPSを処理できる1 TBのSCMデバイスに保存されている場合、ディスク容量の半分しか使用しません。



ただし、ほとんどのデータは「ホット」ではないため、すべてを高速フラッシュデバイスに保存するのは非効率的です。 多くの場合、負荷はパレート分布と一致しています。すべての呼び出しの80％がデータの20％に宛てられます。



SCMデバイスが低速ディスクのキャッシュとして機能する場合、ストレージのレベルが異なる（パフォーマンス特性が異なる）ハイブリッドシステムは、「コールド」データと「ホット」データを混在させるのに適したソリューションです。 ただし、アクセスパターンは時間とともに変化することを覚えておく必要があります。タイムリーに応答してデータを移動する必要があります。



適切に構築されたシステムでは、この方法により、パフォーマンスを犠牲にすることなくハードウェアを効率的に使用できます。 ただし、システムには、アクティブであるが優先度の低いタスクがビジネスクリティカルなアプリケーションに干渉することを禁止する柔軟なポリシーが必要です。 これらのメカニズムの適切な実装とデバッグは簡単な作業ではありません。

それで、将来私たちを待っているのは何ですか？

上記のように、すでに開発されたSCMデバイスがあります。 PCIe SSDは最もよく知られているタイプのSCMであり、すでにデータセンターインフラストラクチャに大きな影響を与えています。 2番目の例はNVDIMMで、DRAMに匹敵するパフォーマンス特性を備えています。 このようなデバイスはすでに利用可能であり、進化を続けています。



HPはSCMテクノロジーに関与しています。 The Machineというタイトルの彼らのプロジェクトは、メモリスタ上の新しいコンピュータアーキテクチャを開発する試みに過ぎません。 電気回路の4番目の基本コンポーネントであるメモリスタの存在は、1971年にLeon O. Chuaによって予測されましたが、ストレージ要素の実験室サンプルは、Hewlett-パッカード



この受動要素は、自身の状態を記憶できます。 これは、流れる電荷によって抵抗が変化する抵抗器であると言えます。 要素の電源が切られると、変更された抵抗が維持されます。







現在、メモリスタの商用実装の開発が進行中です。 これが発生するとすぐに、データの保存に加えて、それらを処理できる新しいタイプのメモリを作成することが可能になります。







The Machineに関しては、RAMと永続的なデータウェアハウスの間に境界はありません。 すべてのメモリが動作しています。 これにより、異なる速度で動作するデバイス間での情報の転送に関連する問題がなくなります。



SCMテクノロジは、低速メモリと高速メモリの「通信」から生じる非効率性を克服するように設計されているようです。 何が起こっているのかを観察することは、さらに興味深いことです。新しい開発がインフラストラクチャスタックのすべてのレベルにどのように影響するかです。 まだ始まったばかりです。



1cloud.ruプロジェクトの開発部長Sergey Belkinに対するコメント：

「さまざまな問題を解決するには、さまざまなタイプのドライブが必要になる場合があります。 多層ストレージシステムを作成する場合、さまざまなタイプのディスクの使用が正当化される場合があります。アプリケーションでよく使用されるデータは、より高速なディスクに配置できます。



たとえば、データベースとアクティブに連携するサービスがある場合、そのサービスを別のSSDドライブに転送するのが理にかなっています。これにより、速度を最適化できます。 同時に、オペレーティングシステム自体を低速のディスクに残すことは論理的です。 さまざまなタイプのドライブを同時に使用することで、インフラストラクチャソリューション全体をより柔軟で効率的かつ費用対効果の高いものにすることができます。



ソリッドステートドライブの分野での新しい開発に関して、IntelとMicronは昨年、トランジスタフリーの3次元アーキテクチャである3D XPoint（クロスポイントと発音）を発表し、そのようなメモリデバイスの寿命と速度はNANDメモリの能力を1000倍上回ると述べました。 このソリューションが商業化されれば、データセンターで頻繁に要求される「ホット」データを保存するために使用される可能性が高いと思います」

Storage SwitzerlandのGeorge Crumpの意見：

「SCMは、高性能DRAMと低コストHDDの中間になる可能性がある新しいタイプのストレージです。 SCMメモリは、ハードドライブの機能よりも何倍も速いDRAM読み取り速度と書き込み速度に近い読み取り速度を提供できます。



これは、フラッシュストレージがプロセッサに直接接続されるPCIeインターフェイスのおかげで可能になりました。 ただし、すべてのPCIe接続SSDがSCMデバイスではありません。



パフォーマンスを追求するために、一部のベンダーはカードに複数のコントローラーをインストールし、それぞれがフラッシュメモリの領域を担当しています。 一見、これは良いアイデアのように思えますが、この場合、コントローラーはその能力の範囲外のブロックを読み書きする機能を持ちません。



ブロックが大きい場合、逆に、作業の速度に悪影響を与える可能性があります。 既存のインターフェースの非効率性から生じるこの問題やその他のパフォーマンスの問題は、技術の適応プロセスを妨げます。

InfinioのCTO、Scott Davisの意見：

「SCMテクノロジーは、2016年末まで商用利用できません。



ほとんどの場合、これはIntelの3D XPointテクノロジーの初期実装です。 HPとSanDiskはまた、共同プロジェクトに取り組んでいると発表したが、彼らの製品は2017年の初めより早く市場に参入する可能性が高い。



多くの新しいテクノロジーの場合と同様に、SCMデバイスの適用範囲は当初限られていることを考慮する価値があります。 幅広い市場への参入の障害は、デバイスのコストになります」