要約：新しいトレンド-ソフトウェア定義のストージャーとブロックデバイスの主な出生時のトラウマ-無限の信頼性の約束。

歌詞

地平線上で、新しい流行語： ソフトウェアは$ thingを定義しました 。 私たちはすでに、ソフトウェア定義ネットワーク（SDN）に関連するすべての確立され、形成された輪を持っています。次は、ストレージ（SDS）です。 どうやら、ソフトウェア定義のコンピューティングなどを使用すると、HP / VMWareが突然動き出し、追いついて（プライベート）「ソフトウェア定義のエンタープライズ」を提供します。



ただし、話は流行語に関するものではありません。 そのような奇妙な名前（グリッド、エラスティック、クラウド）の背後には、技術のさらなる発展があります-コンポーネント相互作用のさらなるレイヤーの構築（ええと...相互作用参加者の相互作用、あなたはそう言うことはできません）、その主な動機はコンピューターシステムの粒度を回避することであるため、用語全体がサブジェクト領域全体が「プロセス間相互作用」から外れ、自律的になりました。 多かれ少なかれ適切な形式で、私たちはこれを（フェイトの形で）見ますjavascriptの魔法の世界で 、タスクを実行しているサーバーをまったく気にしないとき-すべての通信はブラウザー間のレベルで行われます（詳細を考慮して） DOM、JSなど）およびURIと呼ばれる抽象化は重要ではありません。1つはサーバーまたは数百の異なるものです。



この相互作用は非常に魅惑的に見えるため、可能な限り他のすべての領域に分散されます。



SDSについて説明する前に、すでに起こったこと、SDN（ソフトウェア定義ネットワーク）を見てみましょう。



SDNでは、すべてのネットワーク機器（仮想化ホスト上の実際のハードウェアまたは仮想スイッチ）が愚かな実行者として使用され、実際のネットワークを構築するすべての知的作業は、何が必要かを理解し、必要に応じてネットワークトポロジを作成するアプリケーションに委任されます。 SDNの主なものは、実装の詳細ではなく、ソフトウェアを使用してネットワーク構成を形成するという考え方であるため、特定の技術（openflow、big switch、floodlight、Nicra）の名前はすべて省略します。



では、Software Defined Storage（SDS）とは何ですか？ 類推すると、これはデータストレージシステムの構築に関するすべての知的作業がプログラムに委任され、ハードウェアと「ローカルソフトウェア」（ホストレベル）が愚かなパフォーマーとして機能するようなデータストレージシステムであると言えます。



おそらくここで最も成功した模範的なソリューションは、OpenStackのSwiftです。これは、愚かなディスクとxfsを使用して安定したスケーラブルなストレージを作成します。 それ以外はすべてソフトウェアです。



しかし、Swiftは正確には「ストレージ」ではなく、「オブジェクトストレージ」です。 つまり、ファイルストレージです。 ファイルの途中で書き込む機能がなく、マイクロ秒の遅延での記録に数万のIOPSを確実に提供しません。



そして、国民はまさにそれを切望しています。 信頼性が高く、安価で、任意の保証された冗長性、フォールトトレランス、高可用性、ジオレプリケーション、自動バランシング、セルフヒーリング、コモディティアイロンから（つまり、再び安い）、高性能、ノード数の増加に応じたパフォーマンスと容量の無制限のスケーラビリティ、 muti tentant、説明責任（ここでは、クライアントは興奮に耐えられず、カーペットの上に落ち、足をたたき始めました）。 このすべて、さらにはスプーン。

現実には

SDN-SDSの類推には、すべてが複雑になる1つの小さなニュアンスがあります。 SDNでは、ネットワーク機器に必要なのは（愚かで、コマンドセンターに従うだけ）バイトをシフトすることだけでした。 SDSでは、バイトを取り、クライアントとの間でやり取りするだけでなく、それらを保存するためにも愚かなストレージデバイスが必要です。



この場所には、最大で最も複雑で不快な問題があります。 死にかけているスイッチを取り出して捨てることができます。 これはプログラムで行うこともできます。 誰も気付かないでしょう。



しかし、作業中の「ダム」ストレージを取り除いて捨てることはできません。 別のストレージが機能し続けるには、誰かがそのデータを自分自身にコピーする必要があります。



はい、ストレージがすべてです。 情報の書き込み専用の埋葬がある場合、それらの実装は簡単です。 ここに書き込めませんか？ 別のノードを上げて、そこから書き込みを開始します。



しかし、結局のところ、死んだノードから、記録されたものを読む必要があります...しかし、ノードは死にました。 おお



したがって、SDSモデルは、IOプロセスに関してSDNと完全に一致します。 しかし、ストレージはまったく新しい、別の問題です。 これはCAP定理と呼ばれます。 そして、ソリューションはそこに見えません。



問題は何ですか？ タスクを解決できない場合は、タスクの条件を変更する必要があります。



そして、ここで最も興味深い部分が始まります-トップができず、下層が望んでいないなら、これは革命の始まりですよね？ タスクの変更は、モデルの変更と同じであり、ブロックデバイスを使用した作業が進行中です。 結局のところ、SDSをめぐる混乱はすべて、ブロックデバイス上のファイルシステムに関するものであり、その上でSQLデータベースを配置して、非常に迅速に、信頼性が高く、安価で、一貫して作業することができます（ここでも、クライアントは幸せなかんしゃくになりました.. 。）。

良いTCPと邪悪なファイルシステム

10,000パケットのうち1パケットが失われるネットワークを誰かが提供した場合、理想的なネットワークがあるとみなされます。 すべてのネットワークアプリケーションは例外なくパケット損失の準備ができており、損失が数十パーセントに達すると問題が発生し始めます。



親切なTCPは、ほとんどすべてを許します-繰り返し、損失、ジッター（遅延の急激な変化）、帯域幅の変更、パケット内のデータ破損...本当に悪い場合、TCPはゆっくりと無頓着に働き始めます。 しかし、動作するように！ さらに、TCPでも動作条件が耐えられなくなった場合（たとえば、70-80％のパケット損失）、ほとんどのネットワークアプリケーションは切断されたネットワーク接続の準備ができており、広範囲に影響を与えることなく再接続するだけです。



これをブロックデバイスと比較してください。 1,000,000件のリクエストのうち1件を失うディスクデバイスを販売している場合はどうなりますか？ 邪悪なファイルシステムはこれを許しません。 品質を100倍に改善し、100,000,000のリクエストのうち1つが壊れた場合はどうなりますか？ ファイルシステムはこれを許しません。 そして許すだけでなく、最も恐ろしい方法で復venします。 ファイルシステムは、1兆分の1の書き込み要求が失敗したことを検出すると、そのような恥ずべきブロックデバイスでの作業を拒否します。 せいぜい、読み取り専用モードになります;最悪の場合、単に動作を停止します。



そして、ファイルシステムがそのようなことを投げたプログラムはどうなりますか？ 誰も知らない。 たぶんそれだけで終わります。 または、ひどく機能し始めているかもしれません。 またはフリーズします。 このブロックデバイスにページファイルがあった場合、一部のオペレーティングシステムはパニックします。 特に重要なデータがある場合（たとえば、catプログラムから読み取るファイルバッファの一部-そして、その数千のクライアントを含むサーバー全体がキーボード上の3つのLEDで点滅します）。



たとえば、エラーの結果として10億ブロックのうちの1つを変更した場合、データベースは何をしますか？ （4TBディスク上の1つの4kセクター）。 まず、彼女はそれに気付かないでしょう。 第二に、彼女が気づいた場合（読んだものが気に入らない場合）、アパルトヘイト、割礼、公民権の剥奪を受けてデータベースが劣っていると宣言し、システム内でbasa非グランタを宣言します。



つまり、ディスクスタックには無限の信頼性が期待されます。



ブロックスタック全体はエラーに容認されません。 ベンダーは、ほとんど間違いを犯さないシステムについて、数千億ルーブルを求めています。 しかし、彼らのシステムでさえ間違いを犯します。 一般的な鉄よりも一般的ではありません。 しかし、あなたが1兆回の操作につき1つでもミスを許されないなら、誰がこれから利益を得ますか？ （4 Ebの書き込み/読み取りの1つの失敗したブロック、4kブロック）。



もちろん、これに対する解決策は信頼性を高めることです。 レイド、クラスターシステム、メインフレーム...これはすでにどこかで見ました。 高価ではありませんが、法外に高価です。 メインフレームテクノロジを使用してラップトップを製造した場合、壊れる確率は1000分の1になり、コストは100万倍になります。



誰かがRAIDについてささやきます。 さて、襲撃が何をするのか見てみましょう。 RAIDは複数のブロックデバイスを取得し、それらから新しいブロックデバイスを収集します。 信頼性の向上（およびパフォーマンスの向上）。 同時に、彼は下からのデバイスの品質に関してまったく同じ要件-エラー-を作成し、ディスクは不良であると宣言されます。 永遠に。 さらに、さまざまな程度の文化の再構築があります。



最も先進的な独自のソリューションでは、ドライブが時々ミスを犯し、特定のしきい値を超えた後にそれらを拒否することができます。



しかし同時に、問題が発生した場合、レイドエラー（たとえば、IOのタイムアウト）により、レイド全体が「不良」と同じ宣言になります。 このRAIDのファイルシステム上のデータを使用するアプリケーションでも同じ結果になります。 言い換えれば、いくつかの信頼性の低いデバイスを作成するためにレイドが必要になります...再び、無限の信頼性（障害のゼロ確率）。 Theorver Negodue。



...そして、優れた、寛容なTCPは、失われた魂を思いやりと愛で見ます。

どうする？

まず、理想的なものがないことを認めなければなりません。 10億年進化したDNAがエラーから自身を保護できなかった場合、数年（10年）のエンジニアリングを控えめに言っても合理的ではありません。 エラーが発生する場合があります。 そして最も重要なことは、これらの間違いをどうするかを学ぶ必要があるのは、最も小さな欠陥のためにかんしゃくをすることではないということです。



彼らは私たちに間違いを返しましたか？ 繰り返してみてください。繰り返しに失敗しました-スタックの上位に戻ります。 ファイルシステムは、書き込みができない場合は黙ってメタデータを別の場所に移動します（サーバー全体のサイズのかんしゃくを調整しません）。 ログ（/）への書き込み（読み取り）エラーを受け取ったDBMSは、データベースに取り付かれていると宣言せず、このデータベースで動作するすべてのアプリケーションを7番目の膝まで呪いません。バックアップコピーを取得します。バックアップコピーはありません。データを正確に破損としてマークします。エラーまたは損傷のメモを返します。 これを受け取ったデータベースで動作するアプリケーションは、愚かなことは何もしませんが、被害を最小限に抑え、このデータを処理する人の被害額について正直に話すことで、それが何であるかについて冷静に動作します。 そして、各レベルは、「はい、ファイルから数値piを読み取ることができました。その値は0x0000000000000」という単語に依存することなく、基礎となるレベルからのデータの正確性を完全にチェックします。



はい、カードの1つの銀行取引が破損しています。 はい、あなたからどれだけのお金が償却されたか正確にはわかりません。 ただし、中間残高があるため、引き続きカードを使用することができます。破損したデータは古い時代に償却されるか、来週復元されます。 「不明なエラー。 カードの操作はできません。銀行のカードサポートサービスにお問い合わせください。



小さなデータを食いつぶしても、大きなデータが破損することはありません。 ヘブライ神話では、噛まれたリンゴのために人類全体が捨てられ、楽園全体を分散させ、ヘビのすべての足を引き裂き、一般的には、噛まれたハードディスクを見つけると現代のファイルシステムが動作するように振る舞った1つのケースが説明されています。 私の知る限り、このイベントは悲劇的な間違いと考えられています。 もうこれを行う必要はありません。 リンゴを噛む-リンゴを投げる、それ以上。



したがって、SDSがもたらす主な変更は、ブロックデバイスエラーに対する態度の変更です。 そのため、ディスクエラーの1％はあまり良いとは言えないが、許容できる指標と見なされます。 0.01％は素晴らしいサービスです。



これらの条件では、無限の信頼性を待たずにサービスを提供することが可能になります-合理的なお金に対する合理的な期待。

未来のブロックデバイス

そして、将来のソフトウェア定義ストレージはどのように見えますか？ 私たちが時々ミスをすることを許すなら、私たちの仕事はそれらを防ぐことではなく、その数を減らすことです。



たとえば、操作を強力に並列化できます。 1000ノードがデータの保存を担当している場合、そのうちの1つまたは2つの障害は、読み取りまたは書き込みエラーの0.1％または0.2％を意味するだけです。 同期レプリケーションを保証する必要はありません。 そうです、「ノードが飛行し、サービスから除外され、新しいノードが追加されました。」 原則として、これはあまり良い状況ではありません（後でさらに2、3が飛び出すと、最大0.4％の損失が発生し、データストレージの品質が低下するため）。 ただし、バックアップノードを上げることはできます。 はい、1日古いデータがあり、一部のデータについては容赦なく嘘をつきます（書き留めたものではなく、返してください）。 しかし、より高いレベルでこれを行う準備はできていますか？ また、ノードからのデータの2〜3％しか変更されていないため、読み取りエラーの0.1％（および書き込みエラーのほぼ0％-他のノードへの書き込み）ではなく、誤った読み取りデータの0.002％を取得します。



0.002％は99.998％の信頼性です。 夢？ 準備ができたら、はい。



そして、結果として得られる設計は非常にシンプルであることが判明しました。つまり、サーバーのヒープとディスクの束にまたがるブロック用の迅速なストレージシステムです。 必須のデータ整合性に対する特別な要件なし-古くなったデータを時々提供する場合、これは単に「読み取り時にナンセンス」であり、これをあまり頻繁に行わない場合、すべてがすべてに適合します。 クライアントのリクエストはいつでも「失う」ことができ、必要に応じてクライアントが送信することを確認できます。 革命的な英雄的な体制ではなく、「 ストレージはこれらの人々で作られます：ストレージの世界ではより安全です 」ではなく、ほとんどの時間の勤勉さと勤勉さがまれなエラーを完全に補償する快適なモードで働くことができます。

SDSはどこにありますか？

これまでのすべてで、SDSに関する言葉はありませんでした。 ここで「ソフトウェア定義」はどこにありますか？



上記のスキームでは、「実行ノード」はソフトウェアが指示したことのみを行います。 次に、ソフトウェアは、どこで何を読み、どこに書き込むかについての説明を作成します。 原則として、これはすでに存在しています。 前世代のクラスターファイルシステムであるCEPHは、BTRFSのネットワークレベルに少し進化した可能性がありますが、楕円に間に合うように到着した可能性があります。 クライアントビューの論理トポロジから「鈍いハードウェア」コマンド（SDNのコントローラー）への変換である、通常のマルチテナンシーを記述することは残ります。これで完了です。

まとめ

主な結論：現時点でのブロックデバイスの開発における重要な問題は、ブロックデバイスの動作の信頼性と信頼性に対する過度に高い（無限の）期待と、ブロックデバイスエラーを膨らませる既存の悪い伝統であり、損傷ドメインのサイズをタスクドメイン（さらにはそれを超える）その制限）。 常にどこでも100％の信頼性を拒否することで、はるかに少ない労力（つまり、低コスト）で、SDNソリューションを作成（または既存のアプリケーションを適用）するための条件を提供できます。