サービスの中断が受け入れられないビジネスの種類があります。 たとえば、サーバーの故障のために課金システムがモバイルオペレーターで停止した場合、サブスクライバーは通信できなくなります。 この出来事の起こり得る結果の認識から、安全であるための合理的な願望が生じます。



VMmanager Cloudを実装するときに、サーバー障害に対する保護方法が存在し、どのアーキテクチャが使用されているかを説明します 。これは、高可用性クラスターを作成するために設計された製品です 。

まえがき

クラスタのフェールオーバー保護の分野では、インターネットの用語はサイトごとに異なります。 混乱を避けるために、この記事で使用される用語と定義の概要を説明します。

• フォールトトレランス（フォールトトレランス、FT）-いずれかの要素に障害が発生した場合にシステムがさらに機能する能力。
• クラスタは、通信チャネルで接続されたサーバー（コンピューティングユニット）のグループです。
• フォールトトレラントクラスター（FTC）-サーバーの障害によってクラスター全体が完全に機能しなくなるクラスター。 故障したマシンのタスクは、自動モードで残りの1つ以上のノードに分散されます。
• 継続的可用性（CA）-ユーザーはいつでもサービスを使用でき、プロビジョニングの中断はありません。 ノードに障害が発生してからどれだけ時間が経過したかは関係ありません。
• 高可用性（HA）-ノードに障害が発生した場合、ユーザーはしばらくの間サービスを受けられませんが、システムは自動的に復元されます。 ダウンタイムが最小限に抑えられます。
• KND-連続可用性クラスター、CAクラスター。
• KVD-高可用性のクラスター、HAクラスター。

各ノードで仮想マシンが起動される10ノードのクラスターを展開する必要があるとします。 課題は、ハードウェア障害から仮想マシンを保護することです。 ラックの計算密度を高めるために、デュアルプロセッササーバーを使用することが決定されました。



一見したところ、ビジネスにとって最も魅力的なオプションは、障害が発生した場合にユーザーサービスが中断されない場合、つまり、継続的な可用性のクラスターです。 すでに述べた加入者への課金のタスクや、継続的な生産プロセスの自動化では、少なくともKNDなしでは不可能です。 ただし、このアプローチの利点に加えて、落とし穴もあります。 それらについては、記事の次のセクション。

継続的な可用性

中断のない顧客サービスは、いつでもサービスが実行されているサーバー（物理または仮想）の正確なコピーがある場合にのみ可能です。 機器の故障後にコピーを作成すると、時間がかかります。つまり、サービスの提供が中断することになります。 さらに、故障後、問題のマシンからRAMの内容を取得することはできません。つまり、そこにある情報は失われます。

CAを実装するには、ハードウェアとソフトウェアの2つの方法があります。 それぞれについてもう少し詳しく説明しましょう。



ハードウェア方式は「分岐」サーバーです。すべてのコンポーネントが複製され、計算は同時に独立して実行されます。 同期の責任はノードであり、特にノードは結果を半分と比較します。 不一致の場合、原因の検索とエラーの修正が実行されます。 エラーが修正されない場合、障害のあるモジュールは無効になります。

Habréで最近、ハードウェアCAサーバーのテーマに関する記事がありました 。 資料に記載されているメーカーは、年間のダウンタイムが32秒以下であることを保証しています。 したがって、そのような結果を達成するには、機器を購入する必要があります。 ロシアのパートナーStratusは、構成に応じて、同期モジュールごとに2つのプロセッサを搭載したCAサーバーのコストは約160,000ドルになると述べました。 クラスタごとの合計には、1,600,000ドルが必要です。



ソフトウェアの方法。

執筆時点で、継続的可用性クラスターを展開するための最も一般的なツールはVMwareのvSphereです。 この製品の継続的可用性テクノロジーは「フォールトトレランス」と呼ばれます。



ハードウェア方式とは異なり、このオプションには使用上の制限があります。 主なものをリストします。

• 物理ホストにはプロセッサが必要です。
  
  
  • Intel Sandy Bridgeアーキテクチャ（またはそれ以降）。 Avotonはサポートされていません。
  • AMD Bulldozer（またはそれ以降）。
• フォールトトレランスマシンは、低遅延で10ギガビットネットワークに接続する必要があります。 VMwareでは、専用ネットワークを強くお勧めします。
• VMあたり4つ以下の仮想プロセッサ。
• 物理ホストごとに8つ以下の仮想プロセッサ。
• 物理ホストごとに最大4つの仮想マシン。
• 仮想マシンのスナップショットを使用できません。
• Storage vMotionを使用できません。

制限と非互換性の完全なリストは、公式ドキュメントにあります 。

VMware Fault Toleranceテクノロジーが仮想マシンを大幅に「減速」させることが実験的に確立されています。 vmgu.ruの調査の過程で、 FTを有効にした後、データベースを操作するときのVMのパフォーマンスは47％低下しました。



vSphereのライセンスは物理プロセッサに関連付けられています。 価格は、ライセンスで1750ドル、年間サブスクリプションおよびテクニカルサポートで550ドルから始まります。 また、クラスター管理を自動化するには、8,000ドルからのVM​​ware vCenter Serverを購入する必要があります。 2Nスキームは継続的な可用性を確保するために使用されるため、10個のノードが仮想マシンで動作するには、10個の冗長サーバーとそれらのライセンスを追加購入する必要があります。 クラスターのソフトウェア部分の総コストは2 *（ 10 + 10 ）*（ 1750 + 550 ）+ 8000 = 100,000ドルになります。



ノードの特定の構成を描き始めたわけではありません。サーバー内のコンポーネントの構成は、常にクラスターのタスクに依存します。 また、ネットワーク機器を記述することは意味がありません。すべての場合において、セットは同じです。 そのため、この記事では、間違いなく異なるもの、つまりライセンスのコストのみを考慮することにしました。



開発が停止した製品に言及する価値があります。



XenベースのRemusは、無料のオープンソースソリューションです。 このプロジェクトでは、マイクロスナップショット技術を使用しています。 残念ながら、ドキュメントは長い間更新されていません。 たとえば、2014年に廃止されたU​​buntu 12.10のインストールについて説明します。 そして奇妙なことに、Googleでさえ、その活動にRemusを使用している単一の会社を見つけられませんでした。



継続的な可用性クラスターを作成する機能を追加するために、QEMUを改良する試みが行われました。 執筆時点では、このようなプロジェクトが2つあります。



1つ目は、 Kemariで、田村芳明が運営するオープンソース製品です。 QEMUのライブマイグレーションのメカニズムを使用することになっています。 ただし、最後のコミットが2011年2月に行われたという事実は、開発が停止し、再開しない可能性が高いことを示唆しています。



2番目は、同じくオープンソースであるMichael Hinesによって設立されたMicro Checkpointingです。 残念なことに、1年間、リポジトリにアクティビティはありませんでした。 状況はKemariプロジェクトに似ているようです。



したがって、現在、KVM仮想化に基づく継続的な可用性の実装はありません。



したがって、実践により、継続的可用性システムの利点にもかかわらず、そのようなソリューションの実装と運用には多くの困難があることが示されています。 ただし、フォールトトレランスが必要な場合もありますが、サービスの継続性に関する厳密な要件はありません。 このような場合、高可用性クラスター、KVDを適用できます。

高可用性

HPCのコンテキストでは、機器の障害を自動的に検出し、稼働中のクラスターノードでサービスを開始することにより、フォールトトレランスが確保されます。



CVDでは、ノードで実行されているプロセスの同期は実行されず、ローカルマシンディスクの同期は常に実行されるとは限りません。 したがって、ノードで使用されるメディアは、たとえばネットワークデータストレージなどの独立した独立したストレージに存在する必要があります。 理由は明らかです。ノードに障害が発生すると、ノードとの通信が失われます。つまり、ドライブ上の情報にアクセスする方法がなくなります。 当然、ストレージシステムもフォールトトレラントである必要があります。そうでない場合、定義によりHPCは失敗します。



したがって、高可用性クラスターは2つのサブクラスターに分割されます。

• 計算。 これには、仮想マシンが直接実行されているノードが含まれます。
• ストレージクラスター 計算サブクラスターのノードで使用されるディスクは次のとおりです。

現時点では、ノード上の仮想マシンでCVDを実装するための次のツールがあります。

• ハートビートバージョン1.xとDRBDの組み合わせ。
• ペースメーカー;
• VMware vSphere
• Proxmox VE;
• XenServer
• Openstack
• oVirt;
• Red Hat Enterprise Virtualization;
• サーバーロール「Hyper-V」と連携したWindows Serverフェールオーバークラスタリング。
• VMmanager Cloud。

VMmanager Cloud製品の機能を紹介します。

VMmanager Cloud

当社のVMmanager CloudソリューションはQEMU-KVM仮想化を使用しています。 このテクノロジーは積極的に開発およびサポートされており、仮想マシンに任意のオペレーティングシステムをインストールできるため、このテクノロジーを選択しました。 Corosyncは、クラスター内の障害を検出するためのツールとして使用されます。 サーバーの1つに障害が発生した場合、VMmanagerは、そのサーバーで実行されている仮想マシンを残りのノードに順番に分散します。



簡略化された形式では、アルゴリズムは次のとおりです。

1. 仮想マシンの数が最も少ないクラスターノードが検索されます。
2. リストに現在のVMを配置するのに十分な空きRAMがあるかどうかが要求されます。
3. 分散マシンに十分なメモリがある場合、VMmanagerはこのノードに仮想マシンを作成するコマンドを発行します。
4. 十分なメモリがない場合、より多くの仮想マシンを搭載するサーバーで検索が実行されます。

多くのハードウェア構成でテストし、既存のVMmanager Cloudユーザーにインタビューし、得られたデータに基づいて、機器の速度に応じて、障害が発生したノードからすべてのVMを配布および再開するのに45〜90秒かかったと結論付けました。



実践では、緊急事態には1つまたは複数のノードを割り当て、通常の運用中にVMを展開しない方がよいことが示されています。 このアプローチにより、クラスタ内の「ライブ」ノードに、「デッド」仮想マシンを持つすべての仮想マシンをホストするのに十分なリソースがない場合の状況がなくなります。 1台のバックアップサーバーの場合、バックアップスキームは「N + 1」と呼ばれます。



VMmanager Cloudは、ファイルシステム、LVM、ネットワークLVM、iSCSI、およびCephのストレージタイプをサポートしています。 HPCのコンテキストでは、最後の3つが使用されます。



永久ライセンスを使用する場合、10個の「戦闘」ノードと1つのバックアップのクラスターのソフトウェア部分のコストは、3,520ユーロまたは3,865ドルになります（ライセンスは、プロセッサ数に関係なく、ノードあたり320ユーロかかります）。 このライセンスには1年間の無料アップデートが含まれており、2年目以降はクラスター全体で年間880ユーロ相当のアップデートパッケージの一部として提供されます。



VMmanager Cloudユーザーが高可用性クラスターを実装したスキームを見てみましょう。

Firstbyte

FirstByteは、2016年2月にクラウドホスティングの提供を開始しました。 最初は、クラスターはOpenStackを実行していました。 ただし、このシステムに利用可能な専門家が不足しているため（可用性と価格の両面で）、別のソリューションの検索が必要になりました。 高圧燃料ポンプを制御するための新しい機器には、次の要件が課されました。

1. KVMで仮想マシンを提供する機能。
2. Cephとの統合の存在;
3. 利用可能なサービスの提供に適した課金との統合の可用性。
4. 手頃な価格のライセンス。
5. 製造元のサポートの可用性。

その結果、VMmanager Cloudは要件に最も適していました。



クラスターの特徴的な機能：

• データ伝送はイーサネットテクノロジーに基づいており、シスコの機器に基づいています。
• ルーティングはCisco ASR9001の責任です。 クラスターは約50,000のIPv6アドレスを使用します。
• コンピューティングノードとスイッチ間のリンク速度は10 Gb / sです。
• スイッチとストレージノード間では、データ交換レートは20ギガビット/秒で、10ギガビット/秒の2つのチャネルの集約が使用されます。
• ストレージノードを備えたラックの間には、複製に使用される個別の20ギガビットリンクがあります。
• SASディスクは、SSDドライブとともにストレージノードにインストールされます。
• ストレージタイプ-Ceph。

一般的に、システムは次のようになります。





この構成は、トラフィックの多いサイトをホストする場合、ゲームサーバーやデータベースを中から高負荷でホストする場合に適しています。

Firstvds

FirstVDS会社は、フォールトトレラントホスティングサービスを提供しています;この製品は2015年9月に発売されました。



同社は、次の理由でVMmanager Cloudを使用するようになりました。

1. ISPsystem製品の使用経験が豊富。
2. デフォルトでBILLmanagerと統合。
3. 優れた品質のテクニカルサポート製品。
4. Cephサポート。

クラスターには次の機能があります。

• データ伝送は、56 Gb / sの接続速度のInfinibandネットワークに基づいています。
• Mellanox機器上に構築されたInfinibandネットワーク。
• ストレージノードにはSSDメディアがインストールされています。
• 使用されるストレージタイプはCephです。

一般的なスキームは次のようになります。





Infinibandネットワークに一般的な障害が発生した場合、VMディスクストレージとコンピューティングサーバー間の接続は、ジュニパーの機器に展開されているイーサネットネットワークを介して実行されます。 「ピックアップ」は自動的に行われます。



ストレージとの相互作用が高速であるため、このようなクラスターは、トラフィックが非常に多いサイトのホスティング、ストリーミングコンテンツの再生を伴うビデオホスティング、および大量のデータの操作の実行に適しています。

エピローグ

記事を要約します。 サービスのダウンタイムの1秒ごとに重大な損失が発生する場合、継続的な可用性のクラスターなしではできません。



ただし、仮想マシンがバックアップノードに展開されている間、5分間待つことができる場合は、CVDに目を向けることができます。 これにより、ライセンスと機器のコストを節約できます。



さらに、フォールトトレランスを向上させる唯一の方法は冗長性であることを思い出すしかありません。 サーバーをバックアップしたら、データ回線と機器、インターネットアクセスチャネル、および電源を予約することを忘れないでください。 予約できるすべて-予約。 このような対策により、システム全体が機能しなくなる誤動作に起因する、単一の障害点である薄いスポットがなくなります。 上記のすべての対策を講じた後、フェールオーバークラスターを受け取ることになりますが、これを無効にするのは非常に困難です。



高可用性スキームがタスクにより適していると判断し、その実装用のツールとしてVMmanager Cloudを選択すると、システムの詳細を理解するのに役立つインストール手順とドキュメントが見つかります 。 スムーズな操作をお願いします！



PS組織にハードウェアCAサーバーがある場合は、コメントを記入してください。 私たちは、このような機器の使用が経済的に実現可能なプロジェクトについて聞いてみたいと思っています。