HPCテクノロジーの基礎

高負荷システムとその構築方法の定義

サーバーの負荷は、サーバーのハードウェア使用率の重要な指標です。 ヒットとは、情報を求めるサーバーへのクライアント要求です。 サーバーの負荷は、1秒あたりのヒット数で表される時間に対するクライアント要求（ヒット）の数の比率として定義されます。 2010年のMicrosoftの調査によると、1秒あたり100〜150ヒットの負荷を持つサーバーは、高負荷のサーバーと見なすことができます。

文献には、HPCシステム、高負荷システム、高負荷クラスター、高負荷システム、スーパーコンピューターなどの概念があり、これらは同義語として使用されることがあります。 毎秒少なくとも150ヒットの負荷があるサイトを理解します。

クラスターは、連携して単一の統合コンピューティングリソースを形成するコンピューターのグループです。 各ノードは、オペレーティングシステムの独自のコピーを実行しています。これは、最も一般的に使用されているLinuxおよびBSDです。

クラスタによって実行されるタスクがノード間でどのように分散されるかを理解するには、スケーラビリティを定義する必要があります。 スケーラビリティ-リソースを追加するときに、ワークロードの増加（生産性の向上）に対処するシステムの能力。 システムは、追加のリソースに比例してパフォーマンスを向上できる場合、スケーラブルと呼ばれます。 スケーラビリティは、システムパフォーマンスの増加と使用済みリソースの増加の比率から推定できます。 この比率がユニティに近いほど、優れています。 また、スケーラビリティとは、システムの中央ノードに構造的な変更を加えることなく、追加のリソースを増やす可能性を指します。 負荷の高いシステムのアーキテクチャのスケーリングは、水平および垂直にすることができます。 垂直スケーリングとは、サーバーの容量を増やすことでシステムパフォーマンスを向上させることです。 垂直スケーリングの主な欠点は、一定の制限があることです。 鉄のパラメーターを無期限に増やすことはできません。 ただし、実際には、垂直成分はほとんど常に存在し、普遍的な水平スケーリングは存在しません。 水平スケーリングとは、追加のサーバーを接続してシステムのパフォーマンスを向上させることです。 現在、実際に標準となっているのは水平スケーリングです。 対角スケーリングという用語も知られています。 2つのアプローチを同時に使用する必要があります。

そして最後に、クラスタアーキテクチャの構築に使用される基本原則を決定する必要があります。 これは、システムの3リンク構造です（図1）。 3つのリンクは、フロントエンド、バックエンド、およびデータウェアハウスです。 各リンクはその機能を実行し、リクエストを処理するさまざまな段階を担当し、異なる方法でスケーリングします。 最初に、リクエストはフロントエンドに送られます。 通常、フロントエンドは静的ファイルを返し、リクエストの初期処理を行い、それをさらに転送します。 リクエストが来る2番目のリンクは、フロントエンドによって既に前処理されており、バックエンドです。 バックエンドはコンピューティングに従事しています。 バックエンド側では、原則として、プロジェクトのビジネスロジックが実装されます。 要求処理に入る次のレイヤーは、バックエンドによって処理されるデータウェアハウスです。 データベースまたはファイルシステムにすることができます。

クラスターHPCシステムを構築するためのハードウェアとソフトウェアの概要

クラスターを構築するとき、サーバー間で負荷を分散する方法のタスクが発生します。 このために、負荷分散が使用されます。これは、ディストリビューション自体に加えて、たとえば、フォールトトレランスの向上（サーバーの1つに障害が発生した場合、システムが動作し続ける）および特定の種類の攻撃（SYNフラッドなど）に対する保護など、いくつかの他のタスクを実行します。

フロントエンドのバランスと保護

バランシング方式の1つはDNSラウンドロビンで、フロントエンドのスケーリングに使用されます。 その本質は、システムのドメインを記録するために、タイプAのいくつかのDNSレコードがDNSサーバー上に作成され、DNSサーバーがこれらのレコードを交互の周期的な順序で発行することです。 最も単純なケースでは、DNSラウンドロビンは、1つのIPアドレスだけでなく、同じサービスを提供するサーバーの複数のアドレスのリストでクエリに応答することにより機能します。 各応答で、IPアドレスのシーケンスが変更されます。 通常、単純なクライアントはリストの最初のアドレスとの接続を確立しようとするため、異なるクライアントには異なるサーバーのアドレスが与えられ、サーバー間で合計負荷が分散されます。 このメソッドを実装するには、バインドなどのDNSサーバーが適しています。 この方法の欠点は、一部のプロバイダー用にDNSサーバーがあり、レコードのキャッシュを長時間強制することです。 次のバランシング方法は、プロトコルスタックの第2レベルでのバランシングです。 フロントエンドがシステムのIPアドレスに到達する接続を受け入れ、それらに応答するようにルーターを使用して分散が行われますが、このアドレスに関連するARP要求には応答しません。 この方法のソフトウェアツールのうち、最も一般的なのはLinuxカーネルのモジュールであるLVS（Linux Virtual Server）であり、この分散方法は直接ルーティングとも呼ばれます。 ここでの主な用語は次のとおりです。ディレクター-ルーティングを実行する実際のノード。 Realserver-サーバーファームノード VIPまたは仮想IP-仮想（多数の実サーバーから収集）サーバーのIP。 DIPおよびRIP-IPディレクターおよび実サーバー。 ディレクターは、このIPVSモジュール（IP仮想サーバー）を切り替え、パケット転送ルールを設定し、VIPを上げます-通常は外部インターフェイスのエイリアスとして。 ユーザーはVIPを通過します。 VIPに到着したパケットは、選択された方法でいずれかのRealserverに転送され、そこで正常に処理されています。 クライアントには、1台のマシンで作業しているようです。

もう1つの方法は、プロトコルスタックの3番目のレベル、つまりIPレベルでバランスを取ることです。 この方法は、システムのIPアドレスに接続すると、バランサーで宛先NATが実行されるように機能します。つまり、宛先IPアドレスはパケット内のフランチャイズのIPアドレスに置き換えられます。 応答の場合、パケットヘッダーは元に戻されます。 これは、Linuxカーネルの一部であるnetfilterを使用して行われます。 フロントエンドがユーザーからのリクエストを受け入れる限り、クラスターを保護する主なタスクはフロントエンド（またはアーキテクチャによってはフロントエンドバランサー）に正確にあります。 あらゆる種類のハッカー攻撃（SYNフラッドやDDOSなど）に対する保護を提供する必要があります。 ほとんどの場合、ファイアウォール（ファイアウォール-ファイアウォール）が保護に使用され、他の名前はファイアウォール（ブランドマウアー-ファイアウォール）、別の名前はファイアウォールです。 ファイアウォールは、パケットフィルタリングルールを使用して悪意のあるトラフィックをブロックし、キャッシュ、アドレス変換、トラフィックの転送などのアクションも実行できます。 GNU / Linuxには、Linuxカーネルの一部である組み込みのnetfilterファイアウォールがあります。

バックエンドのスケーリング

負荷の高いWebサイトを構築する場合、軽量のHTTPリクエストと重いHTTPリクエストが区別されます。 軽いリクエストは、静的なWebページと画像のリクエストです。 大量のクエリは、コンテンツを動的に生成する特定のプログラムにとって魅力的です。 動的Webページは、高レベル言語（ほとんどの場合、PHP、ASP.net、Perl、Java）で記述されたプログラムまたはスクリプトによって生成されます。 これらのプログラムの組み合わせは、ビジネスロジックと呼ばれます。 ビジネスロジックは、一連のルール、原則、サブジェクトエリアのオブジェクトの動作の依存関係、ルールの実装、および自動操作の制限です。 ビジネスロジックはバックエンドにあります。 2つのスキームが使用されます。1つ目-フロントエンドWebサーバーは軽いリクエストを処理し、重いリクエストをバックエンドにプロキシします。 第二-フロントエンドは純粋にプロキシとして機能しますが、サーバーの1つのグループに軽い要求をプロキシし、別のグループに重い要求をプロキシします。

Apacheは、多くの場合、バックエンドWebサーバーとして使用されます。 Apacheは最も人気のあるHTTPサーバーです。 Apacheには仮想ホストメカニズムが組み込まれています。 Apacheは、さまざまな作業環境で使用するためのさまざまなマルチプロセッサモデル（MPM）を提供します。 Linuxで最も人気のあるpreforkモデルは、プールでプロセスを開始および管理するときに、一定数のApacheプロセスを作成します。 代替モデルはワーカーであり、プロセスの代わりに複数のスレッドを使用します。 スレッドはプロセスよりも軽量ですが、サーバー全体がスレッドセーフになるまで使用できません。 また、プリフォークモデルには固有の問題があります。各プロセスは多くのメモリを消費します。 負荷の高いサイトは数千のファイルを同時に処理しますが、メモリとスレッドまたはプロセスの最大数によって制限されます。 2003年、ドイツの開発者Jan Kneschkeはこの問題に興味を持ち、適切な技術に焦点を合わせて、Apacheよりも高速なWebサーバーを作成できると判断しました。 彼はLighttpdサーバーを、単一のスレッドとノンブロッキングI / Oを持つ単一のプロセスとして設計しました。 スケーリングタスクを実行するには、Lighttpd + Apacheを使用できます。これにより、Lighttpdがすべての静的をクライアントに提供し、たとえば.cgiや.phpで終わるリクエストがApacheに転送されます。 スケーリングの問題を解決するためのもう1つの一般的なサーバーはNginxです。 Nginxは、HTTPサーバーとリバースプロキシ、およびメールプロキシです。 プロキシサーバーとして、Nginxはフロントエンドに配置されます。 複数のバックエンドが存在する場合、Nginxはロードバランサーとして機能します。 このモデルでは、リクエストがNginxによって受け入れられ、NginxがApacheリクエストを送信してすぐに応答を受信し、その後Apacheがメモリを解放し、Nginxが静的コンテンツを配信するように記述されたクライアントとやり取りする（単純なリクエストに応答する）ため、システムリソースを節約できます、システムリソースをほとんど消費しない、多数の顧客。 Microsoft Serverでは、IISがバックエンドWebサーバーとして使用され、ビジネスロジックはASP.netで記述されています。

バックエンドをスケーリングするもう1つの方法は、スケーラブルなアプリケーションサーバーです。 ビジネスロジックがJava、つまりサーバーバージョンで記述されている場合に適用されます。 これらのアプリケーションはサーブレットと呼ばれ、サーバーはサーブレットコンテナまたはアプリケーションサーバーと呼ばれます。 多くのオープンソースサーブレットコンテナがあります：Apache Tomcat、Jetty、JBoss Application Server、GlassFish、およびプロプライエタリ：Oracle Application Server、Borland Application Server。 アプリケーションが明確に定義されたレベルに従って設計および開発されている場合、多くのアプリケーションサーバーがクラスタリングをサポートします。 さらに、アプリケーションの重大な問題を解決するために、Oracle Application Serverは「クラスタアイランド」をサポートします。これは、セッション状態パラメータをはるかに簡単に再現できるJ2EEレベルのサーバーのセットです。一部のJ2EEコンポーネントが失敗した場合にこの要求を処理できるコンポーネント。

DBMSスケーリング

そして最後に、クラスター化されたHPCシステムの作成に使用されるソフトウェアツールの説明で、データウェアハウスをスケーリングする手段に言及する必要があります。 Webのデータウェアハウスとして、汎用データベースが使用されますが、最も一般的なデータベースはMySQLとPostgreSQLです。

DBMSスケーリングの主な手法はシャーディングです。むしろ、シャーディングをスケーリングではなく、データをマシンに分割するという方が正しいでしょう。 この方法の本質は、データ量が増加すると、新しいシャードサーバーが追加されることです。これは、既存のシャードが特定の制限に達すると追加されます。

DBMSを拡張する場合、レプリケーションテクノロジーが役立ちます。 レプリケーションは、データベースサーバー間の通信手段です。 レプリケーションを使用すると、1つのサーバーから別のサーバーにデータを転送したり、2つのサーバーでデータを複製したりできます。 レプリケーションは「仮想シャード」スケーリング技術で使用されます-レプリケーションを使用して、各バックエンドサーバーが独自の仮想シャードで動作するようにデータが分散され、目的のシャードが物理的に配置されている場所に関する情報が対応テーブルに保存されます。 また、データベースクエリの機能（まれな更新操作と頻繁な読み取り要求）に基づく、スケーリング方法でのレプリケーション手法。 各バックエンドサーバーは独自のデータベースサーバーと連携し、SLAVEと呼ばれ、これらのサーバーでテーブルからの読み取り操作（SELECT関数）が発生します。 テーブルへの書き込みが実行されると（INSERTおよびUPDATE関数）、要求はMASTERサーバーに到着し、そこからすべてのサーバーに複製されます。

MySQLは異なるストレージシステムを使用します。 ほとんどの場合、これらはMyISAMおよびInnoDBです。 MySQLクラスターと呼ばれる特別なMySQLスケーリングツールで使用されるNDBストレージシステムもあります。 MySQL Clusterのクラスター化された部分は、現在MySQLサーバーとは独立して構成されています。 MySQL Clusterでは、クラスターの各部分はノードと呼ばれ、ノードは実際にはプロセスです。 1台のコンピューターに任意の数のノードを配置できます。 MySQLクラスターの最小構成には、少なくとも3つのノードがあります。マネージャー（MGMノード）-その役割：構成データの提供、ノードの起動と停止、バックアップの実行など、MySQLクラスター内の他のノードを管理します。 データベースノード（DBノード）-データベースを直接管理および保存します。複製用のフラグメントと同じ数のDBノードがあります。たとえば、それぞれ2つのフラグメントの2つの複製では、4つのDBノードが必要です。 クライアントノード（API）-クラスターにアクセスするユーザーノード。MySQLクラスターの場合、ユーザーノードはNDB Clusterストレージタイプを使用する従来のMySQLサーバーであり、クラスター化されたテーブルへのアクセスを許可します。

代替ソリューションとしての分散コンピューティング

クラスターアーキテクチャに基づいて独自の高負荷システムを構築する代わりに、クライアントが分散コンピューティングインターネットサービスを使用する方が簡単で収益性が高い場合があります。 分散コンピューティングは、複数のコンピューターを使用して時間のかかるコンピューティングタスクを解決する方法であり、ほとんどの場合、並列コンピューティングシステムに統合されます。 分散コンピューティングの歴史は1999年にさかのぼります。1999年に、米国北東部大学のSean Fanningがユーザー間でMP3ファイルを交換するためのシステムを作成しました。 このプロジェクトはNapsterと呼ばれます。 Napsterの例に従って、新しい分散型のP2P（またはピアツーピア）ネットワークのクラス全体が開発されました。P2Pファイル共有とは、ユーザーがサーバーからファイルをダウンロードするのではなく、ファイル共有ネットワークの他のユーザーのコンピューターからファイルをダウンロードすることです。トラッカーまたはハブと呼ばれます。 ファイルのダウンロードは、すべてのピア（ピアツーピアネットワークのメンバー）から同時に行われ、同時アップロードを伴うため、ピアツーピアネットワークは一種の分散ファイルストレージです。

分散コンピューティングの技術が開発され、分散ファイルストレージ、分散データベース、ストリーム、プロセッサの作成だけでなく、P2Pの原則が使用されるようになりました。

グリッドコンピューティング（グリッド-グリッド、ネットワーク）は、「仮想スーパーコンピューター」がネットワークで接続されたクラスターの形で提示され、協力して膨大な数のタスクを実行する分散コンピューティングの一種です。 グリッドは、標準のオープンでユニバーサルなプロトコルとインターフェースを介して分散リソースを調整し、重要なサービス品質を保証するシステムです。 グリッドコンピューティングの概念の根底にある主なアイデアは、さまざまな種類のコンピューティングの問題を解決するために必要なリソースの集中リモートプロビジョニングです。 ユーザーは計算のために任意のコンピューターから任意のタスクを実行できます。この計算のリソースは、タスクの種類に関係なく、リモートの高性能サーバーで自動的に提供される必要があります。 グリッド開発者が関心を持っているリソースの分散は、ファイル共有ではなく、タスクとリソース管理戦略を共同で解決するために必要なコンピューター、ソフトウェア、データ、およびその他のリソースへの直接アクセスです。 グリッドアーキテクチャの次のレベルが区別されます。基本（コンピューター、ストレージデバイス、ネットワーク、センサーなどのさまざまなリソースが含まれています）。 バインディング（通信プロトコルと認証プロトコルを定義）; リソース（RVSのリソースとその管理との相互作用のためのプロトコルを実装します） 集合（リソースカタログ管理、診断、監視）; 適用済み（グリッドおよびユーザーアプリケーションを操作するためのツール）。





分散コンピューティングの進化における次のステップは、クラウドコンピューティングです。 バークレーのラボでは、「クラウドコンピューティングは、インターネットを介してサービスとして提供されるアプリケーションだけでなく、これらのサービスを提供するデータセンターのハードウェアおよびソフトウェアシステムでもあります。」と定義しています。 クラウドコンピューティングは、分散リソースがインターネットサービスとしてユーザーに提供される技術です。

クラウドコンピューティングのおかげで、企業はエンドユーザーにインターネット経由でサービス、コンピューティングリソース、およびアプリケーション（オペレーティングシステムやインフラストラクチャを含む）へのリモートダイナミックアクセスを提供できます。 コンピューティングクラウドは、数百万のユーザーが同時に使用する数万のアプリケーションを提供する物理データセンターと仮想データセンターにある数千のサーバーで構成されています。

クラウドを分類するためのすべての可能な方法は、次のレベルで構成されるクラウドシステムの3層アーキテクチャに減らすことができます。

• サービスとしてのインフラストラクチャ：IaaS
• サービスとしてのプラットフォーム（サービスとしてのプラットフォーム：PaaS）
• サービスとしてのソフトウェア（サービスとしてのソフトウェア：SaaS）

SaaSは、Webブラウザを介してソフトウェアに完全にアクセスできるようにするWebベースのソフトウェア展開モデルです。 SaaSシステムのユーザーにとって、ソフトウェアのインストール場所、使用するオペレーティングシステム、作成する言語（PHP、Java、または）は関係ありません。 NET そして、最も重要なことは、ユーザーがどこにもインストールする必要がないことです。 たとえば、Gmailはブラウザからアクセスできるメールプログラムです。 同時に、Gmail自体は世界中のサーバークラウドに分散されています。つまり、SaaSテクノロジーを使用しています。

PaaSは、カスタムWebアプリケーションを展開するためのインフラストラクチャと機能的に完全なサービスおよびアプリケーション開発環境をユーザーに提供します。 たとえば、Google App Engineユーザーは、Google APIを使用して独自のPythonアプリケーションを作成できます。

Iaasは、計算サイクルや情報ストレージリソースなどの情報リソースをサービスとして提供します。 生のコンピューティングおよびストレージデバイスへのアクセスを提供する代わりに、IaaSプロバイダーは通常、仮想化された構造をサービスとして提供します。

2012年末の最大のクラウドプロバイダーは、Amazon Web Services、Windows Azure、およびGoogle App Engineです。

アマゾンウェブサービス（AWS）-すべてのクラウドサービスに関するAmazonの包括的な説明であり、幅広いサービスをカバーしています。 Amazon Elastic Cloud Compute（Amazon EC2）は、Amazonクラウドの中心です。 このサービスは、仮想サーバーがAmazonクラウドに解放されたリソースを返して不要になった後、仮想サーバーをプロビジョニング、管理、およびリリースするためのWebサービスAPIを提供します。 EC2は、仮想サーバーを含むユーザー仮想ネットワークです。 Amazon EC2にアクセスする主な手段は、Webサービスアプリケーションプログラミングインターフェイス（API）です。 Amazonは、Amazon Webサービスコンソール、Firefox ElasticFoxプラグイン、Amazonコマンドラインツールなど、APIを介して機能する多数のインタラクティブツールを提供しています。

Windows Azureは、マイクロソフトが開発したクラウドプラットフォームです。 Windows Azureは、Microsoftデータセンターコンピューター上のデータのストレージ、使用、および変更を提供します。 ユーザーの観点から見ると、アプリケーションには2つのカテゴリがあります。ユーザーのコンピューターで実行可能な内部と、データセンターコンピューターのWindows Azure環境で実際に実行可能なクラウドです。 クラウド内のアプリケーションを管理するためのWindows Azureのコアコンポーネントは、Windows Azure AppFabricです。WindowsAzure AppFabricは、Windows Azureプラットフォームでアプリケーションを開発、展開、および管理するための中間層クラウドプラットフォームです。 Windowsの分類によると、AzureはPaaSタイプのクラウドプラットフォームを指します。つまり、クライアント開発者にはクラウドベースのアプリケーション管理ツールが提供されます（これはAppFabricコンポーネントが提供するものです）。

要約すると、HPCシステムのすべての考慮されたアーキテクチャは、そのようなブロック図として表すことができます。