Amazon Simple Storage Serviceよりも35％安くデータストレージを編成した方法

従来型とソフトウェア定義の両方のストレージシステムのセットがあります。 仮想マシン、データベース、その他のリソースを保存するために、ブロックストレージ形式で使用されます。



第2段階では、オブジェクトストレージ、つまりディレクトリ階層のないストレージを使用し始めました。 すべてのデータは同じレベルにあり、各ファイルには独自のキーでアクセスできます。 メタデータはファイルの隣に保存されます。 アクセスには、PUT-GET-MODIFYレベルの単純なコマンドが使用され、独自のURIで各ファイルにアクセスでき、権利管理の容易さと、さまざまなデータの配置とそのアクセスが容易になります。



これらのソリューションの欠点は、ファイルの一部（セグメント）にアクセスできないことです。したがって、このようなアプリケーションはデータベースなどのアプリケーションには使用されません。 最適な使用方法は、Webサイトの画像、ファイルのゴミ箱、アーカイブ、またはデータのバックアップをそこに置くことです。 オブジェクトストレージに基づいて、S3（あまり頻繁に変更されないデータ用のストレージシステム）を構築しました。 Amazon S3との直接互換性。



また、ファイルアクセスに内部的に使用される従来のアクセスプロトコル（CIFSまたはNFS）は、インターネットを介してビッグデータを交換するようには設計されていません。 これが、オブジェクトストレージを作成したもう1つの理由です。



タスクは、どこでも動作するだけでなく、安価にすることでした。

どこから始まったの

顧客が西洋のクラウドプロバイダーからロシアに一括して移行し始めたとき、Amazon APIとの互換性が非常に求められていました。 特に、データストレージ用。 多くの場合、アプリケーションソフトウェアはオブジェクトリポジトリで動作するように作成され、その汎用性を使用しました。つまり、ファイルとしてファイルとして動作し、実際にどこから来たのか、どこにいたのかは気にしませんでした。 当然のことながら、新しいクラウドプロバイダーのために、ソフトウェアを書き直すことを急ぐ人はいませんでした。 したがって、オブジェクトストレージシステムが必要でした。



サービスポートフォリオを開発するプロセスは、家を建てることと比較できます。 まず、基礎を築きます。これは、強固な基礎と、その後の部屋、床、バルコニー、ガレージなどの建設に必要です。サービスのポートフォリオも徐々に形成されています。 新しいサービスの出現により、ストレージの構成に関する質問がますます頻繁に登場しました。 顧客からの質問：

-レポートは何年も保持されます。 あなたはそれを安く保つために何かを考えることができますか？

-書き込み専用バックアップを使用します。 つまり、5年間で使用されたことはありません。 もっと安く保管できますか？

-また、バックアップは自動的に実行できますが、一般的なストレージには保存されませんか？

-そして、あなたはただデータを保存できますか？ そして、マーケティング用のフォトバンクがあります。



内部の問題は、水平方向にスケーラブルなプラットフォームを作成できるかどうかでした。 このソリューションでは、低コストのストレージ、Technoservクラウド内およびインターネット経由の両方からのデータへのアクセスに焦点を当てた別個のストレージを作成しました。 このソリューションには、市場ですでに採用されているアクセシビリティインターフェイスもあり、お客様が使用する製品をサポートしています。 読み取り-S3。 実際のリクエストがあったからです。

ネイティブS3の互換性

オブジェクトストレージは、クラウドで一般的に使用される階層データストレージ方式です。 他のストレージ方法とは異なり、オブジェクトストレージはディレクトリ階層を使用しません。 個々のデータユニット（オブジェクト）は、同じレベルのデータプールに共存します。 各オブジェクトには、アプリケーションがアクセスするために使用する一意の識別子があります。 さらに、各オブジェクトには、受信したメタデータを含めることができます。



オープンソースと商用の両方のソリューションが検討されました。 合計6つ半のソリューションがテストされました（主要機能のベンチマークとテスト）。 その結果、Cloudian HyperStoreを選択しました。 それが理由です。

• 100％製造元が保証するAmazon S3 APIコンプライアンス Cloudianは、HyperStoreがAmazon S3 APIと100％互換性があることを保証します。これにより、以前にAmazonストレージサービスを使用したか、S3をサポートするソリューションをお持ちのお客様は、ソフトウェアの変更や調整なしでサービスを使用できます。

• スケーリング。 HyperStoreを使用すると、レポート作成や管理など、さまざまなポリシーをきめ細かく管理できる分散型クラウドストレージプラットフォームを作成できます。 このソリューションは、1つのバスケットで数千のノードと数十億のオブジェクトに拡張でき、必要なペタバイト数に最短時間で柔軟に拡張できます。
• セキュリティと暗号化。 HyperStoreを使用すると、送信および保存中にデータを暗号化できます。 アクセス権を設定し、ファイルを使用したすべての操作のログを記録する機能、およびクライアントキーでストレージ側のデータを暗号化する機能が提供されます。
• 分離ドメインのサポート（マルチテナンシー）。 リソース管理を顧客に移行する必要があります。これは、基本的な操作（たとえば、新しいユーザーの取得、消費されるリソースの量の推定など）の実行速度を向上させ、簡単な操作で気を散らす必要のない運用サービスの負荷を軽減するためです。 製品の分離ドメインの初期サポートにより、クライアント間でリソースを安全に共有し、ユーザーが他のクライアントの動作に影響を与えないようにすることができます。 つまり、コードに松葉杖を打ち込む必要はありません。それで問題ありません。
• サービスレベル管理（QoS）。 一部の顧客では、サービスの作業に準拠するために保証された帯域またはワークフローを割り当てる必要がありますが、逆に、誰かが要件を持たず、最適化されていないサービスでさえ、非常に「空腹」であり、可能な限り「食べます」。
• レプリカとERASURE CODINGを使用した動的バックアップ。 HyperStoreは、レプリカとErasure Coding（EU）を使用して複数レベルの冗長性をサポートします。

レプリカの数は個別に設定され、3つに達する可能性があります。 EUでは、かなり広い範囲で冗長性のレベルを設定し、必要な信頼性のレベルをさらに調整できます。







保護レベルは細かく設定されます。つまり、特定のデータセグメントで、システム全体に対して単一の保護ポリシーを選択する必要があるという制限はありません。 デフォルトでは、5 + 3の予約ポリシーがシステムに選択されており、これはプラットフォームの現在の構成に関連しています。



保護の粒度は、操作に非常に便利です。 たとえば、数千万の非常に小さなファイル（文字通りそれぞれ10〜30 Kb）を配置する顧客がいますが、EUを使用する場合、メタデータの大幅な増加とこのデータの一部の操作の沈下に直面しています。 コピーを使用した保護の移転により、状況を修正し、システムの全体的な負荷を軽減することができました（この顧客の運用に関して）。

そしてコストはどうですか？

Amazonの下で、一定量の消費から始めます。 つまり、中規模および大規模ビジネス向け-西洋のソリューションよりも収益性が高い。



プラットフォームは、当社のサービスの一部のベースになりました。 STaaSの外部顧客（インターネットサイトのアーカイブ、コピー、コンテンツなどのサービスとしてのストレージ）の独立したサービスとして、内部の長期アーカイブとコールドデータの基本ストレージとして、BaaSのバックアップストレージとして（Backup as aサービス）。 BaaSの構成とオブジェクトストレージとやり取りするための形式は、別の話に値します。興味があれば、詳細をお伝えします。



現在のプラットフォーム構成は、8台のDell R730xdストレージサーバーと2台のHAproxyベースのバランスサーバーで構成されています。 サーバーには次の特性があります。

• 2プロセッサーE5-2620 v4（8コア、2.1 GHz）;
• 128 GB RAM
• NIC（イーサネット）アダプターIntel X520 2ポート10 Gbps。
• NIC（イーサネット）アダプターBroadcom 5720 4ポート1 Gbps。
• 12個のSATA 8 TBハードドライブ。
• 2 x 480 GB SSD

この構成により、最大20 Gbps（負荷テストに基づいて）のデータストリームを提供でき、スケーリングによりパフォーマンスを向上させることができます。



現在、提供されているストレージのオプションに対応する2つの主な関税があります。 基本的なオプションは、ホットアクセスとコールドアクセスです。 頻繁にアクセスされるファイルと、多数の小さなファイル（<500 Kバイト）を保存するためのホットアクセス料金。 ファイルの保存にこの関税を選択する場合、レプリカ3ストレージポリシーが使用されます。つまり、ファイルを3つのコピーに保存します。 システム（サービスコントロールパネル）では、R3として指定されています。



反対に、以前の料金とは異なり、コールドアクセスは、頻繁なアクセスを必要としないファイルの保存を目的としています。 これらは通常バックアップです。 ファイルを保存するデータを選択する場合、Erasure Coding 5 + 3ストレージポリシーが使用されます。つまり、ファイルは異なるサーバー上の8つの部分にエンコードされ、5つの部分でファイルを読み取ることができます。



つまり、1つのデータセットが8つの異なる場所に保存され、これらの場所のうち3つが失われる可能性があります。



「クラウドオブジェクトストレージ」サービスを使用する場合、Pay as you goシステムを使用して支払いを行うことができます。この場合、選択した料金に従って実際に消費されたリソースに対してのみ支払いが行われます。 サービスを提供する別のオプションは、固定ボリュームシステムを使用することです。 この使用スキームでは、ユーザーは厳密に固定されたディスク容量を提供され、選択した料金に応じて支払います。



価格自体について少し：

お名前	VAT、ルーブル/月を含む単価。
関税「頻繁なアクセス」
情報ストレージ、GB	1.65
GBごとのダウンロード情報	2,36
PUT / POSTリクエスト、10,000個のパッケージ。	3,54
GET / HEADリクエスト、10,000個のパッケージ。	0.28
まれなアクセス料金
情報ストレージ、GB	1.06
GBごとのダウンロード情報	7.38
PUT / POSTリクエスト、10,000個のパッケージ。	7.08
GET / HEADリクエスト、10,000個のパッケージ。	0.71

10,000個のパッケージに対してリクエストが請求されることに注意してください。 例を考えてみましょう。 ユーザーは、レアアクセス料金表で1か月あたり156,250 PUTリクエストをセグメント化しました。 したがって、この場合、ユーザーは113.28ルーブルを支払う16個のパッケージを使用したと考えられます。



重要！ 近い将来、コストを削減する方向に関税グリッドを修正する予定です。



最後に、クライアントがCloud Storageを使用してサイトコンテンツを保存する場合のAmazonとTechnoservの関税を比較することに近づきました。 この場合、Technoservの「Frequent Access」料金とAmazon（米国東部、ノースバージニア州）のStandard S3 Storageを使用する方が便利です。

お名前	テクノサーブ	アマゾン
	関税「頻繁なアクセス」	Amazon標準
1 GBの情報を保存するコスト	1.65	1.45
ダウンロードコスト1 GBの情報	2,36	5.36
プットリクエストパッケージのコスト、10,000個。	3,54	3.15
リクエストパッケージの価格、10,000個を取得します。	0.28	0.2

お名前	数量	テクノサーブ	アマゾン
		関税「頻繁なアクセス」	Amazon標準
1か月あたりに保存される情報量、GB	100,000	165,000	144 900
1か月あたりのダウンロードされた情報量（GB）	40,000	94,400	214,200
1か月あたりのPUTリクエストの数、pcs。	50,000,000	17,700.00	15 750,00
1か月あたりのGET要求の数、個。	40,000,000	1,120.00	1 008,00
月額		278 220	375,858

次に-地理的に分散し、地理的に予約されたソリューションの形成。 APIのシンプルさにより、オブジェクトストレージは非常に適切に複製され、水平方向にスケーリングされるため、単純な地理予約（geocluster）が可能になり、サイトからデータを「すぐに」移行および同期できます。 従来の配列は、水平スケーリングにはあまり適していません。



オブジェクトストレージがクラウドに提供されるだけでなく、外部にファイルを提供することも重要です。 特に、これはインターネット上で太いパイプが必要な場合に重要です。従来の企業プロトコル（CIFSまたはNFS）を使用してインターネットを経由することはできません。 これらはすべて、オブジェクトリポジトリによってほぼ完全に管理されます。 実際、結果として、インターネットにパッチを適用します-交換にはオブジェクトプロトコルを使用します。 クラシックファイルアクセスが必要な場合、CIFSまたはNFSプロトコルを実装し、社内にデータを表示する小さなクライアントを配置できます。



もちろん、インターネットの発展に伴い、状況は変わります。 80年代の名残と馬のクループの幅に関連する基準を克服すれば、迅速なデータ交換が可能になります。 すぐに。 しかし、今のところそのようなパッチがあります。



ロックは、非常に大きなAmazon Web Servicesアドレスプールに影響しました。 仕事の不便や不安定さのみを経験した人もいれば、ビジネスクリティカルなシステムへのアクセスを完全に失い、経済的損失を被った人もいました。 この状況の結果は、ロシアのクラウドへの配置に対する需要の雪崩であり、ネイティブプロトコル（特にS3）を使用する可能性があり、新しい顧客のシステムを変更することなく移行が可能になりました。 そのため、ネイティブS3を使用すると非常に便利であることがわかりました。