ビデオ監視用のストレージシステムを設計します

前の記事で、ビデオ監視用のITインフラストラクチャとデータストレージサブシステムを整理する機能について説明し、大規模なプロジェクトでは、ビデオアーカイブストレージを整理するためにストレージシステム（データストレージシステム）を使用することをお勧めします。



この出版物では、ビデオ監視用のストレージの選択の問題、RAIDIXベースのストレージの利点、および実際の実装例について説明します。

ビデオ監視用のストレージの選択

ストレージの種類

ストレージシステムは、ファイルストレージ、ビデオ監視、ビジネスアプリケーション、データベース、仮想化、アーカイブ、バックアップなど、さまざまなデータストレージタスクに使用できます。



大容量の低速タスクでは、通常、HDD（ファイルおよびバックアップストレージ）に大きなアレイを配置した生産性の低いソリューションを選択します。 仮想化および汎用タスクの場合、速度とボリュームの両方のニーズを満たすために、ハイブリッドソリューション（フラッシュ+ HDD）が使用されます。 遅延に敏感なアプリケーションとデータベースの場合、非常に高速で高価なストレージシステムが選択されます-原則として、今日ではオールフラッシュであり、速度が前面に出ており、ボリュームは一般に小さいです。



これら3つのカテゴリのビデオ監視タスクでは、テラバイトあたりの低価格を実現するために、主にボリューム指向の最初のものを選択します。 また、より高価なハイブリッドソリューションを選択することもできますが、それらからはほとんど意味がなく、フラッシュキャッシュ（またはダッシュ）はストリーミング（シーケンシャル）ストレージトラフィックから詰まり、すべてが低速のHDDで実行されます。 もちろん、シーケンシャル操作の高速ランダムアクセスオールフラッシュストレージも非常に優れていますが、大容量を必要とするビデオ監視の場合、これは不当に高価で非効率的なソリューションです。

ビデオ監視用のI / O機能

データストレージのコンテキストでは、ビデオ監視はマルチスレッドシーケンシャルI / O操作によって特徴付けられます。

• 各IPカメラは、ビデオアーカイブストレージに記録するための独自のシリアルデータストリームを作成します。 その結果、深刻なマルチスレッドの記録負荷が発生します。
• アーカイブからビデオを表示すると、1つ以上のストリームで構成される順次読み取り操作が実行されます。

ストレージの負荷の観点から見ると、プロジェクトが複数のワークステーションの多くのオペレータによるアーカイブからのビデオの継続的な視聴を伴わない場合が最適です。 リアルタイムの監視ではデータの読み取りは不要であり、アーカイブからの表示は1つのビデオ録画で行われます-時折または常時です。 この場合、メインの負荷（90％以上）が記録され、ストレージは読み取り時に目立った負荷を受けません。



そうしないと、アーカイブ（たとえば、カジノ、スタジアム、ショッピングセンター）の異なるカメラからの複数のビデオを常に並行して表示する必要がある場合、競合する多くの読書ストリームを受け取り、ストレージシステムの負荷が劇的に増加します。 したがって、同じ数のカメラで、少なくとも2倍の生産性の急勾配のストレージを配置するか、アレイ（コントローラー）あたりのカメラの数を減らす必要があります。

選択の問題

現在、市場にはさまざまなメーカーのストレージシステムの多くのモデルがあります。

• データストレージのみに従事しているベンダーがあり、ストレージシステムがメインまたは唯一の製品です。
• IT業界には、あらゆる種類のハードウェアとソフトウェアを製造する一方で、独自のストレージおよびストレージソリューションのラインをサポートおよび開発する巨人がいます。
• ビデオ監視用のソフトウェアおよびハードウェアの大手メーカーの多くは、独自のストレージを提供しています。

従来、すべてのストレージモデルは2つのクラスに分類できます。

• ブランド倉庫 。 つまり、クラス「A」またはプレミアムセグメントのメーカーのストレージです。 彼らはクールで信頼性が高く、良いサービスを提供しています。 エントリーレベルのモデルであっても、価格は非常に高く、真面目な生産モデルは飛行機のようなものです。 最も厄介なのは、それらに任意のネジ（HDD）を取り付けることができないことが多いことです。それらは通常通りに差し込まれ、動作します。ストレージベンダーの「ネイティブ」ドライブのみを保証するハードウェアを奪われません。 実際、これらはハードドライブを製造するメーカーの同じサーバーネジになりますが、ブランドのスライドとストレージメーカーのブランドのステッカーを使用すると、数倍の費用がかかります。 実際には、ブランドサーバーのネジの状況は同じです。 人々がお金を数えることに慣れていて、ブランドのために時々お金を払いたくないビデオ監視プロジェクトの場合、これらのソリューションは適切ではありません。 もちろん、顧客が「パイプに座っている」場合-これは彼の場合、彼はそれを買う余裕があります。
  
  
  
  
• 予算決定 。 これは、「人気のある」ストレージベンダーからの既製のストレージ、または安価な標準（商品）サーバーハードウェアおよびソフトウェアストレージシステム（SDS）上のプレハブソリューションで、有料または無料です。 これには、ビデオ監視ベンダーの製品が含まれます。 価格は素晴らしいです、あなたは任意のネジを設定することができますが、信頼性、パフォーマンス、およびサービスに問題がある可能性があります。 このソリューションは、限られた予算で小規模で重要でないプロジェクトに適しています。 保証された信頼性、パフォーマンス、フォールトトレランスおよびサービスが必要な深刻なシステムでは、このようなソリューションは受け入れられません。これを理解する必要があります。

理想的には、本格的なビデオ監視プロジェクトのために、市場にある両方のカテゴリのストレージシステムの長所のみを組み合わせたストレージソリューションを手に入れたいと思います。リーズナブルな価格で適切な品質です。 このセグメントでは、そのようなソリューションはRAIDIXに基づく製品です。 無分別ですが、おそらくこれは事実です。 以下に、この声明の真実を明らかにします。

RAIDIXストレージ機能

建築

RAIDIX-ソフトウェアストレージまたはSDS（Software Defined Storage）。標準のサーバーハードウェアに基づいて、信頼性が高く効率的で耐障害性のあるデータストレージを構築できます。 基本的に、これを含むx64サーバーはこれに適しています。

• 適切なモデルのIntel Xeonプロセッサ1〜2個と必要なRAM
• 内部および/または外部ディスクバスケットを接続するための1つ以上のSAS HBAアダプタ。 ハードウェアRAIDコントローラは不要であり、禁忌です。
• デュアルコントローラー構成でキャッシュを同期するための1つ以上のインターフェイス。 いくつかのオプションがあります：SAS、InfiniBand、ファイバーチャネル（FC）、イーサネット。 インターフェイスの複製が可能です。 シングルコントローラーバージョンでは必要ありません。
• SANおよび/またはNASに接続するためのインターフェース：イーサネット、InfiniBand、FC。 SASを介したホスト（クライアント）への直接接続が可能です。
• SAS / SATAドライブ（HDD）大（3.5インチ）または小（2.5インチ）フォームファクタ。 制限のない、任意のメーカーの適切なモデル。 SSDもサポートされていますが、ビデオ監視のコンテキストでは興味深いものではありません。
• 上記の機器の設置に適したサーバープラットフォーム。

多数のディスクを接続するには、SASを介して接続された外部ディスクシェルフ（バスケット）を使用することになっています。 ホットスワップ可能なドライブをサポートする内部および外部ディスクバスケットを使用することをお勧めします。



もちろん、互換性シート、推奨およびテスト済み機器のリストがあります。

展開オプション

RAIDIXには、シングルコントローラーとデュアルコントローラーの2つの展開オプションがあります。 最初のバージョンでは、RAIDIXソフトウェアはストレージコントローラーとして機能する1つの物理サーバーにインストールされます。 ディスクはフォールトトレラントなRAIDアレイに結合されますが、サーバー自体とそのコンポーネントの一部は単一障害点を形成します。 これは、重要でないタスクには許容される場合があります。



デュアルコントローラー構成では、2つの同一の物理サーバーにRAIDIXソフトウェアをインストールし、それぞれがストレージコントローラーになります。 個別のサーバープラットフォーム、または2つのサーバーノード（ノード、ブレード）を備えた単一プラットフォームにすることができます。 両方のコントローラーは、内部および外部ディスクバスケットにある単一のディスクプールに物理的に接続されています。 RAIDIXは、2つのサーバーをフォールトトレラントなアクティブ/アクティブクラスターに結合し、コントローラーキャッシュは専用インターフェイスを介して同期されます。



通常モードでは、負荷は2つのコントローラーに均等に分散されます。ディスクアレイで作成されたボリュームの半分は1つのコントローラーで、もう半分は2番目のコントローラーで処理されます。 何らかの理由でコントローラーノードの1つに障害が発生した場合、中断やデータ損失なしに、負荷全体が自動的に「サバイバー」コントローラーに切り替わります。 このソリューションは、単一障害点の存在を排除し、ダウンタイムに敏感な重要なプロジェクトに適しています。



AIC HA401-LB2は 、デュアルコントローラーRAIDIXストレージ構成用のサーバープラットフォームの好例です。 これは、2つの同一のサーバーノード、冗長電源、および24 HDD 3.5インチホットスワップ可能な内部ディスクバスケットを備えた高可用性ストレージサーバー（クラスターインボックス）用の4Uプラットフォームです。 各サーバーノードは、2つのXeonプロセッサ、最大2TBのRAM、最大6つのPCIe拡張スロットをサポートします。 これは、非常に生産的で容量の大きいストレージシステムを数百のディスクに展開するのに十分です。 このプラットフォームは、推奨されるものの1つと呼ぶことができ、RAIDIXに基づく多くのプロジェクトで正常に使用されています。



このアプローチにより、適切なボリュームとパフォーマンスで、あらゆるプロジェクトに最適なストレージを作成できます。 ボリュームは、ストレージごとに12（おそらくそれより少ない）から数百のディスクまでさまざまです。 同時に、必要なパフォーマンスは、選択したIntel Xeonプロセッサ、RAMの量、インターフェイスとアダプターの帯域幅によって決まります。ディスク容量を増やす可能性を考慮して、これらを配置できます。 私たちは必要なものを選択しますが、それ以上のことはありません-最大の柔軟性と過剰な支払い。

主な機能

現在、RAIDIXは普遍的なソリューションであり、ファイルストレージ、仮想化、およびその他のタスクに適しています。 ただし、最初はこの製品はメディアストレージ用に開発されました。特に映画業界でのビデオのポストプロダクションです。



これらの人にとって、決定的な要因は次のとおりです。

• 重い非圧縮ビデオを操作するための高速シーケンシャル（ストリーミング）操作。 ストリームは大きいため、損失なしで記録し、ブレーキなしで読み取るように管理する必要があります。
• 使用可能な容量が大きい。 ボリュームが大きく、RAID-10の標準ソリューションは高価すぎるため、RAID-5 / 6のようなチェックサムを備えたソリューションが必要です。
• アレイが劣化状態にある場合、ディスク障害時にパフォーマンスの低下はありません。 通常の状態の標準RAIDアレイは、すべてのディスクが稼働している場合、目的のパフォーマンスを提供できますが、性能が低下すると、劇的に低下し、フレームの損失、ひどいブレーキ、作業不能につながる可能性があります。
• 高いフォールトトレランス（可用性）。 単一障害点がないこと、アレイ内の少なくとも2つのディスクの同時障害によるデータの安全性の保証。 非常に長い時間をかけてマウントされた高価なデータ損失の価格は高すぎるため、このデータの損失は容認できません。

これらの要件を満たすには、「青」の費用がかかるブランドのハイエンドストレージシステムを使用する必要がありました。 そのため、別の方法を探す必要があり、後に独立したソリューションに成長し、RAIDIXになり、現在では世界中のスタジオで多くのフィルムが搭載されている製品が開発されました。 RAIDIXの一般的なストレージタスクも正常に解決されました。 さらに、彼の費用はかなり許容できると、私たちは言うことができます、人々。

ビデオ監視用のRAIDIX

主な利点

メディアタスクとビデオ監視の類似点を簡単に描き、同じストレージインフラストラクチャ要件を持っているという結論に至ります。メディアストレージに関連するものはすべてビデオアーカイブにとっても重要です。 したがって、RAIDIXベースのストレージシステムは、ビデオ監視プロジェクトにも最適です。



ディスクサブシステムへの入出力を処理し、チェックサムを計算してRAIDIXの冗長性がIntel Xeonプロセッサのコンピューティングリソースを使用して実行されるようにします。RAID機能のないSAS HBAアダプターはディスクの接続に使用されます。 独自のRAIDIXアルゴリズムは、中央処理装置の内部命令を使用して、ハードウェアRAIDコントローラーおよびASICデバイスよりもはるかに高速かつ効率的にこれらのタスクを実行します。 その結果、大規模なビデオ監視インフラストラクチャに必要な機能が得られます。

• 多数のIPカメラからのデータを処理するための高速シーケンシャル（ストリーミング）操作。 たとえば、FullHD解像度以上、25 fps、中または高のシーンの複雑さを備えた何百、何千ものカメラ。
• 12〜24個のディスクの大規模なRAIDグループで効果的に動作する能力により、最大2つ以上のディスクに同時に障害処理を提供するための有用な大容量。 この場合、大容量のディスク（6〜10 TB）を正常に使用できます。
• Xeonプロセッサのパワーとその命令を使用する効率的なアプローチによるクラッシュ時のパフォーマンス低下の欠如。 故障したネジからのデータは、チェックサムから計算されたストレージリソースのエンドユーザーにとって非常に迅速かつ目に見えません。
• デュアルコントローラーストレージ構成のサポートにより、単一障害点の存在を排除します。

追加機能

さらに、RAIDIXの兵器庫には、ビデオ監視の分野に固有で有用な以下の「バン」があります。

• 標準のRAIDレベル10、5、6に加えて、RAID 7.3およびN + Mがサポートされ、最大3つ（RAID-7.3）以上のフェイルオーバーが提供されます（RAID-N + M、Nディスク-使用可能なボリューム、Mディスク-フライアウト可能）すぐに。
• ディスク上の隠れたデータ破損を回復する機能-サイレントデータ破損に対する保護。
• 予防的な再構築。 SHDは、すべてのドライブのパフォーマンスを監視します。 誤動作の場合、個々のディスクは引き続き動作する可能性がありますが、チェックサムからのデータの回復が遅いため、これらのディスクから読み取るよりも高速です。 この場合、レコードは変更されないままですが、問題のあるディスクから読み取る代わりに、最適なパフォーマンスのためにアレイのチェックサムからデータが計算されます。
• 部分的な再構成。 ドライブが再接続後に一時的に切断されると、データの欠落部分のみが復元されます。 これは、誤ってディスクを切断したり、ディスク接続を失ったり、シェルフ間でディスクを移動したり、サービス期間中にシェルフ全体を切断したりする場合に役立ちます（対応する数のシェルフを使用し、RAIDグループをそれらの間で分散します）。

RAIDIXをテストベンチに展開することで、上記の機能の真実を確認できます。 これを行うには、デモをリクエストしてテストを実施する必要があります。 もちろん、これはRAIDIXソフトウェアのインストールに必要なハードウェアが利用可能であることを前提としています。

既存のRAIDIXプロジェクト

説得力を高めるために、理論から実践への移行を提案します。 メディアセクターでの多くのインストールと汎用ストレージタスクの解決に加えて、ストレージインフラストラクチャは、いくつかの大規模なビデオ監視プロジェクトでRAIDIXに基づいて正常に構築されました。



現時点では、実装段階で、ロシア連邦の領土で都市規模のビデオ監視を行う大規模プロジェクトがあり、6 TBの200 HDDごとに4つのデュアルコントローラーストレージシステムRAIDIXを使用してストレージを編成しました。 RAIDIXに基づくもう1つの深刻なビデオ監視プロジェクトは、欧州のカジノ向けに開発されています。それは、それぞれ10 TBの300 HDDを備えたデュアルコントローラーストレージシステムです。 システムの商業運用への導入後、後続の出版物でそれらについて話すことができます。



今日、韓国では3つの主要なビデオ監視プロジェクトが成功しています。 3つのプロジェクトはすべて、市内全体で実施される交通安全と違反の修正に関連しています。 それらの最大のものについては、次のセクションで説明します。

韓国の2000年IPカメラプロジェクト

ソースデータ

龍仁は韓国で最も急速に成長している都市の1つで、面積はソウルと同等で、人口は約100万人です。 交通違反を修正し、安全を確保するために、当局は市内に2,000台の監視カメラを設置しました。 ビデオを録画および保存するための機器は5つのサーバーラックにあり、部屋全体を占めていました。 同時に、カメラは低解像度のビデオを撮影しましたが、このような品質の画像では車の番号や人を区別することができなかったため、法執行機関の作業が著しく複雑になりました。 ビデオは1か月未満で保管され、警察は犯罪の調査中にリソースが制限されました。この期間が終了すると、違反に対する罰金は予算で受け取れませんでした。







この問題を解決するために、市当局はHD / FullHD解像度でビデオを記録および保存することを計画しました。 カメラ録画モード-毎秒16〜25フレームの頻度で24時間年中無休（24時間体制）。 アーカイブの保存期間は1か月以上です。 このアプローチでは、ビデオストリームの速度とデータ量が大幅に増加するため、ビデオアーカイブを保存するパフォーマンス（スループット）とストレージ容量を大幅に増加する必要があります。

ストレージのTK要件

最初に設置されたストレージ機器は明らかにタスクに対応できなかったため、その交換または近代化が必要でした。 その結果、新しいストレージインフラストラクチャには次の要件が課されました。

• HD / FullHDの2000ストリームを記録しながら、遅延とフレーム損失をなくし、高速の連続記録と読み取り。
• 構成で許可されているディスク数に障害が発生した場合のディスクアレイのパフォーマンスの低下がない（アレイの劣化）。
• 高い信頼性と耐障害性、システムのあらゆる要素の自動フェイルオーバー。
• ソリューションの最適な価格/品質比;
• 実装と保守のシンプルさと容易さ。
• 高品質の技術サポート。
• 高密度機器;
• すべてのカメラからのビデオアーカイブを少なくとも1か月間保存するのに十分な高い使用可能なストレージ容量。
• スケーリングする能力。

ソリューション構造

潜在的なソリューションとして、さまざまなブランドおよび予算のストレージオプションが検討されました。 前者は高価すぎることが判明し、後者は規定の要件を満たしていませんでした。 プロジェクトのすべての要件を満たす、検討されたすべてのオプションの中で最適なソリューションは、RAIDIXベースのストレージでした。 以下は、実装されたリポジトリとプロジェクト全体の構成と構造です。



ストレージシステムに加えて、プロジェクトのITインフラストラクチャには次のものが含まれます。

• VMSサーバー（ビデオ監視ソフトウェア）の展開用にWindows Serverを実行しているIntelプラットフォームに基づく15の物理ラックサーバー。
• VMSサーバーをストレージに接続するための40 Gbpsポート帯域幅を備えた2台のInfiniBand（IB）Mellanoxスイッチ。

ストレージの展開には、4UラックマウントAIC HA401-CP2サーバープラットフォームを使用し、2つのサーバーノードと24個の3.5インチディスク用の内部バスケットを使用しました。これは、新しいAIC HA401-LB2プラットフォームに類似しています。 このプラットフォームは、デュアルコントローラーRAIDIXフォールトトレラント構成の展開に最適です。各コンピューティング（サーバー）ノードは、マザーボード、プロセッサー、RAM、ネットワークインターフェイス、およびHBAアダプター（ディスクバスケットの接続用）を備えた別個のサーバーです。 電源は複製され、すべてのノードに共通です。 したがって、必要なすべてのコンポーネントの重複により、プラットフォーム全体の単一障害点が排除されます。



以下にソリューションのブロック図を示します。

付属品

サーバーノードのハードウェア構成-ストレージコントローラーは同一で、各コントローラーには以下が含まれます。

• 1つのIntel XeonプロセッサE5-2609（2.4 GHzで4コア）。 新鮮で最も強力な「パーセント」ではありませんが、それで十分でした。
• 128GB RAM-多くのディスクとRAIDグループには大量のRAMが必要です。
• 2個のデュアルポートMellanox ConnectX-3 InfiniBandアダプター、ポートあたり56Gb / sの転送速度。 IBスイッチに接続するための2つのポート、コントローラーキャッシュを同期するための2つのポート-サーバーノード間の2つのクロスオーバー接続。
• 1つの外部（60ドライブJBOD）と1つの内部ドライブケージ（24ドライブ）に接続するためのBroadcom 9207-4i4e SAS HBAアダプター1つ。 6 Gb / sの4つの外部（4e）および4つの内部SASライン、1つの外部Mini-SASポート。
• 3つの外部ディスクシェルフ（60個のディスク用の3つのJBOD、2つのカスケードシェルフ）を接続するためのBroadcom 9207-8e HBAアダプター1個。 8つの外部（8e）6 Gb / s SASライン、2つの外部Mini-SASポート。

このプロジェクトでは、208個のエンタープライズクラスのSAS HDD 3.5 '' 4TB 7200 rpmハードドライブを使用して、ビデオアーカイブの保存に必要な容量を実現しました。 ストレージプラットフォームの内部ディスクバスケット（24台のHDD）に加えて、このような数のディスクを収容するために、4つの外部ディスクシェルフ（JBOD）AIC XJ3000-4603Sが使用されました。

• 4Uフォームファクター。
• 容量-60 HDD 3,5 ''垂直設置およびホットスワップ付き;
• 2個のSASエクスパンダー6Gb / s、4個のエクスパンダー用Mini-SASポート。
• 電源の複製。

ソリューションのすべてのディスクバスケット（内部および外部）は、ディスクのホットスワップをサポートしていました。 内部バスケットと2つの外部バスケットにはディスクがいっぱいで（24 + 2x60 = 144HDD）、構造図によると、各バスケットは各コントローラーのHBAアダプターの1つのポートに個別に接続されています。 残りの64個のディスクは、図に示されているように、残りの2つの外部シェルフ（シェルフごとに32個のディスク）に均等に分割されました。これらのシェルフはカスケードで（順次）接続されます-最初のシェルフはコントローラーのHBAアダプターに、2番目は-最初の2つの方法で

拡張性

このソリューションは、さらなる垂直スケーリングをサポートしています。 2つのディスクバスケットがいっぱいではないため、最大56個の追加ディスクをインストールできます。 この場合、追加のHBAアダプター（Broadcom 9207-8e）を使用してコントローラーを取り付け、カスケードされたディスクシェルフをそれらに直接接続することをお勧めします。 新しいアダプターの残りの空きポートで（2つのMini-SASポートの1つを占有している間）、60個のディスクに別のシェルフを掛けることができます。



計算能力が不足している場合は、コントローラーごとに1つのプロセッサーを追加し、RAMの量を増やす必要があります。 したがって、最小限の投資でストレージの容量とパフォーマンスを1.5倍に増やすことができます。既存のプラットフォームは、新しいサーバーを購入することなく垂直に拡張されます。

アレイ構成

ディスクアレイを構成するときに、シンプルで論理的なアプローチが選択されました。 15のVMSサーバーにはそれぞれ1つのボリューム（LUN）が割り当てられ、各ボリュームは12〜15のディスクからなる個別のRAIDグループに配置されました。 各ディスクグループを作成するために、RAID 7.3のレベルが選択されました。これにより、データの整合性が確保され、同時に最大3台のディスクが故障します。



その結果、使用可能なストレージ容量の合計は約600 TBでした。

配置密度

次の図に示すように、ストレージの整理に必要なすべての機器を1つのラックに配置しました。







同時に、ラックスペースのかなりの部分が空のままであり、ストレージハードウェアが占有する使用可能なスペースは20U（各4Uの5ノード）であり、密度が非常に高いことに注意してください。

おわりに

このプロジェクトは2014年に実施されましたが、当時のソリューションは非常に近代的で技術的でした。 このシステムは4年目で正常に動作しており、設定したタスクに対処しています;近代化や拡張は行われておらず、まだ必要ありません。



今日、このプロジェクトで使用されている機器は時代遅れです。新しい世代とモデルのプロセッサ、HBAアダプタ、ディスクボリュームは8〜10 TBに成長しています。 したがって、プロジェクトの容量は、20Uではなく8Uの配置密度の新しいハードウェアで達成および超過できます。



したがって、最新のハードウェアおよびソフトウェアRAIDIXストレージシステムは、大規模なビデオ監視システム用の効率的なデータウェアハウスを正常に構築でき、ストレージシステムごとに最大数ペタバイトの高密度および大容量を提供しながら、手頃な価格で高いパフォーマンスとフォールトトレランスを保証します。