Otkritie ArenaスタジアムのIT。 プロジェクトのアドレナリンが試合中より少なくない場合

LANITの専門家チームの一部として、私はOtkritie ArenaスタジアムのITインフラストラクチャを作成するプロジェクトに参加しました。 この記事では、発生した問題、それらがどのように解決されたのか、なぜそれを行ったのか、運用開始から3年後にどのように機能するのかについて簡単に説明します。









ゲームをすぐに



Otkrytie Arenaスタジアムは、ショッピングセンター、ホテル、空港の交差点です。 45,000人のファン向けに設計されています。 これは、1日あたりのプルコヴォ空港の平均容量に匹敵します。 スタジアムに行くには、これらの4万5000人がチケットアクセスシステムを備えた改札口を通過する必要があります。 チケットシステムはLAN経由で機能します。 LANまたはチケットシステム自体の障害は、改札口などでの混雑を意味します。



スタジアムには、ファン、落ち着いたフットボールファン(いわゆる「パブリック」カテゴリ)、VIP、メディアの4種類のゲストがいます。 ジャーナリストにはWi-Fiと有線インターネットアクセスが必要です。 彼らがレポートをできるだけ早く編集者に送信することは重要です。そのため、インターネットでわずかな問題が発生した場合でも、すぐにスキャンダルが発生します。





メディアスポット



トリビューン下のスペースには、レストランやショッピングパビリオンがあり、その仕事はレジに関連付けられています。 広告や野外からの写真を放送できるテレビもあります-これは非常に便利で、ホットドッグの列に並んでサッカーを見ることができます。 テレビが故障した場合、このテレビで広告を放送する契約を締結した会社は、スタジアムにペナルティを課す権利を有します。 レジはLAN上でも機能しますが、最悪の場合、銀行の取引が行われなくなった場合は最悪です。 限られたスペースで4万5千人が時間通りに食事を与えられない場合に何を手配できるか想像するのは怖いです。



VIPゾーンでは追加料金で、スカイボックスを借りることができます-フィールド、バー、ウェイター、および演壇上の自分のロッジを望む独立した部屋。 Wi-Fiもそこで機能し、テレビがハングします。 スカイボックスを借りるのは費用がかかるため、ここではWi-Fiとテレビの問題はスタジアムに対するクレームになります。





その月のOtkritie Arenaスタジアムでのインターネットトラフィックの消費の統計。 最も活発な消費者は、メディアとスパルタクフットボールクラブのオフィスです。



したがって、各試合には4万5千人が参加でき、スタジアムはそれらの責任を負い、すべてがスムーズに進むように巨人の努力をします。 これは、ITスタッフを含むスタジアムで働くすべての人にとって大きなストレスと責任です。 次にお気に入りのチームを応援するときは、それについて考えてください。



予感の空間



2012年1月、スタジアムは、SCS、LAN、ATS、サーバーインフラストラクチャ、テレビの集合受信システム(SKPT)、ビデオ広告システム(デジタルサイネージ)のコンテストに参加するよう招待しました。 Wi-Fiはそこに含まれていましたが、このトピックについては別の投稿を行います。 競争に勝つには、2つの簡単な条件を満たさなければなりませんでした。価格に最適なソリューションを提供し、イベント中に完璧に機能することを証明するためです。



これは、設計を開始した2012年12月のスタジアムの外観です





初期データとして、3枚のシートの技術的なタスクと、さまざまな程度の健全性のプロジェクト文書がありました。 LANとWi-Fiはシスコで設計されました。



Cisco Catalyst 6509スイッチは、インターフェイスカード、トランシーバー、ライセンス、電源、およびSMARTNETのない仕様になったことを思い出しました。 シスコはこのプロジェクトに適していましたが、価格面での優位性はなかったため、Huaweiのアナログに置き換えることにしました。



結果は安価で、運用の信頼性においてシスコに劣りませんでした。 もちろん、Huaweiのカウンターパートは、試運転プロセス中に少し注意が必要であり、利用可能な管理ガイドの範囲でシスコより劣っていた可能性があります。 そして、それは起こりましたが、設備投資を最適化するために、私はこれに対処する必要がありました。



信頼性を犠牲にすることなく、サーバー、ストレージ、無停電電源装置を節約する方法を考え始めました。 私たちは、Huaweiのロシア駐在員事務所から電話を受け、二重変換を備えたUPS 2000、X86サーバーHuawei TecalおよびストレージOceanStorのラインを検討することを申し出ました。 2012年、ロシアにとって、特にUPS2000に関しては、まったく馴染みのない機器でした。



そのため、LAN、Wi-Fi、サーバー、ストレージ、UPSさえも1つのベンダーのものである、専用のハードウェアを備えたソリューションが見つかりました。 2012年、このアイデアを他のベンダーに実装することは不可能でした(現在、有名なベンダーでは、HPEとDELLを引き続き使用できますが、DELLは一般にエキゾチックです)。





2つの離れたラック-サーバールーム用のUPS Huawei 2000。 実際、これらはそれぞれ3つの15KVA UPSです。 総電力は45KVAです。 Oceanstor 5500C-左側。



信頼性の問題は次のように決定されました。 ロシアで提案されているHuawei機器の運用経験がなかったため、LANITは25歳の評判を賭けなければなりませんでした。



契約の条件では、委託日から5年以内に顧客が提供するものの信頼性に満足できない場合、機器を自分で用意し、他のものを置いて自分で支払います。



原則として、Huaweiではさらに先に進むことができました。PBXeSpace、Digital Signage vSpaceを使用し、トレイとSCSを除き、Huaweiで一般的にすべてを実行します。 しかし、うまくいきませんでした。 vSpaceは機能に適合しませんでした(詳細は後ほど説明します)が、PBXでは最終的にAstra(以前のEricsson、現在のMitel Networks)が選択を決定しました。 顧客はスタジアム全体でIP DECTベースステーションを使用することを望んでいたため、この機能のサポートが組み込まれたステーションをプロジェクトに組み込む必要がありました。 考慮され、関連する要件の中で最も安価なのはAastraでした。



テレビとje



スタジアムは非常に責任のある施設であり、ロシアでの運用経験なしにそこに機器を置くことは大きなリスクであると思うなら、あなたは正しい。 しかし、IPTV /デジタルサイネージについて話しましょう。



外見は似ていますが、これらのシステムは機能がまったく異なり、Otkrytie Arenaスタジアムでは、ジェットコースターに乗っているように感じます。 これは、プロジェクト中にテレビパネルの数が絶えず変化し、ほぼすべてのテレビが少なくとも一度IPTVからデジタルサイネージに、またはその逆に移行したためです。 したがって、同じプラットフォームで両方のシステムを設計することにしました。



顧客はこのアイデアを気に入りました。 また、このシステムを使用してすべてのテレビをリモートで制御し、テキストスクロールラインをテレビストリームにオーバーレイする機能、Adobe Flashのサポート、Video-on-Demandコンテンツのユーザーポータルなどを提供したいと考えました。 既知のソリューションのこれらの要件は、Cisco Stadium Vision(Cisco Systems、米国)、Tripleplay(Tripleplay Services、英国)、およびC-nario(YCD Multimedia、米国/イスラエル)によって満たされました。 3つすべてについて、スタジアムはロシアでこの規模の最初のプロジェクトになると約束されました。



ソリューションのアーキテクチャを比較し始めました。 レースから最初に脱出したのはC-narioでした。 素晴らしい機能を備えていますが、システムをテレビに接続するセットトップボックスとして、x86ベースのWindowsベースのネットトップが提供され、信頼性について疑問が生じました。 C-narioの別のシステムが最も高価であることが判明しました。



Stadium VisionはC-narioよりも安価で、フロントパネルにシスコのロゴが付いた独自のセットトップボックスを使用していました。理論的にはWindowsのネットトップよりも信頼性が高いため、これはプラスでした。 しかし、CiscoはHuaweiに少しjeしており、LANがCisco上になくても動作するはずなのに、ベンダーは何も保証しないことをあらゆる方法でほのめかしました(理由はまだ興味深い)。



Tripleplayには、根本的に異なるアーキテクチャがありました。 英国は、あらゆるベンダーのLANとの互換性を保証し、セットトップボックスプレフィックスとして、原則としてロシアで無料で購入でき、Tripleplayだけでなく使用できるAmino製の製品を使用しました。 十分な数のライセンスがある場合、管理パネルでマウスを数回クリックするだけで、セットトップボックスをIPTVからデジタルサイネージモードに転送できます。



これらはすべてよりポジティブな方法で設定され、Tripleplayの方法ではないにしても、TVパネルのリモートコントロールの問題を解決するために提案されました。



原則として、TripleplayはHDMI(ただし特定のテレビモデルとの互換性の保証なし)またはRS232を介してTVパネルを制御できますが、Aminoセットトップボックス用のRS232ポートがないため、USB-RS232アダプターを介します。 アダプターが必要ないため、どちらのオプションも私たちには適さず、顧客は購入のほぼ前にテレビパネルの仕様を承認しました。 その結果、顧客はTripleplayを選択し、LANを介してテレビと対話するAMXコントローラーの形式で、個別のソリューションでテレビパネルのリモートコントロールを整理することにしました。



IPTV /デジタルサイネージアーキテクチャは次のようになりました。





霜への反応



2013年1月以外。 スタジアムには4つのセクターがあり、プロジェクトでは、トリビューン下のスペースはそのうちの1つ、つまり西側のスペースでのみ加熱されます。 しかし、それでも加熱されませんでした。 トレイとケーブルインフラストラクチャを敷設するときに、これを確認する必要がありました。





それで、2013年の冬に未来のスタジアムに行きました。 同僚は、ツシノ畑から走って来たウサギを見たと言った。



マイナス30度、人々は天井の下にぶら下がってトラフトラックを引っ張ります。トラフトラックは最終的に電気技師のトレイまたは換気ボックスに置かれます。 これは、関連する設置組織の代表者が暖かく保つために、プロジェクトに従わずにトラックを敷設しようとするためです。 その結果、全員が互いに干渉し始めました。 各サイトでは、顧客および関連する設置組織のエンジニアリングおよびテクニカルワーカーの評議会が集まりました。 評議会は長い間誓ったが、その後誰がどこにコミュニケーションをとるかを決めた。 次のセクションでは、すべてが繰り返されました。 このような作業の組織化のために、私たちは現場にプロジェクトオフィスを持ち、1人または2人のデザイナーの形で上陸する必要がありました。 毎日、彼らはこれらの会議に行き、実際のトレイの敷設を描きました。





建設現場のプロジェクトオフィスの装飾。 夏に撮影しました。



仕事の組織のこのような詳細に頻繁に対処する必要があります。 時間が経つにつれて、エンジニアリングネットワーク、BIMモデル、3Dでの通信を配線するためのマスタープランに多くの時間を費やし、図面が絶えず作り直され、請負業者が変化し、時間が足りない施設ではまったく役に立たない人々に慣れ、理解しなくなります、毎週新しいスケジュールを作成します。

暖かくなったときだけケーブルを敷き始めました。 とにかく、-40度の霜の中に設置して操作するために設計されたケーブルをプロジェクトに敷設したのは良いことです。 スタジアムの屋根のギャングウェイに沿って溝のトラックを敷設することは、モスクワ川から非常に近く、滑りやすく、強い風が吹いているので、刺激的でした。 わずか1年で、20キロメートルのトランクケーブルと300キロメートルのツイストペアケーブルが敷設されました。





低電流システムの設置前の屋根橋。 インストーラーは、毎日8〜10時間の作業時間を費やしました。



妥協



サーバールームでの建設作業が終了し、UPSの設置を開始したときに、ある特筆すべきデザイン機能がUPS2000を浮上させました。 製品の一部として、UPSとラック内の配電ユニット(PDU)の間に接続された自動デバイスを備えた配電盤がありました。 これらのマシンの定格、PDUのパスポート電流、およびサーバールームの入力分電盤のマシンの定格を比較すると、これらはすべて電気設備規則で規定された要件を満たしていません(「電気技師の聖書」または単にPUEでもあります)。 私たちはこれについてHuaweiで書きました、彼らは自分の目ですべてを見たいと答えました。 それで、私は私のキャリアの中で最も奇妙なビジネス交渉をしました。









この配電盤にはUPS2000が付属していました。



私たちのアカウントマネージャーと3人の中国人がサーバールームに現れました。 彼らは私を紹介しませんでしたが、彼らが技術サポートエンジニアではないことは明らかでした。 それらの中で最も重要なのは、ケージに灰色のジャケットを着ており、約1.5メートルの高さでした。 他の2人は黒いジャケットを着ており、明らかに恥ずかしがり屋であるメインのジャケットよりわずかに高かった。 パンチャーはうるさかった。 空気は建設用のほこりで曇っていて、座っている場所がなかったため、UPSでラックの近くに立っていました。 私の身長は80メートルです。 灰色のジャケットを着た中国人男性が私に話しかけたとき、彼は私を見上げ、それでも立派に見えました。 彼のスピーチは中国語と英語の混合でした。 彼は問題が何であるかを心から理解していませんでした。 ロシア連邦の国境内にいるすべての人が守らなければならない機械の選択性の原則であるPUEについて話しましたが、彼の表現はまだ変わりませんでした。 彼が私に答えたすべては、パンチャーのro音にdrれた。 パンチャーが死亡したとき、中国人はロシア語に切り替えた:「私たちは決定を変更することができますが、その後、私たちはそれに対して責任を負いません。」 「私たちの法律によると、とにかくあなたはそれに対して責任を負いませんが、私はプロジェクトのチーフエンジニアとして答えます」と私は反対した。 その結果、ベンダーがEMPの要件に従って決定を行うことに同意しました。



実際、私たちが扱うほとんどすべての外国ベンダーは、ロシアのGOSTとSNIPの複雑さに常に専念しているわけではありません。 場合によっては、これは技術的解決策を完全に置き換える恐れがあります。 ベンダーがこれを理解し、不必要な論争や官僚主義をせずに建設的な対話を行うのは良いことです。





機器が設置されています



汚いダンス



プロジェクトの終了までの残り時間が短いほど、建設業者の労働搾取は明るくなりました。 画家と左官の旅団は、スイッチが作動し、ほこりを吸う部屋で穿孔器を操作し始めました。 LANおよびデータセンター機器の大規模な障害の脅威は、明らかに非保証の理由でかかっていました。 彼らは「鉄」を圧縮空気のシリンダーでパージし、さらに機器のインターフェースポートを密閉することで状況から脱出しようとしました。





試運転中のスイッチの1つ。 ポートはマスキングテープで芸術的にシールされています。 よく見ると、デバイスの上部パネルに建物のほこりの層が見えています。



SIPファイト



一方、顧客は、プロジェクトの場合のようにE1経由ではなく、セッションボーダーコントローラーを必要とするSIP経由でPBXに接続することを決定しました。 決定の1か月後、音声処理カードを備えた2台のHuawei AR2240ルーターがスタジアムに届けられました。



ローンチ後、これらのデバイスは、AastraとのSIPの友人であることを断固として拒否しました。 ファームウェアの変更は役に立たなかったため、Huaweiサービスサポート(TAC)に訴えを書きました。 当初、HuaweiのエンジニアはAR2240にリモート接続しましたが、それが助けにならなかった場合、ベンダーの専門家がオブジェクトに直接巡礼し、ルーターコンソールに接続し、SIP設定を微調整しました。 それはすべて、プロジェクト用に個人的に開発されたAR2240 OSのパッチで終わりました。 パッチの後、SIPは獲得しましたが、私たちが望む方法ではありませんでした。 特に、Aastraから自動応答(DISA)で番号に電話をかけると、30秒後に接続が切断されたため、このバグを思い出しました。 この問題は、ルーターソフトウェアの次のパッチによって解決されました。



Tecalサーバーについて覚えておくべきことはほとんどありません。通常のX86サーバーです。 彼らは安定して働き、ビルドの品質について不満はありませんでした。 同時に、監視とリモートサーバー管理のためのHPL iLOアナログにも精通しました。HuaweiTecalではこれをiManaと呼び、非常にうまく機能しています。



2台のOceanstor S5500Tストレージシステムも問題なく機能しました。HPPeer PersistenceやNetApp MetroClusterなどのクラスタリングサポートが不足しているだけで動揺していましたが、役に立ちませんでした。 Oceanstorは現在、HyperMetroと呼ばれるテクノロジーであるクラスタリングをサポートしています。 Habr'sに彼女に関する記事があります



遠くのサッカー



スパルタクの建設の終わりに向かって、アウェイマッチが計画されました。 試合はテレビで生中継される予定でした。 顧客は、この放送の写真をスタジアムのビデオディスプレイに表示し、サウンド強化システムのサウンドを表示し、ファンをスタンドに招待するというアイデアを得ました。 SKPT TripleplayからライブTV信号を取得することが提案されました。 この時点で、試運転はほぼ完了しています。









オープニングセレモニー中のOtkritie Arenaスタジアムのビデオボード。 テレビ番組を見るのに適しています。



私たちが担当したSKPTと、ある請負業者が担当したビデオディスプレイシステム、および別の請負業者が担当した音響補強システムを統合するという課題が生じました。 彼らは直接統合するのではなく、スタジアムのメディアコントロールルームを介して統合することにしました。







メディアコントロールルーム-スタジアムマルチメディアシステムの中央ハードウェア。 スタジアムを表示するすべての手段に発行されるコンテンツを形成します。



何らかの方法でIPテレビから信号を削除し、Media Control Roomマトリックススイッチャーに適用し、それをスケーリングして、ビデオおよびオーディオコンポーネントに分割する必要がありました。 次に、ビデオがスコアボードのコントローラーに送信され、サウンドがサウンド強化システムのミキシングコンソールに送信されました。 同時に、ビデオとサウンドが互いに遅れることはありません。



その結果、私たちはさらに2台のAmino A140コンソールを購入し、Tripleplayシステムに登録し、試合を放送することになっていたテレビチャンネルをそれらに設置しました。 HDMI-SDIコンバーターを介したセットトップボックスのHDMIインターフェイスは、Media Control Roomのマトリックススイッチャーに含まれていました。 そしてそれは働いた。



スタジアムの表彰台に座って、面積172平方メートルのビデオボードで試合を見るのはとても良かったです。



プレゼントは続きました



現在、私たちはお客様の1人にHuawei機器を試運転しています。 顧客がHuawei NGFWのファイアウォールのコンソールにあるコマンドの1つの出力形式に不快感を覚えていると想像してください。 Huaweiに連絡し、ベンダーはHuawei NGFWのお客様向けの個人用パッチをリリースしました。これにより、コンソールコマンドの出力形式が変更されます。 これは、Huaweiの柔軟なポリシーの継続であり、ロシア市場向けの新しい機器のプロジェクトを成功させるのに役立ちました。



Otkritie ArenaスタジアムのITインフラストラクチャの建設プロジェクトには2年かかりました。 4,500個のSCSポートが配置され、SKPTは180個のTVパネル用に作成され、2つの50TBストレージシステム、仮想化プラットフォーム用の4つのデュアルソケットラックマウントサーバー、87個のWi-Fiポイント、250人の加入者用のPBX、36個のDECTベースステーションが稼働しました。



スタジアムは、トリプルプレイに基づいたHuawei Oceanstorストレージ、UPS2000 UPS、TecalおよびSKPT /デジタルサイネージサーバーを使用するロシア初の施設の1つでした。 現在、LANITはこれらのソリューションのサービスサポートに取り組んでいます。 これらは決定をサポートしています。 運営中に、彼らはスタジアム入場とスポーツ施設の領土での購入/追加サービスの両方に使用できるクラブデポジットカードを含む他のITサービスを獲得することができました。



2018年のFIFA試合の受付のためのスタジアムの積極的な改装が進行中です。 ITインフラストラクチャに影響します。 そして真剣に、2011年に私たちが設計していたときから、Otkrytie Arenaスタジアムはこのイベントに参加する予定はありませんでした。









Otkrytie ArenaスタジアムIgor ShestunovのITディレクターの手により、スタジアムのFIFA要件のタルムード(約900ページ)



プロジェクトは大成功でした。 2014年、Huaweiは「Project of the Year」を発表し、エンジニアが作成したパッチがHuawei AR2240 OSの次のバージョンに含まれました。 また、UPS2000を含むHuawei機器の信頼性にも積極的に対応しています。 運用期間全体にわたって単一のHuaweiデバイスが故障したわけではないため、ほこりを除去したものと引き換えに、新しい機器の配送に関するHuaweiサービスセンターの作業を評価する機会はありませんでした。



TripleplayのIPTV /デジタルサイネージソリューションに関する苦情はありません。 Otkritie ArenaスタジアムのITサービスからの積極的な推奨により、2017年5月に終了したルジニキスタジアムの再構築のために同様のソリューションを提供することができました。



イギリス人がオトクリチアリーナスタジアムの経験も考慮に入れ、3年間で、建築の面を含め、すでに優れたシステムを大幅に改善したことは楽しいことです。 Luzhnikiでは、セットトップボックスプレフィックスは不要になり、代わりにSamsung TVパネルに組み込まれたMagicInfoプレーヤーが使用されます。 TVパネルのリモート制御は、外部コントローラーなしでLAN上で機能し、システム管理者のWEBインターフェースを介して実行されます。 Tripleplayについては、次の投稿で必ず説明します。



このプロジェクトは、顧客が本当に彼に合っていて、それらを生産するベンダーがあなたをサポートする準備ができていれば、顧客に新しいソリューションを提供することを恐れないことを教えてくれました。 2012年から2014年にスタジアムに提案し、実装したものはすべて需要があり、2017年に機能します。 おそらくこれは、このプロジェクトの成功と有効性の主な指標です。



All Articles