学生のスーパーコンピューター競技会：使用説明書

こんにちは、Habr！ 私はサンクトペテルブルク州立大学チームのキャプテンであり、ASC競技会に参加しました。 先週、 stealapandaは、世界で最も強力なスーパーコンピューターであるSunway Taihulightの使用経験に関する記事を公​​開しました 。 そのような出来事について多くの人が初めて聞いたことは明らかでした。 私の記事では、このエキサイティングな冒険に参加したい場合に、HPCコンテスト、開催方法、および役に立つスキルについて一般的にお話したいと思います。 また、ASCの例で、それがすべてどうなるかを説明します。

HPC競技とは何ですか？通常のスポーツプログラミングとの違いは何ですか

HPC競争-コンピューティングクラスターを使用して問題を解決する学生チームの競争。 多くの人が、ACM ICPCの規則に従って行われるスポーツプログラミング競技を知っているので、便宜上、それらとの比較を行います。 ACM ICPCコンテストでは、解決策は、指定された時間とメモリの制限内で問題を解決するアルゴリズムを記述することになります。 問題を解決するのに適したアルゴリズムを理解し、できるだけ早くエンコードする必要があります。 HPC競技会では、どのアルゴリズムが隠されているかを把握しようとして魅力的なタスクテキストを読む必要はありません。 しかし、Linuxコンソール、科学アプリケーションの長期的なレガシーコード、最新テクノロジー（はい、すべて一緒）、並列およびマルチスレッドプログラミングテクノロジー、タスク起動スケジューラーとのミーティングがあります。



目を閉じてツリーやソートを書く代わりに、makeファイルの迅速な書き込みを習得し、コンパイルフラグを学び、vim、ssh、screenで友達を作る必要があります。



ACM ICPC大会のように、同じ人の参加数に関する制限を満たしていませんでした。 現在、世界では3つのそのような競技会が開催されています：ASC、ISC、SC。 主な違いは会場です。 ルールと一連のタスクは非常に似ています。 中国人（ASC）のみが選出でき、問題を解決するための予備的な予選ラウンドを実施し、最終的にチームに機器を提供し、一部のタスクでは、予選ラウンド中にコンピューティングリソースへのアクセスも提供します。 ISCおよびSCでは、タスクに関する予備的な資格認定段階はありません。 チームは、チームが競技で使用するクラスター構成の説明と、チームメンバーの経験の関連するHPCトピックを含むアプリケーションに基づいて選択されます。 3つのコンテストすべてで、最高のLinpack（スーパーコンピューターの処理能力を決定するために使用されるテストの1つ）とすべてのタスクで最高のスコアが与えられます。



次に、各競技について少し説明します。



ASC （Asian Supercomputer Challenge）。 中国主催のメインスポンサーはInspurです。 2012年、このコンテストは中国チームのみを対象に開催され、2013年以降は国際レベルになりました。 スポンサーが利用可能であり、選択の予備段階が最も大きいためです。 2013年から2017年にかけて、参加チームの数は43から230に増加しました。この期間の決勝への入場の割り当ては10から20に増加しました。 第1段階（予備コンテスト）は、1月から3月までの2か月間、欠席で開催されます。 第1段階の結果によると、4月末に最終決勝に完全に参加するよう招待されたチームが選択されます。 低エントリーのしきい値は、タスクの容易さではなく、参加するのにクレイジーな金額と非常にファッショナブルな効果的なクラスターを必要としないという事実によって決まります。 チームは、5人の「卒業していない」学生（学士、修士）と1人のコーチで構成する必要があります。 ファイナル中、コーチはチームの職場にいてはいけません。



ISCは 、6月20日にドイツで開催されるISC（国際スーパーコンピューター会議）の学生セクションの一部として開催されます。 チームには6人の生徒と2人のコーチが必要です。 参加申し込みの受付は10月から11月に行われます。 問題を解決するための予備的な選択段階はなく、クラスター構成の説明とHPCの分野におけるチームメンバーと大学の経験を持つ参加のためのアプリケーションのみです。 チームが自分で探す必要がある機器を提供するベンダー。 主催者は、組織委員会に代わって、チームを支援するベンダーへの提案を含む手紙を書くことができますが、ASCの場合のように、完成した機器を提供する人はいません。 競争の目的は、ベンチマークの開始といくつかの科学的応用です。



SCは 、スーパーコンピューター会議と併せて11月にアメリカで開催されます。 競争はハッカソン形式で行われ、48時間続きます。 チームも6人で構成されていますが、同時に働くことはできません。1人の生徒が1日12時間以上競技エリアに滞在することは禁止されています。 この間、チームは事前に組み立てられ、構成されたクラスターで2つのベンチマーク（Linpack、HPCG）を起動し、昨年の会議から選択した記事の結果を再現し、さらに3つのアプリケーションを起動します。そのうちの1つは、コンテストの開始まで秘密にされます。 今年の課題はこちらでご覧いただけます 。

そして、これらすべてをどうするか？

ここでは、選択がどのように発生するか、そのような競技中におそらく遭遇するテクノロジー、および過去数年間のタスクについて説明しようとします。 私たちのチームはASC大会でしか経験がないため、すべての特定の機能については、この大会に関してのみ詳しく説明します。



コンペティションには、コンピューティングクラスターの使用が含まれます。 ここに主観的な瞬間が現れます-チームの成功（ある程度、タスクに強くまたは弱く依存します）は計算に使用されるハードウェアに影響されるため、主要なタスクの1つは、機器を提供する準備ができているスポンサーを見つけることです（マーケティングの観点から有益です） ） また、一部のチーム（中国のチームのようです）は大学のシステムを使用していると聞きましたが、これはロシアに関するものではありません。 大学の設備を他の国に持ち込む人を想像することはほとんどできません。 ネタバレ：私たちのチームは大学センターにアクセスすることさえできません。 準備のために、10年前に学部の教育クラスターを使用し、サードパーティシステムにアクセスする機会を常に探しています。 SCおよびISCコンテストでは、チームは3000Wの電力制限のみを考慮して、完全に独立してクラスターを組み立てます。 ASCは参加者をもう少し平等な条件で配置します-すべての参加者のクラスターは、競争のメインスポンサーであるInspurによって提供される同じサーバーに基づいて組み立てられます。 チームは自分のアクセラレータ（ビデオカード、Xeon Phi、FPGA）を追加し、SSDをインストールし、メモリを追加できますが、自分の費用で（またはスポンサーを引き付ける費用がかかります）。



アプリケーションでは、チームはクラスターの構成と、高性能コンピューティングの分野における参加者と大学の背景を示します。 ASCでは、これは問題解決とともに詳細な予選ラウンドの一部です。 ISCおよびSCでは、競技会へのフルタイム参加の申請書としてただちに提出されます。



コンテスト中に役立つと思われるテクノロジーとスキルのスタック：プログラミング言語：C / C ++、Python、Fortran、bash。 マルチスレッドテクノロジー：OpenMP、MPI、OpenCL、OpenACC、CUDA、Intel Cilk Plus、Intel TBBなど



ASC予選ステージは1月10日頃に始まり、2か月続きます。 この間、3つの問題を解決することが提案されています。 通常、目標は提供されたコードを高速化することです（最後に加速を必要としないタスクが1つあったとき）。 予選ステージの最大値は、100ポイントを獲得でき、次のように配分されます。

• チームを代表し、HPCの分野における大学/学部の活動を説明するために、10ポイント（5 + 5）が与えられます。 チームのプレゼンテーションには、名前、スローガン、チーム写真、グループメンバーとチームの仕事の組織に関するストーリーが含まれます。 アクティビティの説明には、利用可能なコンピューティングリソースの提示、HPCの問題を解決した経験、大学のHPCが提示したこのトピックに関する記事（コースなど）が含まれます。 正直なところ、ポイントが与えられる理由は明確ではありません;明確なスケールはありません（予選段階の他のすべてのタスクに関して）。 クールなチームのために？ 物語の完全性のために？ または、説明ごとに10ポイントの全員ですか？
  
  
  
  残りの90ポイントは、課題を完了するために与えられます。 タスクの一部では、参加者は自分の機器で実行する必要があり、他のタスクはすべてのチームで同じリモートクラスターで実行する必要があることが示唆されています。 チームが強力なコンピューティングリソースにアクセスできる場合、賭けに値するのはまさにそのようなタスクのためです。
• 1タスク、最大15ポイント-クラスター構成を収集し、選択した要素の使用を正当化します。 この構成は最終的にチームによって使用されることが理解されていますが、実際には変更することができます。 ソリューションは提供されたサーバー（2017 Inspur NF5280M4）に基づいて組み立てる必要があります。利用可能な機器のリストには、スイッチ（Infinibandまたはイーサネット）、対応するケーブルとカード、Xeon Phiが2016年まで含まれていました。 制限条件は、クラスター全体の理論上の電力が3000Wを満たす必要があることです。
• 2タスク、最大15ポイント-ベンチマークの開始。 長年にわたり、 HPL （Linpack）、 HPCG （2016）、 HPCC （2015）（HPL +その他のテスト）が発表されました。 2017年には、KNLプロセッサー（第2世代Intel Xeon Phi）を備えたオーガナイザーが提供するクラスターでベンチマークを実行する必要がありました。以前に参加者が所有する機器のベンチマークを開始しました。 タスクは、最大のパフォーマンスを絞ることです。 レポートでは、ベンチマークが起動されたクラスターの構成、起動の結果、および構成手順を説明する必要があります。
  
  
  
  以前は3タスクと4タスクでそれぞれ20ポイントと40ポイントが与えられました。 2017年-各30ポイント。
• タスク3-特定のデータセットでの作業を高速化するためのコードの最適化。 異なる年に、これらはC、C ++、Fortranの科学的アプリケーションでした。
  
  2013- Gromacs
  
  2014- Quantum Espresso Test
  
  2015- NAMD
  
  2016年、2017年-MASNUM_WAVE
  
  
• タスク4-Xeon Phiの最適化とその起動。 （2017年まで）。 2017年に、4番目のタスクはニューラルネットワークによるトラフィックの予測に専念し、推定されたのは作業の速度ではなく、予測の精度でした。
  
  2013-BSDEオプション価格
  
  2014-3D-EW
  
  2015-グリッド（Square Kilometer Arrayプロジェクト）
  
  2016-ニューラルネットワークの最適化（中国語DNNプログラム）

問題を解決するときは、2月上旬の旧正月に一部のタスクに提供されていた中国のサーバーが（1週間以内に）オフになることを考慮する価値があります。 その後、興奮が彼らに始まり、タスクは長い間実行するためにキューに立つことができます。 これらのサーバーで実行する必要があるタスクは、最初に対処する必要があります。



約1〜2週間後、結果が判明します。 特徴的なことは、主催者が結果表を投稿せず、そのポイントさえもチームに個人的に通知されないことです。 注目できる唯一のことは、コマンドがリストされる順序です。 私たちの仮定によると、それは評価に対応しています。 最終的なチームに加えて、良い結果を示したチームのリストも発表されます。



決勝までに2か月ありますので、どうしたらいいですか？ 最後に、クラスタを自分で組み立てて構成する必要があります。 これには2日間が与えられます。 彼らはあなたにラック、注文された数のサーバー、ケーブルと2つのモニターをもたらします。 どうぞ！











したがって、クラスターをこれまでに構築および構成したことがない場合は、学習する時間です。 その後、アプリケーションを起動するために2日間があります。 これらは予選ラウンドと同じタスクですが、入力データが異なります。 3つの新しいタスクも追加されます。2つは決勝への招待とともに知られるようになり、もう1つは競技当日に直接発行されます。 コンテストの各日に3〜4つのタスクを実行する必要があります。最良の結果は最終カードに示され、そのカードはその日の終わりに配られます。 特別な画面（およびWebページ）には、各チームのクラスターのエネルギー消費量が表示されます。 3000Wを超えると、大学のロゴが赤で強調表示され、サイレンが部屋全体で激しく鳴り始めます。 このような実行の結果は、チームにはカウントされません。







予備段階とは対照的に、最終開催のルールではポイントシステムが規定され、壁のホールには各タスクの結果が入力される大きなテーブルがあります。







予選で神秘的な得点を獲得した後、そのような透明性は非常に喜ばしいものです。 ベンチマークには7.5ポイント、他のタスクには15ポイント、チームのプレゼンテーションには10ポイント、合計で100ポイントが与えられます。一般に、ポイントは次のように授与されます。リーダー。



賞と賞。 カップと卒業証書は、決勝戦に出場したすべてのチームに授与されます。 Linpackで最高の結果を得るために、他のいくつかのアプリケーションで最高の結果を得るために、1位と2位に報酬があります。 さらに、上記の賞のいずれかをすでに受け取ったチームが最高の結果を達成した場合、次の賞が授与されます。 また、ソーシャルネットワーク（Twitterまたは中国のWeChat）でチームのPRとコンテストに積極的に参加し、ベストポピュラー賞を獲得することもできます。







ちなみに、Best Popular Prizeの金額はまだ届いていません。 中国国内での移籍がもっと早く、少なくとも中国のチームが賞を受賞したことを願っています。



3つの競技すべてに共通のルーツがあるという事実により、ASCで1位と2位を獲得したチームはドイツの競技に自動的に招待されます。

おわりに

競争は、「大型コンピューター」での作業、科学の発展、および商業企業のITとは異なる別の世界を見る機会を与えるという点で興味深いものです。 誰かが興味を持っていて、今年は新しいロシアの大学が参加チームのリストに載ってくれたら嬉しいです。 毎年、ロシアのチームは、ACM ICPC大会で全員を肩こりにし、数年のトレーニングの後、彼らをHPCに入れられることを願っています:)



興味のある方へのリンク：

これらの各イベントを扱っているアメリカのジャーナリストのブログサイト。

ASC 2018に登録する