👩🏽‍🤝‍👨🏾 🙍🏿 👨🏻‍🔬 「OracleよりもJavaをテストできます」-OdnoklassnikiのAndrei Panginのインタビュー 🌻 ◻️ 👩🏾

今日、私はあなたのためにOdnoklassnikiのトップエンジニアであるAndrey Pangin別名apanginとの素晴らしいインタビューを準備しました。 Andreyは、HotSpotチームを含め、6年以上Sun MicrosystemsでJVMエンジニアとして働いていました。また、過去5年間、Odnoklassnikiで働いており、そこでJVMとパフォーマンスに関連する問題を解決しています。アンドレイはロシアで最も強力なJVMの1つと考えられています。

Andreyはシステムプログラミングの専門家であり、ストレージシステムと情報転送システムに従事していました。彼はOdnoklassnikiポータルの基礎となるレンガを積み上げ、サービスの信頼性と速度を提供しました。

Andreiと話をしたのは次のとおりです。

Java 7からJava 8への移行は何ですか？
sun.misc.Unsafeはどうなりますか。
Odnoklassnikiアーキテクチャ。
エンジニアリングのトレードオフ、シャーディング、GC。
ストレージシステムとCassandra;
Odnoklassnikiが他のどの先を行っているか、そしてGoogleから他に何を学ぶべきか。
クールなシステムプログラマになる方法。

（開始が遅れていることは知っています。より速く揺れ動き、トピックを入力するように努力します。）

インタビューのカットオフトランスクリプトの下で、再びビデオを見る時間がない人のために。

Java 7からJava 8への移行について

-太陽の下で働き、Javaを内側から見て、Odnoklassnikiに切り替えたときに、クライアント側から見て始めました。 （アプリケーション開発者として）Java 6、7、8を見たことがありますか？ たとえば、JDK 8はJDK 7よりも明らかに優れた製品であると感じていますか？

-すべてのバージョンにバグがあり、すでに使用されています。 JVMが非常に複雑なシステムであることは明らかです。また、特定のシナリオでJITコンパイラがどのように機能するかを事前に予測することさえできない場合があります。最も重要なことは、すべての人のためにこれに取り組んでいるポータルの99％があり、2013年以降、大きな低下はありませんでした。したがって、Javaに満足しています。

-Odnoklassnikiの何パーセントが、秘密ではないとしても、Java 7で動作しますか？また、Java 8で動作しますか？

-Java 6にもシステムがあります。幸いなことに、それらはほとんどありません。何年も再起動しないサービスがあります。それらをアップグレードする意味は何ですか？仕事と仕事。そのため、現在起動しているものはすべて新しく、すぐにJDK 8で起動します。これらのサービス（多くの場合デプロイされるサービス）は、すでにほぼすべてがJDK 8に移行しています。そして毎週新しいものが翻訳されます。

-Java 7からJava 8に移行する際の困難は何ですか？

-驚くべきことに、Java 6からJava 7に移行したときよりも、Java 7からJava 8に移行したときの問題がはるかに少ないことがわかりました。 Unicodeサポートの変更などでした。

Java 8に切り替えたとき、そのような問題はありませんでした。しかし、JITコンパイラのバグに遭遇しました。

一般に、時々、何らかのバグがある場合、私たちは確かにそれに出くわすように思われます。Oracle自体よりもJavaをよりよくテストできるほど多くのサーバーとそのような負荷があるようです。

たとえば、本番環境でマルチレベルコンパイルを無効にしました。これは、Oracleのスタッフが熱心にやったことです。C1コンパイラに重大なバグがあるため、すぐにC2でコンパイルします。

-まだこのバグを修正しましたか？

-はい、JDK 8u60が問題を解決したようです。 JITコンパイラーでは、オラクルのスタッフが問題を非常に迅速にクリーンアップします。しかし、重大な脆弱性がありました。仮想マシン全体をクラッシュさせる単純なJavaコードを書くことができました。ちなみに、バージョン8u40では、コンパイラーで2つのバグが修正され、私が提出（まとめた-著者のメモ）。

仮想化、安全でない、クラスメートについて

-そして、システムとしてのOdnoklassnikiプロジェクトの大きさは？ サブシステム、レイヤーはいくつありますか？

-たくさん。約200のモジュールと、それぞれ最大数の1万個のJavaクラスファイルがあります。 2004年に作成されたソースコメントで見つけることができます。しかし、ご存知のように、OdnoklassnikiはC＃で始まり、その後数か月の忙しい日と眠れない夜に数人のチームがすべてを書き直しました。つまり、Odnoklassnikiの以前のバージョンには何も残っていません。

-現在、Odnoklassnikiは高負荷のJavaプロジェクトであり、ロシア最大のJavaプロジェクトです。 世界には多くの同様のプロジェクトがありますか？

-トラフィックに関しては、Alexaによると世界のトップ100に入ることを知っています。そして、ロシアでは、今、7番目です。 Javaプロジェクトの中で、おそらく最大のプロジェクトの1つです。

-VKontakteとFacebookは、大部分がPHPコードを多く持っていたため、PHP用の仮想マシンをリリースしました。 この仮想化の傾向はどこから来たのですか？

-仮想化は便利です！広い意味では、より馴染みのあるレイヤーで作業することができます。最終的な開発者は、アーキテクチャのどのマイクロ命令が変換されるか、およびプロセッサでどのように処理されるかについて心配するべきではありません。

-2012年に、アンセーフについて多くのことを話しました。 そして今、おそらく、怠zyな人だけがJavaパーティーのUnsafeについて語っていない。 安全でないプログラミング手法を促進したことについてあなたを責めたいです。

-私はそれらを宣伝しません-私はそれらを使用します！必要なものがすべてJavaにあるわけではないからです。

Javaはもともとハードウェアに依存しないプラットフォームとして考えられていました。一度書いて、好きな場所で実行します。しかし、ここではOdnoklassnikiにあり、64ビットLinux、Intelプロセッサですべてを実行しています。Javaのこのような移植性は必要ありませんが、オペレーティングシステムと実行するハードウェアの機能を最大限に活用したいと考えています。そのためには、オペレーティングシステムの奥深くに抜け穴を掘る必要があります。

ここでは、ちょっとした例です。たくさんのキャッシュがあります-一般に、Odnoklassnikiが持っている8,000台のサーバーのうち、ほぼ半分がすべての種類のキャッシュです。そして、スナップショットが書き込まれると、RAMのデータがディスクにダンプされます。これが純粋にJavaによって行われた場合、メモリ消費量は大幅に増加します。そして、Linux固有のヒントだけを彼女に伝えることができます。「このデータをキャッシュしないでください。近い将来必要ありません。」

「これは単にLinuxを設定するだけではできないのですか？」 アプリケーションに入る理由を理解できませんでした。なぜこのペンが横にあるのですか？

-Linuxの場合、すべてが同じです：Javaファイルが書き込むもの、システム内の他のプロセス。プログラマー自身がキャッシュしたいものを区別する必要がありますが、これは違います。したがって、イニシアチブはアプリケーションの側から行う必要があります。

高負荷について

-Odnoklassnikiのどの部分が最も負荷が高いですか？

-最もロードされているのは、ユーザーがメインページにアクセスしたときにニュースフィードとして開くリボンサービスです。ここでは、異なるソースからのデータがそれぞれ収集されます。

別の例は、「友情」、ニュース、メッセージ、ギフトに関するプッシュ通知の即時配信です。サーバーごとに1秒あたり最大50,000件の要求があります。

一部のプッシュ通知は、実際には長いポーリングで実装されています。クライアント側からの長いhttp要求があり、10分間またはデータが到着するまでハングします。また、バックエンド側には、いつ、どこで、どのフロントエンドでどのユーザーが座っているかを知る個別のサービスがあります。つまり、モバイルデバイス上、Webバージョンのポータル上など、複数のクライアントを開くことができます。あなたが理解するために、これらのマシンは約千台あります。

-これは、8000台すべてのサーバーのかなりの割合であることがわかりました。 たとえば、なぜWebSocketを使用しないのですか？

-WebSocketとは異なり、ロングポーリングはほぼどこでもサポートされています。もちろん、古くて古いブラウザもあります。たとえば、Internet Explorer 8。しかし、すぐにそれを放棄したいです。

正規化と非正規化について

-エンタープライズの世界では、通常、多くのJava EE、多くのHibernate、Springなどがあります。 どんな技術がありますか？

-ビジネスロジックのほとんどを担当する最大のモジュールの1つは、従来odnoklassniki-ejbと呼ばれています。しかし、実際には、EJBから今日まで、まったく何も残っていませんでした。私は昨年、このタスクを設定しました-プロジェクトからEJBをカットするため。 3日間のハッカソンがあり、通常は十分な時間がないプロジェクトを開発者が自分で選択することができました。それで、メインモジュールからエンタープライズを完全に削除することにしました。そして今、それは通常のJavaアプリケーションです。行くぞ

Spring-Springに関しては、たくさんあります。

「Hibernateはどうですか？」

「いや、いや、彼じゃない！」どのリクエストとどのように実行するかを非常に正確かつ完全に制御する必要があります。システムの一部、ストレージの一部は、従来はMicrosoft SQL Serverに残っていましたが、現在ではますますNoSQLソリューションに移行しています。

SQLデータベースが負荷に対処するには、多くの機能を放棄する必要があります。特に、結合、トリガー、ストアドプロシージャは使用しません。

-つまり、生徒は「正規化」するように教えられ、それから彼らはあなたに来て、「非正規化」と言いますか？

-そのようなもの、はい。もちろん、SQLサーバーからビジネスロジックサーバーに負荷を転送できる場合は、それを転送します。SQLサーバーが動作するプロセッサの容量に対して料金を支払うからです。

-なんで？ そして、joinの何が問題になっていますか？

-分散およびパーティションデータベースがあります。各サーバーに1/16のデータがある場合、どのように参加しますか？

-シャーディングを備えた最新のシステムはうまく機能しませんか？ 確かに、いくつかの優れたエンタープライズのようです...

-実際、企業と呼ばれるものはすべて、私たちの負荷では機能しません。はい、それは負荷がより低いが、信頼性のためのより深刻な要件である銀行セクター、他のどこかでそれ自身をよく示しています。また、多くのシステムでの結果整合性にも満足しています。たとえば、プロフィール写真を変更したことを友人がすぐに確認できるなど、違いは何ですか？

エンジニアリングの妥協、シャーディング、優れたガベージコレクターについて

-一般的に、私はトレードオフのトピックが本当に好きです。 これについて話しましょうか？ オドノクラスニキには何がありますか？ パフォーマンスが最も重要であることを理解しています。

-何らかの方法で、フロントエンド開発者であっても、生産性について考える必要があります。

ここに2つのリストがありますが、どうにかしてそれらを1つに結合する必要があります。

はい、簡単な2次アルゴリズムを書く方が簡単です。しかし、あなたのサービスが人気を獲得し、成長することを知ったとき、リストは1万と10万の要素になります...あなたは考え始めます。結局、二次アルゴリズムは遅くなります。

-しかし、他のチームはおそらく異なる優先順位を持っています。たとえば、パフォーマンスですか？ また、結合がないという事実：データが非正規化されている場合、多くのディスク領域が無駄になっていますか？

-どこで、どのように。繰り返しますが、これはトレードオフです。非正規化して同じテーブルのフィールドに直接格納すると、少しスペースが必要になることが予想されます。または、ビジネスロジックの側で参加します。 IDを取得し、それらに乗って他のサブシステムに入ります。

シンプルでわかりやすい例を挙げたいと思います。名前、アバターなどを含むすべての友達のリストを取得する方法は？最初に、接続グラフの別のサブシステムにリクエストが行われ、IDによって友人のIDが取得されます。リンクグラフには、ID以外の情報は含まれなくなりました。 IDの配列を受け取ったので、ユーザーキャッシュの2番目の要求を既に実行しています。これらのIDによってユーザーに関する情報を取得します。

もちろん、このデータは網掛けされています。リモート処理モジュールに実装された一種のMapReduceがあります。つまり、システム自体がシャードによってリクエストを分散し、それらを並列に実行してから収集することができます。キーは、保存されているシャードを知っています。

-あなたが説明したシナリオでは、少なくとも2つのリクエストを作成しましたが、それらはすべて何らかの形で内部で非常に高速に実行されるはずです。これは内部ネットワークへの呼び出しであり、1つのサブシステムが別のサブシステムに変わるため、ネットワークは一度に大量にジャンプします...このような呼び出しのチェーンでは、多くのネットワーク要求が発生します。

-もちろん。しかし、実際には、Ajaxリクエストの平均待機時間は5ミリ秒です。これは、ユーザーからフロントエンドに移動するチャネルをカウントしていません。つまり、これはポータル内の時間です。 5ミリ秒が病院の平均であることは明らかです。 50ミリ秒のリクエストがあり、非常に短いリクエストがあります。

「つまり、パーセンタイルとは何だと思いますか？」 90年代？

-90番目。理解するために、同じデータセンターのサーバーへの1つのリモートリクエストには300マイクロ秒かかり、もう1つのデータセンターのサーバーへの1ミリ秒かかります。ガベージコレクションが発生することは明らかです。100ミリ秒と200ミリ秒があります。しかし、それらはまれです。 GCの長い一時停止に苦労しています。ほとんどのシステムでは、1秒の休止がすでに重要です。

-どのGCが使用されていますか？

-ほとんどの場合、適切に調整されたCMS。一般に、Garbage-Firstよりもうまく機能します。ただし、ここでもG1が使用されます。たとえば、応答時間を保証するためにSQLサーバーを置き換えるようになったNewSQLの自己記述ソリューションで使用されます。

つまり、平均して、G1はあいまいなCMSよりも少し悪い動作をしますが、同時により多くの保証を提供します。たとえば、CMSには平均で50ミリ秒の遅延がありますが、最大で300〜400ミリ秒に達することがあります。そして、G1はおそらくより頻繁に収集し、平均で最大150ミリ秒の休止がありますが、200ミリ秒の制限が与えられ、それに耐えようとしています。

「Javaが何であるかを大まかに想像して、次のコマンドを実行すると理解できます。「G1、200ミリ秒の一時停止」を実行してください」実際には200ミリ秒はありません。 より正確には、そうなりますが、ある程度の確率があります。 ガベージコレクションは、これらの条件付き200ミリ秒からどれくらいの頻度でクロールしますか？

-めったにありません。驚くべきことに。 JDK 8u40以降、G1は優れたコレクターになりました。以前に完全なアセンブリなしで未使用のクラスをアンロードすることさえできなかった場合、このバージョンからすでにかなりの生産品質を持っています。

-JDK9では、Garbage-Firstがデフォルトのコレクターになります。 JDK9は1年後の2016年9月にリリースされます。 Java 9にアップグレードしますか？

-最も可能性が高いのは、G8のサポートが終了したときに更新を受け取るためです。実際、これはJava 7で起こりました。新しい更新を受け取りたいので、Java 7から移行し始めました。 JDKコンパイラのかなり重要な修正をバックポートするためにJDK7のバージョンにパッチを当てる必要があり、JDK8でのみ修正されました。

-そして、いくつかの条件付きAzulを採用してみてください。Azulは、バックポートと古いJavaのサポートに従事しているビジネスの大部分を占めました。

-私たちを犠牲にしてアズールを獲得する機会を与えるために？ :)ポイントは何ですか？現在、これに対処できる専門家がいます。

Javaパフォーマンスについて

-長い間、JDK、JREのパフォーマンスの突破に関するニュースはありませんでした。 また、あるバージョンに切り替えた後、生産性が大幅に向上したということはありましたか？

-単に交換バージョンを使用するようなものはありませんでした。

-この理由は何ですか？ 明日、JITでクールな最適化がリリースされ、20％のパフォーマンスが得られる可能性はありますか？

-この確率はゼロに近いです。興味深い最適化が行われますが、最近ではベクトル化がサイクルで行われています。

-整数による加算と乗算？ それは簡単なことのように思えます...

-はい、ループ内の配列を使用した整数演算について説明しています。今でも、これは常に機能するとは限りません。しかし、少なくとも最適化はすでに存在します。つまり、これらの最適化はすべて、数パーセント、ほんの数パーセントを提供するだけです。急激なジャンプについては話していません。

-セキュリティに関する質問。 2012年まで、Javaのモットーは「Compatibility-First」でした。 2012年以降、「セキュリティファースト」になっています。 それで、ポータルとして、あなたは何とかこれを感じましたか？

-まず、問題はJVMのクラッシュを引き起こすバグです。それ以外の場合、Javaの脆弱性を知って、ハッキングされた例はありません。 APIにある種の穴を見つけるのははるかに簡単です。

ストレージとCassandraについて

-Javaから離れて、ストレージシステムについて話しましょう。 どのように機能しますか？ どのファイルシステムが使用されていますか？

-多くの非常に異なる：自作と標準の両方。今日、おそらく最もカサンドラベースのリポジトリ。

-なぜまさにカサンドラなのか？

-その他は単に機能しません。fileloverはありません。ほとんど手動で複製できます。そして、複製は重要なビジネス要件です。データセンターの1つに障害が発生した場合でも、ポータルの機能全体が完全に機能するように努めています。

-そして、合計データセンターはいくつありますか？

-3。また、クラッシュした場合でもユーザーはログインできますが、一部のサービスは利用できません。主要なサービスで信頼性を確保するための作業を開始しましたが、現在はテールのクリーニングを行っています。

-3つのデータセンターを持つ分散システムへの移行プロセスについて教えてください。 それはどのように機能しますか？

-ライブラリ、リポジトリ、およびツール自体は、プラットフォームチームによって作成されます。たとえば、重いコンテンツ（写真、ビデオ、音楽）の場合、内蔵ストレージが使用されます。最近、EMCの同僚がオフィスに来てくれました。彼らは情報ストレージの分野でのソリューションで知られています。彼らは決定について話し、経験を共有しました。しかし、判明したように、彼らは私たちがすでに持っているものと比較して新しいものを提供することはできません。

-はい、EMCは面白い人です。 ところで、あなたの意見では、Odnoklassnikiの技術的な専門知識は何ですか？ ワールドクラスの経験はありますか？

-最初に思い浮かぶのは、カサンドラです。私たちはこれに密輸し、現在のCassandraマスターブランチにあるものと比較して常に先を行っています。そこに作成されたばかりのグローバルインデックス-既に使用されており、完全に使用されています。

また、推奨システムの専門知識も豊富です。当初、音楽の推奨システムがありましたが、現在では他の多くのサービス（ビデオ、グループ）に既に接続されています。ポータルの主なタスクは、興味のあるコンテンツを人々に見せることであり、興味のないコンテンツを見せることではありません。これにより、ユーザーはOdnoklassnikiで長くハングアップするようになります。

もちろん、JVMの強力な専門知識があります。

-そして、あなたの意見では、どこに専門知識が必要ですか、今日何が欠けていますか？

-画像認識の観点から。 Googleから学ぶことはたくさんあります。

-私が理解しているように、ストレージ、配布、およびキャッシュに関連するすべてを行う特定のプラットフォームチームがあります。 また、ライブラリ、API、サービスの形式で他のチームに作業を提示しますか？

-まさに。既製のソリューションを提供します。ただし、別のチームの開発者は、もちろん、いくつかの機能を知っている必要があります。どの要求が軽いか、どれだけ重いか、何ができるか、できないかを理解するためです。

-これをjavadocの形で彼に説明しますか、そうでなければこの知識を伝えますか？

-これらの決定の著者が講義やセミナーを実施する場合、このような慣行があります。それほど頻繁ではありませんが、主に初心者向けですが、経験豊富な開発者は原則として、新しいことを学ぶことができます。

また、コードレビューの手順もあります。ある人が私の決定を下し、それに基づいて何かを構築した場合、後で私に来て、「アンドレイ、ここで大丈夫ですか？」と尋ねるでしょう。どこで何を修正するか。

-そして、APIを誤って使用できないようにするために何をしていますか？

-個人的には、この点ではあまりうまくいっていません。できるだけ簡潔でシンプルなコードにするようにしています。そして、あなたがそれを誤って使用する場合-あなたは「自分自身に悪、ピノキオ」です-それを行う方法を理解するためにドキュメントや講義を参照してください。

-しかし、ドキュメントは原則として最新ですか？

-はい、リモーティングとシリアル化に関する詳細なFAQを書いたことがあります。

私たちは単に独自のシステムを使用します：一時停止サービスなしでオンライン更新を行うことができ、新しいバージョンのクラスのバージョンがポータルの一部で動作し、もう一方の古いバージョンで動作している状況を解決するために、一度にJBoss Remotingに切り替えました。

それでも、彼らが私のところに来て、「どうやってそのようにシリアライズされるのでしょうか？」、「そのような変換を行うことは可能ですか？」

-しかし、JBoss Remotingはその方法を知りませんか？ それとも悪化していますか？

-標準のシリアル化よりもさらに悪い。いくつかの変更をサポートしていますが、限られた範囲内で、フィールドを削除したり、新しいフィールドを追加したりできますが、デフォルト値で初期化されます。

そして、ここで、型をintからlongに変更してみましょう。フラグフィールドがあり、32がありませんでした-64ビットフィールドに変更されました。これは典型的なケースですが、標準のシリアル化ではサポートされていません。

クールなシステムプログラマになるには？

-Javaプラットフォーム自体とその低レベルの詳細に興味がある人を探すには、どこを読むことをお勧めしますか？

-JVMとHotSpotの内部については、一部のサードパーティのソースではあまり記述されていません。幸いなことに、これはオープンソース製品です。ダウンロードして参照できます。 HotSpotコードには、コード自体よりも多くのコメントがある場合があります。

-これはほとんどC ++ですよね？

-はい。さて、JVM仮想マシンの動作には一般的な概念があります。ここでは、サンクトペテルブルクのJUGでOleg Plissによる素晴らしい一連の講義をご覧になることをお勧めします。

-たぶん、あなたはもういくつかの本を助言するでしょうか？

-私は本に助言しません。 StackOverflowで質問する方が良いでしょう。私も今そこに座っています、そしてあなたは私に尋ねることができます。

そこでJVMとJavaパフォーマンス関連の質問にサインアップし、重要な質問に定期的に回答しました。そして時々、私自身がそこから何か新しいことを学びます。

もちろん、不十分な質問と回答がたくさんありますが、これには異なるメカニズムがあり、評判は同じです。しかし、そこでは世界有数の専門家に会うことができます。定期的にブライアンゲッツ自身がそこを見て、何かについてコメントします。

-そして、Habr？ さて、あなたはめったにそこに書きません。

-Habréのコンテンツの品質は徐々に低下しているように思われます...そして、私はJavaハブについて話しているだけではありません。

まず、Habrがいくつかのサブプロジェクトに分割されたという事実に影響します。したがって、それぞれの視聴者は減少しています。第二に、コメントが1つだけでは不十分な場合、あなたは失敗する可能性があります-もちろん、さらに書く動機は消えます。

- 最後の記事は、クラスローダーの並列作業でデッドロックがどのように発生するかについてです。 Googleのこのコードの作成者はこれを修正すべきだったと思いますか、それとも「バグとバグ、誰もがバグを持っている」と思いますか？

-彼らはそれを修正し、私たちはかなり迅速に信用を与えなければなりません。それは完全に自明ではないバグのクラスに属します。コードを見るだけでは見つけることができません。

-本当にこの静的アナライザーは追跡できませんか？ このクラスはスーパークラスであるという単純なルールがあるように見えますが、このサブクラスは静的分析を使用して非常に簡単に実行できます。 基本的に、これは誰でもキャッチできるルールです。

-同意します。これまでのところ、このようなルールはありませんでした。私たちの共通の友人lanyは、FindBugsに警告警告を追加することをすでに約束しています。

「しかし、創造的な計画—レポート、記事、本—まだ持っていますか？」

-たくさんのアイデアがあります、私は多くについて書きたいですが、十分な時間はありません。 JITコンパイラの内部、完全に予測不可能な方法での動作、およびプルできる文字列の種類については、興味深いことがたくさんあります。

また、シグナルを使用してLinuxを操作する方法を書きたいと思います。伝統的に、シグナルはエラーが発生した場合にのみインターセプトされますが、HotSpot JVMはその内部目的のためにシグナルに関連する多くの興味深い瞬間を使用します。これは、システムソフトウェアにとって非常に良い方法です。たとえば、Javaランタイムなど。

結論として、いつものように、便利なリンク：

「OracleよりもJavaをテストできます」-OdnoklassnikiのAndrei Panginのインタビュー