「Java開発者はプロファイラーの問題を認識していません」：Javaプロファイリングに関するAndrei PanginとNitsan Wakart

プロファイリングから大きなニュースを期待すべきではないと考えるのは簡単です。開発者は何十年もプロファイリングしてきたので、そこについてどう思いますか？ しかし、Javaプロファイリングでは、セーフポイントバイアスのような重大な落とし穴があり、そのような問題を解決するための新しいツールが登場しています。



Andrey apangin Pangin （Odnoklassniki）は最近これらのツールの1つを作成しました。4月のJPointカンファレンスで、彼はセーフポイントバイアスを恐れないオープンソースプロジェクトasync-profilerを発表しました。 このトピックに関する別の専門家はNitsan Wakartです。多くの人が、彼のブログ投稿 「なぜ（ほとんど）サンプリングJavaプロファイラーがひどいのか」のおかげで、セーフポイントで同じ問題について学びました。



私たちはすぐに両方と話し、非同期プロファイラーに関する最新ニュースとの会話を開始し、後でJavaプロファイリングの一般的な状態に進むことにしました。



JUG.ru：最近、async-profilerは、 「jvm-profiling-tools」の Andreyの個人リポジトリからGitHubに移動しました。jvm-profiling-toolsとは何ですか。



Nitsan：これは、同様の目標を持つ複数のリポジトリの組み合わせです。 アイデアは、それらを1か所に集め、コミュニティを刺激して、より積極的に開発することです。



アンドリュー：そのとおり 。 非同期プロファイラがJavaコミュニティにとって興味深いことが明らかになったとき、サードパーティの開発者がそれを他の人の個人リポジトリに密輸することは時々不快なので、中立の場所に移動することにしました。



Nitsan： jvm-profiling-toolsにはHonest Profiler 、async-profilerおよびperf-map-agentがあり、異なる観点から同じトピックにアプローチします：perf-map-agentはLinux perfを使用してプロファイリング機能を開き、Honest ProfilerはAsyncGetCallTraceを使用します、セーフポイントバイアスを回避し、非同期プロファイラーは非常に快適な方法で両方を組み合わせます。



アンドリュー：はい。 実際、両方のアプローチを組み合わせるというアイデアには宇宙的なものは何もありませんが、何らかの理由でこれまで誰にも起こらなかったものです。



Nitsan：実際には、Solaris Studioにありましたが、Solaris Studioの問題は、世界中で約20人がそれを使用していることです。



Andrew：しかし、私の知る限り、カーネル呼び出しは表示されませんよね？



Nitsan：ネイティブコードを表示しますが、カーネルは表示しません。



JUG.ru：Honest Profilerとasync-profilerには「セーフポイントバイアスの欠如」という共通の利点があるため、現在jvm-profiling-toolsを見ると、プロファイリングの初心者は次のように尋ねる場合があります。あなたは彼らに何を伝えることができますか？



アンドリュー：非同期プロファイラーは、プロファイリングの正確性と情報の完全性の点ではるかに優れていると思います。 実際、HotSpotのAsyncGetCallTraceでさえ常に機能するわけではありません。一部の境界線の場合、JVMはスタックトレースを復元できませんが、async-profilerはそのような状況にも対処します。 さらに、Honest Profilerはネイティブスタックトレースをまったく表示しません。 しかし、その優れたインフラストラクチャの利点は、データの提示に関するものです。 彼は結果を美しく表示する方法を知っており、UIを持ち、非同期プロファイラーはコンソールから起動されたJavaエージェントにすぎません。



日産：未来は非同期プロファイラーだと思います。 そして、正直なプロファイラーの機能のいくつかを非同期プロファイラーに入れたいです。 Honest ProfilerはmacOS上で動作し、async-profilerはまだ存在しないという事実にはまだ違いがあります。私たちの業界でヒップスターの大きなコミュニティを維持することは重要です。







JUG.ru：OdnoklassnikiのVadim Tseskoが既にmacOSで非同期プロファイラーを可能にしたようですか？



Andrew： perf eventsサポートを追加する前のことです。 Linux固有の呼び出しがmacOSサポートを中断しました。 しかし、良いニュースがあります。先日、Apple（Nettyの著者）のNorman Maurerと話していたとき、彼は非同期プロファイラーにも興味があり、Macの移植を快く受け入れてくれました。



JUG.ru：ヒッププロファイラーは7月に非同期プロファイラーに登場しました。これについて話していただけますか？



Andrew： Javaのメモリプロファイリングには、主に2つのアプローチがあります。 1つ目はバイトコードインストルメンテーションです。 しかし、実稼働システムの場合、パフォーマンスに嘆かわしい影響があるため、ひどいです。 多くのコンパイラー最適化が機能しなくなります。まず、Escape Analysisはヒープ内の割り振りを回避するのに役立ちません。



別のアプローチはDTraceプローブの使用です。これも非常に高価であり、JVMの起動時にのみ有効にできます。



しかし、それだけではありません。 TLAB（Thread Local Allocation Buffer）サンプリングに基づいたはるかに効率的なアプローチがあります。 Java Mission Control / Java Flight Recorderに実装されていますが、市販のOracle JDK機能を含める必要があり、OpenJDKではまったく機能しません。 同様の方法が Googleによって内部的に使用されていますが、JVMの修正バージョンのアセンブリが必要です。



OpenJDKなど、有料機能を接続せずにこのアプローチを使用する方法を見つけました。 詳細については詳しく説明しませんが、別のレポートで必ず説明します。



日産：これは重要だと思います。 現在、Java Mission Controlはおそらく割り当てのプロファイリング用の唯一のツールであり、JMCで同様のプロセスを操作することは非常に独特な方法で実装されているため、多くの人は単にそのようなプロファイリングを行いません。 これがプロファイリングの割り当てを主流にするのに役立つことを願っています。



JUG.ru：何年も前に有用だった2017年にプロファイリングの顕著な変化が起こるのは奇妙に思えるかもしれません。 この遅延の理由は何ですか？



アンドレイ： Javaはすべての悪の根源です:)それは人生を良くも悪くもします。 一方では、JVMの性質により、標準的なアプローチは適用できませんが、他方では、JVMは独自のプロファイリングAPIを提供します。



日産： Javaの世界はWindowsのようなものだと思います。 WindowsはひどいOSでした（おそらく今ではずっと良くなっています）が、多くの欠点に悩まされながら、同時に大きな成功を収めました。 Javaと同じ話。 プロファイリングツールの場合、Javaはうまく機能しませんでした。 なぜそうなのかはよくわかりません。



JVM開発者は伝統的にSolaris Studioを使用していると思うので、すべては多かれ少なかれ正常に機能しましたが、それは彼らのためだけです。 専門家は専用ツールを使用しました。 そして、ほとんどのJava開発者は、持っているものに満足していました。



しかし今、Javaは現実に直面しなければなりませんでした。 Solaris Studioで機能していたが、ニッチなソリューションだったネイティブプロファイリングは、ますます一般的になりつつあります。



Andrew： JavaはHotSpotと同等ではなく、他のJVMはプロファイラーにとってより使いやすいと付け加える必要があると思います。



日産：何か見逃したかもしれませんが、どんな種類のJVMについて話しているのでしょうか？ 私はZingについて多くのことを知っており、IBM J9の経験があります...



Andrei：今、Excelsior JETシャツを着ているので、このプロジェクトを思い出しました。 彼はJavaをネイティブコードにプリコンパイルする方法を知っており、私の知る限り、セーフポイントバイアスに悩まされていません。



日産：あ、 だいたい 決して使用しませんでした。 この場合、ネイティブプロファイラーをすぐに使用できると思います。







JUG.ru：async-profilerおよびHonest Profilerで使用されるAsyncGetCallTraceは、公式のAPIではありません。 その使用は「ハック」として認識されますか？ 将来、機能しなくなることを心配していますか？ プロファイリングのより正式なサポートはオラクルを助けますか？



Nitsan： AsyncGetCallTraceはOpenJDK 6のリリース以来機能しており、常に機能しているように見えます。 これは「違法な子供」ですが、私は彼らがそれを奪って捨てることができるとは思いません。 何かがJVMオプションになると、何らかの形で公式のサポートを受けます。 ですから、これについてあまり心配するべきではないと思います。 AsyncGetCallTraceが新しいGraalコンパイラーとどの程度うまくいっているのかと思いますが。



もちろん、より正式なサポートが役立ちます。 Oracleは現在、JMCを有料オプションとして提供しており、残りのJavaの世界にはVisualVMのようなものが残っています。 これが今のお金です。 Oracleは利益相反に直面していると思います。一方ではJavaの利益であり、他方ではJavaの利益です。 他のJVMプロファイラーの改善に貢献することは、彼ら自身の状況を悪化させることになると言えます。



私は彼らがこれについて積極的に心配しているとは主張しません。 彼らが今何を望んでいるかわからない。 おそらく彼らはJMCのようなものを誰もが利用できるようにするでしょう。 ジグソーパズルの仕事が終わったので、彼らは別の時間をたくさん持っています。



Andrew： AsyncGetCallTraceが部分的に「ハッカー」APIであることに同意します。 さらに、理想からはほど遠いです。私自身がバグを報告しました。 しかし、これまでのところ、これはHotSpot JVMで最高です。



JUG.ru：AsyncGetCallTraceのような既存のものに加えて、プロファイラーの作成者の生活を楽にする何か他のものを表示できますか？



アンドリュー：はい。 HotSpotは最近、割り当てプロファイリングについて議論しました。 最後に、ヒープサンプリング用の新しい標準化されたAPIを提供するJEPプロジェクトもありました。 メーリングリストでそのようなトピックを取り上げ、JEPを提供するのが正しい方法だと思います。 だから、いつかJava 11で...



JUG.ru：Oracleに関係なく、Javaプロファイリングの将来についてどう思いますか？ プロファイラーは現在よりもはるかに良くなりますか？



アンドリュー：本当にそう願っています。 私のレポートでは、現在使用しているプロファイラーには大きな落とし穴があるという考えを開発者に伝えようとしています。 それらの使用をやめるか、それらの欠点とトラップを適切に理解する必要があります。 そして、より多くの人々が問題の規模を認識すると、これらのツールの開発者はそれらを改善し始めると思います。



日産：多くの問題で成長する余地があります。 perf-map-agentを使用すると、プロファイリング中にインライン化を追跡する機能が得られましたが、非同期プロファイラーに移行すると、再び失われます。 彼女が再び体現されるのを楽しみにしています。



別の領域は視覚化です。 マルチスレッドアプリケーションで作業するときにasync-profilerを使用すると、1つのスレッドがCPUの100％を使用し、他のすべてのスレッドが保留状態になると、プロファイリング時に混乱する状況を把握できます。 私はデータ表示の問題に興味があり、多くの同様の問題があると確信しています。



アンドリュー：はい。 今日、FlameGraphはビジュアライゼーションとして非常に人気がありますが、完璧とはほど遠いと言えます。



JUG.ru：あなたは両方とも（レポートとブログ投稿で）プロファイラーが歪んだ画像を作成できると言いました。 業界は、この歪んだ画像を使用することで人々を傷つけていると思いますか？ プロファイラーからの産業は、善よりも害を及ぼす可能性がありますか？



日産：はい、業界に害を及ぼすと思います。 Javaのパフォーマンスについて議論するためにインターネットを見ると、たくさんの話題があることがわかります。 そして、それが非常に多いのは、情報を検証するのが難しいからです。



一部の人々は、問題がHashMapに決して終らないと私に言った。 そして、彼らがHashMapが問題になるとは思わなかった理由は、通常のプロファイラーがそれを決して見せないからです。 問題がそこにあるのは彼らの場合だと言っているのではありませんが、たぶん彼らはそれについて決して知らないでしょう。 また、CPUタイムラインを見ると、GCに費やされた時間を見ることができません。 つまり、「ボトルネック」GCがあった場合、これを追跡することはできません。



アンドリュー：私は日産に同意しますが、少なくとも悪いツールを持っている方が、持っていないよりは良いと付け加えます。 主な問題は、プロファイラーが不正行為を行っている場合ではなく、まったく使用されていない場合です。 多くの開発者はまったくプロファイルしませんが、多くの場合、パフォーマンスの問題は非効率的なアルゴリズムにあり、サンプリングプロファイラーはそれを簡単に識別します。



日産：私は多くの人がプロファイリングしないことに同意します。これは問題です。 しかし、悪いプロファイラーがあなたの唯一のツールであることが判明した場合...あなたはそれを見て、それが何らかのナンセンスを与えていることを見て、他の人に言ってください：「タイムスタンプを置くだけの方が良い」プロファイラーを使用しないようにします。



JUG.ru：それで、Javaプロファイリングで状況を改善するには、ツールを改善するだけでなく、コミュニティについても知る必要がありますか？



日産：はい。 Javaの世界での大規模なサクセスストーリーは、Java Microbenchmarking HarnessであるJMHです。 その理由は、このソリューションは技術的な観点からだけでなく、ユーザーを教育するという点でも非常に成功しており、ユーザーにこの分野をよりよく知る機会を与えたからです。



Andrewはツールを作成し、人々に非常に重要だと伝えていると思います。



Andrew：使い方がわからなければ、最も強力なツールでも役に立たないでしょう。 同じJMHを使用して、JMHで人々がナンセンスを書いた方法を何度も見た後、完全に間違った結論を出しました。 学習は成功の不可欠な部分です。



JUG.ru：両方の方が最寄りのジョーカーでレポートを使用してこのトレーニングを支援し、両方の他の会議で以前に提示されたレポートの新しいバージョンを提示します。 目新しさは何ですか？



日産： QConで「プロファイラーは嘘をついているホビット」を発表した後、私はそれが名前だと思いました。 したがって、タイトルを保持することにしましたが、レポート自体は大きく異なります。 プロファイラーと、彼らがどのように私たちを誤解させることができるかについて再び話しますが、私は最も暗いところから始めて、それから出て行く方法を示します。 過去には、レポートは「何も機能しない」という結論に至る一連の驚きでした。 今回は次のようになります。「何も機能しませんが、これに対処する方法を見てみましょう。」



Andrei：最初は、JPoint 2017で始まった非同期プロファイラーストーリーの続きを見せることを計画していました。しかし、その後、プログラム委員会と私はレポートと日産レポートの多くの類似点を発見したので、新しいトピックを取り上げることにしました。 これまでのところ、これが正確に何であるかを言う準備はできていませんが、近い将来、Joker 2017プログラムで私の新しいレポートが表示されます！ どうぞお楽しみに。

---

NitsanとAndreyが講演するJoker Java会議は、11月3〜4日にサンクトペテルブルクで開催されます。 いつものように、レポートの後、ジョーカーのスピーカーは議論の場にいるので、個人的にプロファイリングについて尋ねることができます。 AndreiとNitsanの他にも、他にも数十人の講演者がいます- 会議のWebサイトでは、プログラムを見ることができます（チケットを購入できます）。