NVIDIA Parallel Nsight 2.0デバッガーのCUDAレビュー

並列コードのデバッグは退屈で費用のかかるプロセスです。 並列アプリケーションの動作が非決定的であるため、並列化エラーを見つけるのは困難です。 さらに、エラーが検出された場合、再び再現することはしばしば困難です。 コードを変更した後、エラーが修正され、マスクされていないことを確認することは困難です。 ほとんどの場合、並列プログラムのエラーはheisenbagsです。 時には、並列プログラム用の最も便利で機能的なデバッグツールが緊急に必要だと感じます。

そのため、1年ほど前に、NVIDIAはNVIDIA Parallel Nsightと呼ばれるCUDAで記述された並列プログラムをデバッグするために、Microsoft Visual Studio 2008 sp1および2010に統合されたツールのパッケージをリリースしました。 これについて、 やがてXaocCPS は habrosociety について書きました。 それ以来、この製品はより高度になり、完全に無料になりました。 これまでの最新バージョン2.0。 可能な構成、インストール、構成、およびNVIDIA Parallel Nsightの主な機能を検討してみましょう。

可能な構成

NVIDIAは、Parallel Nsightをインストールするための4つのハードウェア構成オプションを提供していますが、これらは特定のツールを使用する能力が異なります。

構成	1 GPUシステム	2 GPUシステム	それぞれがGPUを備えた2つのシステム	同じマシン上に2つのGPUを備えたシステム（NVIDIA Multi-OS）
CUDA C / C ++並列デバッガー	0	1	1	1
Direct3Dシェーダーデバッガー	0	0	1	1
Direct3Dグラフィックインスペクター	1	1	1	1
アナライザー	1	1	1	1

NVIDIAは、「ULTIMATE」構成4オプションを呼び出します。 NVIDIA Multi-OSは、ビデオドライバー開発者をサポートする仮想マシンです。 VMWareを使用して同様のシステムを解除することを考えていましたが、仮想システムのビデオアダプターにドライバー開発者をインストールできないという問題に直面しました。

NVIDIAは、選択した構成に応じて、次のシステム要件を提供します。

ハードウェア要件：

	最低	注目の
オペレーティングシステム	Windows®Vista SP3、Windows 7またはWindows HPC Server 2008（32ビットまたは64ビット）	同じ
CPU	Intel PentiumデュアルコアCPU相当@ 1.6 GHz	2.2 GHz以上のIntel PentiumデュアルコアCPUと同等
RAM	ホストの場合：2 GBペアリングを実行するマシンの場合：2 GB	ホストの場合：2 GB以上並列計算を実行するマシンの場合：4 GB以上
ハードドライブの空き容量	32ビットマシン：Parallel Nsightで240 MB 64ビットマシン：Parallel Nsightで330 MB	Parallel Nsightホストパーツを備えた32ビットマシン：240 MB +プロジェクト用のスペース。 Parallel Nsightホスト部分を備えた64ビットマシン：330 MB +プロジェクト用のスペース（リモートマシンを使用してアプリケーションを実行/デバッグする場合、リモートマシンには240 MBの空きスペース+アプリケーションのデバッグバージョン用のスペースが必要です）
出力デバイス	GPUを計算するための独立したモニター	DVIの使用を推奨
ローカルデバッグ（同じマシン上のホストと計算機）	CUDAをサポートする2つのGPU。 （サポートされているデバイスのリストを参照）	同じ
リモートデバッグ（異なるマシン上のホストと計算機）	コンピューター別：CUDAをサポートする1​​つのGPU。 ホスト（スタジオがインストールされている場所）：ホストマシン上の1つのGPU：任意のGPUを使用できます。	同じ
GPUサポート	developer.nvidia.com/parallel-nsight-supported-gpus	developer.nvidia.com/parallel-nsight-supported-gpus

ソフトウェア要件：

ディスプレイドライバー	Parallel NsightをサポートするNVIDIAディスプレイドライバーをインストールする必要があります。 NVIDIAグラフィックスカードがコンピューターにインストールされている場合、このドライバーはおそらく既にインストールされています。 ただし、NVIDIA Parallel Nsightを正常に機能させるには、ドライバーの更新バージョンが必要です。	同じ
ローカルデバッグ（ホストと計算機は同じマシンで動作します）	.NET Framework 3.5 SP1 Visual Studio：Microsoft Visual Studio 2008 SP1 Standard Edition以降またはMicrosoft Visual Studio 2010	同じ
リモートデバッグ（ホストと計算機は異なるマシンで動作します）	ホストマシン：.NET Framework 3.5 SP1 Visual Studio：Microsoft Visual Studio 2008 SP1 Standard Edition以上またはMicrosoft Visual Studio 2010コンピューティングマシン：.NET Framework 3.5 SP1	同じ
ネットワーク	インストーラーをダウンロードするためのインターネット接続リモートデバッグの場合：ホストとサブのTCP / IP接続。 車。	同じ

Parallel Nsightをインストールする

並列コードをデバッグできるようにするには、1台のマシンで2つのCUDA互換GPUを使用した構成で十分です（もちろん、2台のマシンを使用した構成についてお話しする方がはるかに興味深いでしょうが、残念ながら、現在このような構成を組み立てる方法はありません）。

そのため、作業用カードGeForce GTX460に加えて、予算のCUDAサポートカードの1つであるGeForce 210を購入する必要がありました。 したがって、Parallel Nsightのインストール用に次のハードウェア構成が準備されました。

ホスト：

CPUタイプ QuadCore AMD Phenom II X4 965、3918 MHz

Gigabyte GA-790FXTA-UD5マザーボード（3 PCI、1 PCI-E x1、3 PCI-E x16、4 DDR3 DIMM、オーディオ、デュアルギガビットLAN、IEEE-1394）

AMD 790FX、AMD K10 マザーボードチップセット

4096 MB システムメモリ

結論：

NVIDIA GeForce 210 ビデオアダプター （512 MB）

ビデオカードNVIDIA GeForce GTX 460（1024 MB）

モニター ENV LED2770h [NoDB]（AUBB1JA005271）（DVI）



オペレーティングシステムとして、Windows 7エンタープライズエディションx64を使用しました。 次に、2008 sp1以上のMVSが必要です。



NVIDIA Webサイトには、必要なディストリビューションが含まれています。 以下が必要です 。

• WinVistaおよびWin7の開発者ドライバー
• CUDAツールキット
• CUDAコンピューティングSDK
• Parallel Nsight 2.0。

同じ順序でディストリビューションをインストールします。 スタジオで新しいプロジェクトのウィザードを呼び出すとき、新しいセクション「NVIDIA」（テンプレートはパッケージ「CUDA Toolkit」に含まれています）を追加し、プロジェクトタイプ「NVIDIA CUDA 4.0」を選択してプロジェクトを作成します。 すべてのディストリビューションのインストールが正しい場合、結果のワールドワードをコンパイルして実行できます。

すべて大丈夫ですか？ 次に、Parallel Nsightデバッガーを直接扱います。 マシンはサーバーとコンピューターの両方であるため、最初にホストコンポーネント「Nsight Monitor」を実行する必要があります。 コードを開いて、計算カーネルプロシージャのどこかにブレークポイントを設定し、nsightパネルの特別なボタンでプロジェクトを開始します。 いくつかの点に注意してください。

1. プロジェクトは事前にビルドする必要があります（nsightアプリケーションの開始ボタンはコンパイルされません）。
2. プログラムがnsightデバッグモードで実行されている場合、計算コアの外部に設定されたすべてのブレークポイントは無視されます。 これは逆の順序で行われます。プログラムが通常モードでデバッグされる場合、通常のコードの反対側のブレークポイントのみが考慮されます。
3. Sevenでnsightデバッガーを初めて実行すると、少なくとも2つの問題が発生する可能性があります。WPFアクセラレーターとの非互換性とWindows Aeroです。 それらはオフにする必要があります（最初のレジストリはレジストリに追加することでオフになります：
   
   Windows Registry Editor Version 5.00

[HKEY_CURRENT_USER\Software\Microsoft\Avalon.Graphics]"DisableHWAcceleration"=dword:00000001
   
   
   
   
   
   2つ目はコントロールパネルから無効にします）またはnsight自体で警告チェックを無効にすることができます：スタジオセット：Nsight->オプション->ローカルデバッグチェックを「True」にオーバーライドしますが、これには問題がたくさんあります。 たとえば、計算のデバイス、デスクトップが描画されるビデオカード、およびnsightデバッグを実行するデバイスとしてコードで指定すると、永久にフリーズします。 Parallel NsightとWPF / Aeroの非互換性が何を意味するのかは明確ではありません。「ローカルデバッグチェックを上書きする」オプションをオンにしてデバッグする際、デバッガー側とメカニズム自体の両方からこれらのメカニズムに問題はなかったためです。

そのため、ブレークポイントでのデバッガー：



これで、通常のアプリケーションのデバッグと同様に、利用可能な制御値を確認できます。 本格的なウォッチャーを使用すると、アレイを表示できます。 上記のスクリーンショットでは、「A」変数はMatrix3タイプです。

typedef struct {

int x_size;

int y_size;

int z_size;

float4* elements;

} Matrix3;





表示可能な「要素」配列の要素数は、Parallel Nsightデバッガー設定の「最大配列要素」パラメーターによって決まります。

インデックス値blockIdxおよびthreadIdxからわかるように、デバッガーは最初のグリッドブロックの最初のスレッドにあります。 問題が発生します：目的のストリームに移動する方法は？ nsightツールでは、「Nsight Cuda Device Summary」というウィンドウを使用できます。これは、停止したストリームの近くでワープ間を移動できるインターフェイスです。 近傍のサイズは、ビデオチップのハードウェア機能によって決まります。 そのため、停止時にGeForce 200で計算する場合、4ワープの2ブロックが利用可能でした。



同様に、GeForce GTX 460の場合：



31ユニットが利用可能です。 ワープ内の特定のスレッドに移動するには、「Cuda Debug Focus」ウィンドウを使用する必要があります（このインターフェイスでは、ブロック間を移動することもできます）。

繰り返しますが、「最初のストリームの近くに入らないストリームに入る方法は？」です。 このために、条件付きブレークポイントが使用されます。 条件の構文は次のとおりです。

@blockIdx(x,y,z) && @threadIdx(x,y,z)





デバッガは、指定されたストリームで停止します。これに対して、ワープ近傍が使用可能になります。

Nvidia Parallel Nsightパッケージには、「分析アクティビティ」と呼ばれる、グラフ化などのさまざまなパラメーターを使用してCUDAパラメーター計算を分析するための強力なツールが含まれていますが、これは別の記事のトピックです。

Parralel Nsightに対する私の印象は、最も楽しいものです。 大きなプラスは、Windowsの最も一般的な開発環境への統合であるように思えます。 最近、この製品が完全に無料になったことを繰り返しますが、これは非常に素晴らしいことです。 最後に、これはWindowsでのCUDAプログラムの唯一のデバッグツールであり、NVIDIA Compute Visual Profilerプロファイラーをカウントしません。

関連記事 。

また、YouTubeのテーマビデオもいくつかあります。