ネットワーク図

「鉄」
一対のモジュール「HP VC FlexFabric 10/24」を備えたブレードバスケット「HP BladeSystem c7000」。
統合HP FlexFabric 10Gb 536FLBネットワークカードを搭載したHP BL460c Gen8サーバー。
ネットワークスイッチ「Cisco Nexus 5k」。
ストレージシステム「NetApp FAS8020」。
リンクアグリゲーション
リンクアグリゲーションは、仮想環境で高い復元力を実現するための主要な手段の1つであるため、トラフィックフローのすべてのレベルでこれを使用する必要があります。 私たちの場合:
ESXi | フレックスファブリック | ネットワーク | 保管 |
ポートIDモードのvSphere vSwitch | 共有アップリンクセット+自動モード(LACP) | EtherChannel(LACP) | リフ |
ジャンボフレーム
10ギガビットを最大限に活用するには、すべてのレベルでジャンボフレームを有効にすることをお勧めします。
VMkernelポート | vSwitch | フレックスファブリック | ネットワーク | 保管 | |
価値 | 9000 | 9000 | 9216 | 9216 | 9000 |
HP Virtual ConnectのMTU値は9216に「配線」されており、 変更できません。
esxiにジャンボフレームをインストールする方法
Cisco Discovery Protocol
残念ながら、CDPはHP VC FlexFabricモジュールでサポートされていないため、ハイパーバイザーでCDPのサポートを有効にすることは意味がありません。
ドキュメントからの抜粋:「 Virtual ConnectはCDPをサポートしていません。 VCは、デフォルトでLink Layer Discovery Protocol(LLDP)と呼ばれる業界標準プロトコルをサポートします。 LLDPは機能的にはCDPと同等ですが、2つのプロトコルには互換性がありません。 」
フロー制御
フロー制御メカニズムの使用に関して、NetAppの推奨事項を順守し、すべての「レベル」(ESXi、FlexFabric、Network、Storage)でそれを無効にすることを決定しました。
NetAppの推奨事項:「 最新のネットワーク機器とプロトコルは、ポートの輻輳を過去よりもうまく処理します。 ESXiに実装されているNFSおよびiSCSIはTCPを使用します。 TCPには輻輳管理が組み込まれているため、イーサネットフロー制御は不要です。 さらに、遅いレシーバーが一時停止フレームをストレージに送信し、遅いレシーバーが再開フレームを送信するまでそのポートからのすべてのトラフィックを停止すると、イーサネットフロー制御は実際に他のサーバーでパフォーマンスの問題を引き起こす可能性があります。 NetAppは以前、ESXiホストとNetAppストレージコントローラーで送信するフロー制御セットを推奨していましたが、現在の推奨事項は、ESXi、NetAppストレージ、およびESXiとNetAppストレージに接続されたスイッチポートでフロー制御を無効にすることです。 」
「HP VC FlexFabric」モジュールの構成では、フロー制御はデフォルトでダウンリンク(「自動」値)でのみ有効になっており、アップリンクでは無効になっています。
「オン」-すべてのポートは、フロー制御(オートネグの場合)、またはフロー制御がオン(非オートネグ)のサポートをアドバタイズします。
「OFF」-すべてのポートは、フロー制御のサポートをサポートします(自動ネゲートの場合)、またはフロー制御がオフになります(非自動ネゲート)。
「自動」-すべてのアップリンク/スタッキングリンクは「OFF」のように動作し、すべてのサーバーリンクは「ON」のように動作します。
オフにするコマンド:#set advanced-networking FlowControl = off
このトピックに関する興味深い記事:
Virtual Connect FlexFabricインターコネクトモジュールおよびイーサネットフロー制御
NETAPP対VMWAREフロー制御ディレンマ
VMware ESXiおよびVMware ESXでのフロー制御の構成
スマートリンク
FlexFabric構成のすべてのvNet(イーサネットネットワーク)でスマートリンクモードを有効にする必要があります。 これは、ハイパーバイザーが仮想スイッチのバランスを正しく取るために必要です。
ドキュメントの抜粋:「 HPのバーチャルコネクトは、Smart Linkと呼ばれる機能をサポートしています。SmartLinkが有効なネットワークは、すべてのアップリンクポートがリンクを失った場合、サーバーポートへのリンクを自動的にドロップします。 この機能は、HP GbE2、GbE2c、およびほとんどのProCurveスイッチで使用可能なアップリンク障害検出(UFD)に非常に似ています。 リンク状態追跡と呼ばれる同様の機能がCiscoスイッチで利用できると思います。 」
仮想スイッチ
仮想マシンのトラフィックを管理トラフィック(vMotion、管理、NFS、FT)から分離することをお勧めします。 仮想環境の信頼性を高めるため、管理トラフィックには分散スイッチではなく標準スイッチを使用しましたが、多くの利点があります(LACPサポートなど)。
vSphere vSwitchロードバランシング
このような構成では、仮想スイッチが「発信元仮想ポートIDに基づくルート」の負荷分散モードを使用することをお勧めします。
「ルートに基づくIPハッシュ」モード( NetApp推奨 )は使用できません。これには、802.3adプロトコルを使用してアップリンク(仮想スイッチ)をトランクに結合する必要があり、HP VC FlexFabricはサーバーへのダウンリンクの機会を提供しません。
負荷分散ポリシーの他の設定:
ネットワーク障害検出:リンク状態のみ。
スイッチに通知:はい。
フェールバック:はい。
VMkernelポート
サービス(vMotion、管理、NFS、FT)ごとに、個別のVMkernelポートを作成することをお勧めします。 NFSトラフィック用のVmk(利用可能なサービスは空のまま)は、NFSエクスポートと同じサブネット上に作成する必要があります。 私たちの場合:
VMkernelポート | 利用可能なサービス | ネットワークラベル | VLAN ID | MTU |
vmk0 | vMotion | vMotion | 1 | 9000 |
vmk1 | 運営管理 | 運営管理 | 2 | 9000 |
vmk2 | - | NFS | 3 | 9000 |
vMotion vmkernelアダプターの場合、「フェイルオーバー順序」モードをアクティブ/スタンバイに設定することをお勧めします。
「このシナリオはアクティブ/アクティブ構成に基づいているため、エンクロージャー内のサーバー間のすべてのVMotionトラフィックが同じモジュールに含まれるようにするには、各サーバーでVMotion vSwitchプロパティを編集し、アダプターの1つをスタンバイに移動します。 これにより、すべてのVMotionトラフィックが同じVirtual Connectモジュールで発生するようになります。
NFSの詳細設定
NFSエクスポートを使用するには、一部のパラメーターのデフォルト値を変更することをお勧めします。 [詳細設定]のvSphereホストごとに、次の値を設定します。
NFS.HeartbeatFrequency = 12
NFS.HeartbeatTimeout = 5
NFS.HeartbeatMaxFailures = 10
Net.TcpipHeapSize = 32
Net.TcpipHeapMax = 512
NFS.MaxVolumes = 256
NFS.MaxQueueDepth = 64
推奨事項は、次のドキュメントに記載されています。
ネットワーク接続ストレージでVMware vSphereを実行するためのベストプラクティス
ESXi / ESXホスト上のNFSマウントの最大数を定義するデフォルト値を増やす
その他のニュアンス
- ブレードサーバーのネットワークカードは、Virtual Connectモジュールと互換性がある必要があります。 互換性は、HPのQuickSpecsで確認できます。
- Virtual Connectモジュールのファームウェアを利用可能な最新バージョンに更新することをお勧めしますが、FWブレードサーバーとごみ箱の互換性を確認して、これを非常に慎重に行う必要があります。
- SFPトランシーバーにはVirtual Connectモジュールが付属していないため、事前に物理的な切り替えスキームを計画し、適切なトランシーバーを購入してください。
- Virtual Connectを使用すると、サブネットの帯域幅制限を保証および設定できます(vNet /イーサネットネットワーク/ VLANレベル)。 これは、たとえば、ESXi管理トラフィックを持つVLANを1ギガビットに制限し、NFS VLANを4ギガビットから10ギガビットに保証するために使用する必要があります。
文学
NetApp Clustered Data ONTAP上のVMware vSphere 5
ネットワーク接続ストレージ(NAS)でVMware vSphereを実行するためのベストプラクティス
HP Virtual Connect FlexFabric Cookbook
HP Virtual Connect用FCクックブック
Ciscoネットワーク管理者向けのHP Virtual Connect
HP Virtual Connect Managerのコマンドラインインターフェイス
HPフォーラム「HP BladeSystem Virtual Connect」