IBM / Lenovoサーバ​​ーとウォッチドッグ：エピソードII

6か月以上にわたり、LinuxのIBM / Lenovoサーバ​​ーでのウォッチドッグタイマーの動作に関して、IBMのハードウェアおよびソフトウェアテクニカルサポートとの共同調査に費やしました。 この探偵小説の始まりは、私の記事SLES 12、ウォッチドッグおよびIBM / Lenovoサーバ​​ーで説明されています 。 現在、状況は明確になっているようで、IBM / Lenovo xSeriesハードウェアの幸せな所有者に建設的な提案をすることができます。



そのため、最初に前の記事の簡単な教育プログラムを繰り返します。 サーバーおよび産業プラットフォームの一部として、特別なスキーム-ウォッチドッグがあります。 アクティブになると、プリセット時間（たとえば、1分）のカウントダウンが開始されます。 この時間中に彼に再度連絡しない場合、間隔の終わりにハードウェアのリロードが実行されます。 回すと、間隔が再びカウントされ始めます。 これは、オペレーティングシステムがフリーズした場合、または重要なソフトウェアサービスを提供した場合にコンピューターを自動的に復元するために必要です。 このようなソリューションは、高可用性（HA）クラスターおよび一定のシステム可用性を必要とするその他のアプリケーションでは必須です。 Intelアーキテクチャを搭載したコンピューターでは、システムメーカーに応じていくつかのハードウェアウォッチドッグタイマーインターフェイスが使用されますが、最も一般的なのはIntel TCO（iTCO）です。 Linuxでは、ウォッチドッグドライバーは、/ dev / watchdogデバイスの形式でプログラムインターフェイスを提供するカーネルモジュールとして実装されます。



これで、広く知られているものの説明が完了します。さらなる事実はインターネットにほとんど反映されておらず、機器やソフトウェアのメーカーの技術サポートでもよく知られていません。



現在、Lenovoが製造しているIBMのIntelサーバーを含むIntelチップセットを搭載した機器では、Intel TCOハードウェアレベルとそのサポートLinuxカーネルモジュールiTCO_wdtがウォッチドッグタイマーへのインターフェースを担当していることが一般に受け入れられています。 慎重に検討すると、Intel TCOアーキテクチャ自体にはかなり重大な欠点があることに注意する必要があります。つまり、プロセッサが自分自身を制御することがわかります 。 理論的には、SMMモードで実行されているプログラムが常にそのジョブを実行することを妨げるものは何もありませんが、理論的にはオペレーティングシステムがハングするべきではありませんか？ したがって、プロセッサをプログラムエグゼキューターとして使用し、独自のウォッチドッグタイマーを使用する単一のハードウェア脆弱性ポイントは、信頼性を高めたシステムを構築する場合にはあまり見かけません。



ただし、SLES 12の下でIBMサーバー上でiTCO_wdtドライバーが完全に動作不能であるという事実がない場合、これらの詳細にたどり着くことはおそらくないでしょう。ドライバーはメモリにロードされますが、デバイス/ dev /ウォッチドッグが作成されず、システムログに小さな目立たないメッセージが残ります：「iTCO_wdt：NO_REBOOTフラグをリセットできません。ハードウェア/ BIOSによりデバイスが無効になりました」。



/ SLES 11ではdevice / dev / watchdogが利用可能であったため、最初は、SLES 11と比較してSLES 12での回帰だと思いました。 ただし、IBMおよびSUSEとのコラボレーションにより、すべてがはるかに悪いことが判明しました。 SLES 12とは異なり、SLES 11では、/ dev / watchdogディレクトリ内のエントリがブート時にカーネル自体を作成し、ウォッチドッグドライバがこのエントリにしがみついていることがわかります。 したがって、SLES 11では、iTCOウォッチドッグタイマーはSLES 12と同じように動作しませんが、機能しない/ dev /ウォッチドッグの存在によって動作がマスクされるため、気づくのははるかに困難です。



BIOS、IMM、AMM設定、およびxSeriesに豊富にあるその他のすばらしいトリックを使用した操作がIntel TCOのパフォーマンスに影響を与えないことを追加する必要はないと思います。



幸いなことに、ハードウェアとソフトウェアのIBMテクニカルサポートとの半年以上の積極的な作業の後、IBMは2008年の古代の原稿を見つけることができました。 Intelには、ウォッチドッグタイマーを操作するための別のアーキテクチャであるIPMIウォッチドッグがあり、xSeriesプラットフォームでサポートされています。



IPMI（Intelligent Platform Management Interface）の本質は、iTCOの本質とはまったく異なります。 IPMIアーキテクチャに従って、マザーボード上のどこかに、メインコンピューター機器の操作パラメーターを監視し、その変更に対応できるように設計された、独自のプロセッサー、ソフトウェア、ネットワークインターフェイス、およびその他のガジェットを備えた特別なコントローラー（実際には別のコンピューター）があります与えられた方法で。 IPMI記述の用語では、このコントローラーはBMC（ベースボード管理コントローラー）または単にMCと呼ばれます。 IBM / Lenovoの用語では、その機能を実装するデバイスはIMM（Integrated Management Module）またはIMM2と呼ばれます。 BMCは、前述の原稿に記載されているさまざまなことを実行できますが、今では、その機能の1つがウォッチドッグタイマーであることが不可欠です。 IPMIウォッチドッグタイマーがIntelプロセッサーとは別の正直なデバイスであることは明らかです。Intelプロセッサーは一般に、マザーボード全体が故障するまで独立して動作します。



原稿のウォッチドッグタイマーを使用した作業の説明は、私たちに届いていない特定の命令MIGR-5069505についての著者のコメントのジャンルで行われ、古いソフトウェアバージョンの素材と必ずしも関連しない機能に基づいています。 しかし、議論されていることを理解することは非常に可能です。この秘密の知識の簡単な更新内容を以下に示します。



嬉しい驚きは、IPMIサポートが最新のLinuxディストリビューションに統合されていることです。 このサポート自体はいくつかのコンポーネントで構成されており、そのうち3つが興味を引くでしょう。



まず、ipmi.serviceサービスは、BMCとプログラムを通信する機能を提供します。 SLES 12では、このサービスがインストールされ、自動的に開始されます。 これは次のように確認できます。



systemctl status ipmi



そして、必要に応じて、さらに通常どおり：



systemctl start ipmi

systemctl enable ipmi



第二に、これはipmi watchdogドライバー自体であり、ipmi_watchdogと呼ばれます。 これは自動的にインストールされますが、自動的には起動しません（明らかに、管理者はタイムアウトによるハードウェアの再起動を許可する前にハードウェア設定を確認する必要があると思われます）。 次のコマンドを使用して、このドライバーを手動でダウンロードできます。



modprobe ipmi_watchdog



/etc/modules-load.dディレクトリにipmi_watchdog.confファイルを作成することにより、システム起動時の自動読み込みを有効にできます。このファイルは、「ipmi_watchdog」という1行で構成されます。



echo ipmi_watchdog> /etc/modules-load.d/ipmi_watchdog.conf



第三に、これは自動的にインストールされるipmitoolユーティリティであり、ウォッチドッグタイマーのステータスの確認など、さまざまなBMCコマンドを実行できます。



ipmitool mc watchdog get



システムにBMCがある場合、指定されたコマンドに応答して、次のようなメッセージが表示されます。



ウォッチドッグタイマーの使用：SMS / OS（0x04）

ウォッチドッグタイマー：停止

ウォッチドッグタイマーアクション：アクションなし（0x00）

タイムアウト前の間隔：0秒

タイマー期限切れフラグ：0x00

初期カウントダウン：300秒

現在のカウントダウン：300秒



たとえば、高可用性クラスターが起動された場合、ウォッチドッグタイマーの正しい設定が構成されます（たとえば、システムでは5秒の期間とハードリセットアクションです）。



残念ながら、適切にインストールされたipmiサービスとipmi_watchdogドライバー、および/ dev / watchdogファイルの存在でも、すべてが正常に機能することを保証しません。 問題は何ですか？ SLES 12の一部のバージョンには、プログラムでウォッチドッグタイマーをエミュレートしようとする（絶対に無意味で有害な運動）ソフトドッグドライバーをダウンロードするといううんざりする癖があります。 また、ソフトドッグはipmi_watchdogにアップロードされるため、後者は既に作成された/ dev / watchdogファイルを作成できず、従来は何もせず、控えめにシステムログの腸に何かをつぶやきます。 したがって、最後のタスクは犬を探してコマンドを与えることです



lsmod | グレップ犬



その結果を分析します。 そこにipmi_watchdogが表示され、softdogが表示されない場合、ほとんどすべてが正常に機能しています。 ソフトドッグがある場合は、何らかの方法でシステムからそれを取り除く必要があります。SLES12の一部のバージョンでは、これは完全に些細なことではありません。



IBM / LenovoハードウェアのIPMIウォッチドッグタイマーは、Webインターフェイスまたはasuユーティリティ（asu64）を使用して、IMMモジュールで設定されたOSWatchdogパラメーターの値に関連付けることができると想定しています。 このパラメーターは数分かかるか、オフにすることができます。 2.5分間（最小値）オンにしましたが、これはBMCでプログラムされたウォッチドッグタイマー間隔には影響しません。



だから、要約。 Softdog、Intel TCO、またはIPMIは、IBM / Lenovoプラットフォームでウォッチドッグタイマーを使用する正しい方法のように思えるかもしれませんが、実際には、IPMIのみが機能しています。 IPMIウォッチドッグドライバーはSLESに自動的にインストールされますが、手動の負荷登録が必要です。 ソフトドッグドライバは自動的にインストールされ、ダウンロードを手動で無効にする必要がある場合があります。 Intel TCOドライバーは自動的にインストールおよびロードされますが、このプラットフォームでは完全に動作しないため、何にも影響しません。



この記事が、Linuxの下で高可用性システムを編成する困難なビジネスについてもう少し理解するのに役立つことを願っています。