アナトリー・コスティン。 自動化と人間：夢と現実

自動化についての良い夢：最終的に、機械が機器を制御する困難なタスクの人に取って代わり、義人の仕事から休むことができるとき。 同時に、機械は疲れず、ストレスを受けず、気が散らず、何も忘れないので、迷惑なヒューマンエラーは永久に排除されます。 現在、完全な自動化は近づいているようです。特に、コンピュータのパワーの印象的な増加を背景にしています。 さらに、有望な例があります：自動化のおかげで、エアバスの乗組員の数が3人から2人に減り、コンピューターと2番目のパイロットの交代が近づきました。また、宇宙飛行士はしばしば宇宙船の「乗客」として行動し、自動モード。



悲しいかな、現実には物事はそれほど優雅ではありません。 そして、すべてが逆説的に、悪名高い人間的要因にかかっています。 実際、コンピューターと呼ばれる「ダム」ボックスは、何らかの技術的オブジェクトを制御するだけでなく、最終的に自身の生活と多くの人々の生活を制御するために信頼する必要があります。 そして、それが理解できるという事実は理解できます。そうでなければ、リモートコントロール（およびリモートコントロール自体）にいる人（パイロット、宇宙飛行士、原子力発電所のオペレーター、その他のオペレーター）はもはや必要ありません。 すべての人が、ヘッジを行い、自動化を制御し、何かの場合にそれを自分自身に引き継ぐことができることを願っています。 彼はサッカーのゴールキーパーのようです-最後の準備、最後の希望。 乗組員のいない全自動の旅客機で多くのハンターが飛行する可能性はほとんどありません。

自動化の各技術的改善は、自発的または非自発的に、オペレーターを機器の直接制御の周辺に移動させます。 したがって、別の興味深い状況が発生します。それは自動化によって制御されているようであり、安全に対する責任は依然として人間にあります。 彼は彼がしていないことに対して責任があることが判明しました！ 当然、このような演算子はありません。

実際、パイロットは航空機を直接操縦するよりもオンボードシステムの操作を制御するため、受動的なオブザーバーになります。 自動化では、パイロットが「スキャン」と呼ぶように、常に注意を払う必要があります。 活動の重点は、精神的、または心理学的な観点では認知プロセスにシフトします。 手動のタスクは取り消されますが、制御の複雑さが増すため、自動化は期待どおりにはなりません。 制御ループからの排除感は不確実性と不安または退屈を引き起こす可能性があり、以前のプロのプライドは、オペレーターがスマートオートメーションの背景に対して愚かであると感じるとき、混乱感、劣等感、尊厳の喪失に変わります。

そのような航空機の乗組員の役割はどうなりますか？ 実際、客室内の広告に減らすことができます。 そして、古いパイロットの1人の悲観的な冗談は、「最初のパイロットとガチョウの違いは何ですか？」という質問に答えます。答え：「ガチョウは時々飛ぶ」。

自動制御システムを使用する場合、必然的に問題が発生します。たとえこのシステムがより信頼性が高くユーザーフレンドリーなインターフェースを備えたとしても、オペレーターはアドバイスに従うことをためらわず、重要な独立した考慮事項が生じたときに免責事項につながるでしょうか？ オペレーターは自動化に頼りすぎて、予期しない問題に直面した場合、自動化をオフにして手動制御に切り替えるのではなく、それに気付かないようにします。 一方、人々は、危険な状況や脅迫的な状況を定義する際に間違いを犯し、それを安全な状況と見なすことができます。

航空とは異なる方法で、自動化の進化は宇宙で行われました。 宇宙で働くための人間の能力は知られていないため、最初の有人宇宙船、それぞれボストークとマーキュリーのソビエトとアメリカの両方のプロジェクトは、手動制御よりも自動制御の優先度の概念を定めました。緊急事態。 実際、人は潜在的に信頼できない要素の「ギャグ」または「理解不足」として行動しなければなりませんでした。

米国の宇宙飛行士とは異なり、国内の宇宙飛行士の自動化と宇宙飛行士への不信に対する無条件の姿勢は、その後も維持されています。 その後の飛行の多くは、緊急時にバックアップリンクの機能を実行する乗組員を正確に実装できないことを示しました。 その理由は、地上訓練の欠点ではなく、自動モードでの制御プロセスからの宇宙飛行士の排除でした。

多くの専門家、工学心理学者、宇宙飛行士が、完全自動化への要望に積極的に反対していることに注意すべきです。 彼の死の少し前に、S.P。コロレフ自身が、選ばれたコースの誤りを認めました：「我々は自動化した...」

80年代、国内の宇宙飛行士は実際には型にはまらない自動化の失敗に直面し、信頼性の問題を解決するための基本原則の見直しを余儀なくされました。 主なものは、故障した機器をバックアップするための基本的な冗長性です。 新しいタイプの障害は、機器の故障ではなく、搭載システムの診断における自動化の不適切な操作に関連していました。

そのため、1982年のソユーズT-6宇宙船での最初のソビエト-フランス宇宙飛行中、Salyut-7軌道ステーションとの和解モードで、自動化は誤って角速度センサーのメインブロックとバックアップブロックの故障を診断し、緊急中断に至りましたモード。 更なる和解は、手動モードで乗組員によって成功裏に実行されました。 判明したように、自動化の不適切な操作の理由は、実際の船の慣性モーメントの開発者によって設定された計算値のわずかな違いであることが判明しました。 以前は、この違いは制御に影響を与えず、この飛行でのみ最初に発生した急速で複雑なUターンの状況で現れました。

慣性モーメントの計算値は、これらのセンサーブロックの機能を自動的に制御するために、オンボードコンピューターの複雑なプログラムで使用されました。 そして、旋回中に角速度の計算値と測定値の間に不一致が発生した場合、自動制御プログラムは、信頼性を評価するための定量的基準に基づいて、この状況をセンサー自体、最初はメインユニット、次にバックアップの障害として特定しました。 実際、誤診断は、船舶の設計機能とモーションコントロールシステムの複雑なシステム間相互作用の結果であり、開発者はまだ考慮していませんでした。 したがって、不一致の原因がセンサーの故障ではなく、不正確、自動化プログラムの定量的基準の不備にあることを事前に予測することは基本的に不可能でした。



与えられた例は、自動制御プログラムにおける定量的基準の可能性のある不十分さの発現の一般的な論理を明らかに明らかにします：システムの機能の測定されたパラメータと計算されたパラメータとの間の不一致は、正常に機能しているが、自動化によっていくつかのユニットの障害として解釈され、不一致の理由は、制御モデルにおけるシステム間相互作用の形式化の曖昧さです開発者が使用します。

科学モジュール「Quant-1」、「Quant-2」、および「Crystal」と軌道ステーション「Mir」の収束中に、本質的に同様の状況が発生しました。 3つのフライトすべてで、近接制御システムのさまざまなブロックの障害の誤った診断により、自動ランデブーが異常停止しました。 地上で実行された対応する制御プログラムの定量的基準を変更またはキャンセルすることにより、2回目の試行で、各モジュールとステーションとの良好な和解とドッキングが実行されました。 昨年11月末に最初のProgress M1-4貨物船と国際宇宙ステーションとの自動ドッキングが失敗した理由は、近くのセクションでの大きなロールのために終了しましたが、ソフトウェアの欠陥であることが判明しました。

さまざまなシステム間の接続の多分散性と調停および相互の影響のために、1つまたは別の機器の動作の信頼性に関する定量的基準を使用することの制限された妥当性とあいまいさが 、開発者によって提供されていない状況につながる可能性があることが判明しています。 彼らのパラドックスは、自動化の緊急診断にもかかわらず、技術システム自体が正常に機能するということです！ ただし、障害が発生したシステムブロックのバックアップにある信頼性を確保するという基本原則は適用されなくなります。これは、自動化により、稼働中のバックアップ装置がいくらでも停止するためです。 この場合、 信頼性を評価するための定量的ではなく定性的な基準を使用して、オペレータによる自動化をバックアップするだけで制御の実装が可能になり、新たな状況の全体的な分析が可能になります。





天文学から注意をそらすと、定性的基準と定量的基準の違いは、1997年のGarry KasparovとDeep Blueコンピューターのセンセーショナルなチェスマッチによって示されます。 ちなみに、「物質」（ 量 ）と「品質」の概念が存在するのはチェスです。 カスパロフ自身は、 柔軟性の欠如がコンピューターの最大の問題であると考えています。 これは、特定の位置の特性に応じてバッチ中に変更できない優先順位 （つまり、基準）の明確なスケールが各マシンに存在することとして理解されます。 さらに、機械は常に品質と時間の要素を数値に変換しようとします 。これは、材料の数学的な同等物です。

ご存知のように、世界チャンピオンは試合に負けました。多くの人にとって、このイベントは人間とコンピューターの将来の関係に影響を与えるようです。 カスパロフによると、彼のストレスと不安感につながった主な理由は、いくつかの重要だが組織的な問題に加えて、第2回の記事への彼の損失でした。

危機的な状況で、グランドマスターは3つのポーンを犠牲にしました。これは、マシンの計算によると、+ 300（各ポーン+100）のアドバンテージに相当します。 犠牲者の結果として、彼は良い戦術的チャンスを得たが、明らかな利益はまだなかった。 しかし、マシンはポーンを取得しませんでしたが、+ 49の利点を持つオプションを選択しました。つまり、位置損失は-251になりました。 Kasparov氏はさらに次のように述べています。「これは、本当の場合、コンピューター技術の開発における重要な瞬間です。 しかし、これは本当ですか？印刷の助けを借りて、非常に簡単に証明できます。 マシンの考え方がどのように変わったかを見せてください。 私は、彼ら（プログラマー-AK ）が、さまざまな位置的結果、位置的欠陥の価値が-251であることをマシンに説明する方法を知りたいです。 私の意見では、これは不可能です。 コンピュータは、材料と品質を比較する方法をまだ知りません 。」

試合後、生じた位置はさまざまなチェスプログラムを使用して繰り返し分析され、常にポーンの犠牲者が受け入れられました。 この事実とコンピューター開発者がパーティーの印刷物を提供することを拒否したことにより、Kasparovは重要な動きは機械ではなく人によって行われたと結論付けることができました。 彼は次のように強調しています。「マシンのゲームに干渉する可能性が1つあるだけで、メインバージョンを言葉で中断する」停止。 そこに行かない場合は、このオプションを放棄してください。「コンピューターのゲームを信じられないほど改善したでしょう。 結局のところ、私の戦略は、マシンが位置エラーを起こすという主張に基づいています。 これに基づいて、戦略を構築しました。 私は慣れ親しんだチェスではなく、奇妙なチェスをプレイしました 。 しかし、もし私が切り札を奪われたら-私は運命にある。」 実際、私たちは、量的ではなく定性的な形式的な思考の可能性における、機械に対する人間の利点について話している。

再び天文学に戻ると、一見、完全に制御を形式化することは不可能であるという論文は、1988年11月15日にスペースシャトルブランの全自動モードで最初のテスト飛行を作成し、成功裏に実施した経験によって反canされる可能性があると主張しています。 ただし、このフライトの機能でさえ、ある程度の仮定を確認しています。

ご存知のように、ブランの降下と着陸中に、試験宇宙飛行士のマホメットトルボエフが操縦したMiG-25戦闘機が同伴しました。 最終段階では、予期せぬ事態が発生しました。滑走路に行くと、「ブラン」は右の着陸ターンに入らず、滑走路を横切りました （左の図を参照）。 パイロットと地上管制官の両方がしばらく迷っていました。

判明したように、奇妙な機動の原因は強い横風でした。 ここで、男性が護衛飛行機を操縦したのではなく、ブラン自体を操縦したと想像してみましょう。 次に、説明された状況では、彼は2つのオプションしか持っていません。自分のコントロールを取り、手動で車を着陸させるか、自動化の操作を妨げません。 最初のオプションでは、パイロットが通常動作する自動化をオフにしたことが判明し、これは着陸が成功した場合でも完全に正しい解決策とは見なされず、好ましくない結果が生じた場合の重大な誤りと見なされます。 ちなみに、パイロットの観点から心理的に不可能な2番目のオプションでは、彼は単に自動化の人質になります。 しかし、自動化が正常に機能し、軌道面がステップのどこかに飛んでクラッシュしないことをパイロットに保証するのは誰ですか？ 結局のところ、実験用航空機とブラン類似機で何十回も飛行した経験豊富なテストパイロットだけでなく、地上管制サービスも自動化によって実行される操縦の意味をすぐに理解できませんでした。 行き詰まりがあります。パイロットが何をしても、彼はまだ「責任がある」のです。 したがって、自動化の通常の操作でさえ、人が機器の制御に問題がないことを保証しません。



自動化はますます車両に浸透しています。 現代の車のモデルの多くには、衛星ナビゲーションシステム、技術的な診断機能、さらには直接制御の機能を実行するコンピューターが搭載されています。 ドライバーサポートシステムはますますアクティブになり、困難な都市条件で車を運転するための自動操縦の試用版が既に作成されています。 それらの実装に対する主な障害が技術的な困難ではなく、コンピューターを犯罪とする法律の欠如と考えられることは特徴的です（ところで、これは再び責任問題です）。

なに？ 一方では、予期しない状況が発生する可能性があるため、自動化に完全に依存することはできません。 一方、困難で非標準的な状況でより適切に誘導された人は、突然出くわす可能性があります。 オペレーターによる状況の定性的で意味のある分析の可能性は、彼の専門的な経験、知識とスキル、創造的思考能力、極端な状況で責任ある決定を下すための心理的準備によって決まります。 しかし、一流の専門家でさえ失敗することがあります。 人は、最初は未知で不確実な状況、システム間相互作用の非線形で不安定なプロセスで、自動化を常に置き換えることができない。 これらの条件下では、誤った、不正な行動、専門家の基準への違反、さらには活動の拒否さえも可能です。

チェルノブイリ原子力発電所の第4ユニットでの事故により、予期しないシステム間相互作用の状況におけるオペレーターの能力の限界も明らかになりました。 ちなみに、技術的な失敗はなく、人的ミスに加えて事故の主な原因の1つは、電気および核プロセスの独立性に関する計画された実験の開発者の仮定であったことを思い出してください。

したがって、自動化の主な問題はコンピューターとソフトウェアでさえありません。 この問題は、本質的に心理的なものです。これは、2つの専門家グループ（一般に、機器および自動化機器の開発者と、オペレーター）の一般的に相容れない立場が衝突するためです。 最初の質問（信頼性の最大化を期待して）は、自動化できるもの、すべての機能をコンピューターに移すことを妨げるもの、そしてそのときだけ、人に任せることができるものを尋ねます。 2番目のもの（仕事に対する最大限の満足を達成することを望んでいる）は、自分自身に質問をします。人が実行できるタスクと、コンピュータの助けなしではできないタスクです。

技術管理の自動化の問題は明らかに心理的な側面を持っているという事実のため、心理学の分野の一つとして工学心理学の関心の輪に分類されます。その解決策は、主に人間と自動化の間の機能の分配の問題の枠組みで求められています。これを解決するための原則は、サイバネティックスN.ウィーナーの父によると、大きな問題の1つは大きな進化を遂げています。それらのいくつかを簡単に考えてみましょう。

最初の1つは利点の原則でした。 , . (PM Fitts). , , . . , , , , ; , , , , . .

, : , , . , . , , , .



. (N. Jordan) . , , . , , .

, . , , (), , . : ? — .

次のステップは、人間とFittsリストに基づく自動化との間の機能の分離が静的であることを理解することでした。設計の観点から見ると、機能の分布の問題は非定常です。たとえば、自動化が失敗し、人がストレスにさらされる場合があります。したがって、機能を動的または適応的に分散させる必要があります。

, (workload) . , — .

. , , .

, . , , . , , .

, , , , . . , . . . . . , , , , .

, , , . .

- , . , , - , -, , -, -, .

, , , ? , , , . , , , — . , .

(, , - , - ) , . . , , , . , .

, , . , , — .

, , , — . .

, ? , — . , . , , ! , — , .

, . . , , , , . « », , , , , ( , , !). , , !

, . , , (), , — . ( ) . , , .

相互予約により、危機的な状況にある人の特異な形態の積極的な支援や保険の実現が可能になり、自動化開発者はオペレーターのエラーからある程度保証されます。したがって、オペレータと機器の両方の相互保護が実際に実現されます。さらに、オペレーターは、この手法の多様な複雑さに直面しても一人でいると感じず、開発者は制御プロセスから排除されます。

. . , . , , , , , , , , . , , .



«» №12 26 2001