オラクル、車の神、二次エラーを作成するための簡単なガイド

おそらく、このテキストでは多くの人にとって目新しいものはないでしょう。 おそらく他の人は、これは実生活では起こらないと言うでしょう。 しかし、4月1日ではなく、ここに書かれたすべてが、私や周りの人々に起こった純粋な真実です。 おそらく上記のいくつかは、あなたを取り巻く現象を再考させるでしょう。



これらのストーリーに正式にアプローチすると、人々は第2種のエラーを考慮に入れていないという事実によって、すべてのストーリーが生成されていると言えます。 Habrの4分の1に馴染みのあるYudkovskyでは、このエラーは通常「 Confirming distortion 」と呼ばれています。







これは何ですか 一言で言えば-「人はその反論ではなく、自分のモデルの確認を求めています。」 より良い説明をする唯一の機会は、例、例、例、経験です。 これは、「ここで何かが間違っている」という感覚を醸成する唯一の方法です。



この短編小説によって、第2種のエラーをまったく別の視点から見ることができるように思えます。 彼らがすでに私たちの生活に入っている方法の側面から、彼らはほとんどすべての決定に影響を与えます。 そして、それらは私たちが周囲の技術から神を作るのを助けます。 機械学習では、これに毎日出くわします。

はじめに

私は理科の先生の話から始めます。



かつて連合の時代に、いくつかの設計局の評議会の会議が開催されました。 科学博士の1人、設計局の1つの大規模部門の長は、レーダーで飛行物体を見つける新しい方法を提示しました。 同時に、発見の精度はほぼ完璧で、既存のアルゴリズムを桁違いに上回っていました。



それはいくつかのトリッキーなフラクタル数学に基づいていました。 委員会の誰も、報告書/添付書類から彼女を理解できませんでした。 そして、アルゴリズムを提示した人は、すべてのレーダーをこのアルゴリズムに変換する必要があるという議論をますます増やしました。 そして、彼の評判は定評がありました。 誰もがキャッチを感じました。 しかし、数学のどこに間違いがあるのか​​、誰も理解できませんでした。

そして、審議会の1人の大学院生だけが、たまたまそこに来て上司を交代し、1時間の議論の後、「物体がなければ誤検出の可能性はどれくらいですか？」 彼は数学を理解していませんでしたが、桁違いの精度を飛ばすことはできないとはっきりと感じていました。



誰もが黙っていた。 誰もがそのような些細なことは明らかに検証されたことを確信していた。 しかし、数学を擁護していた医者は顔色が悪くなり、やつれたように見え、「見忘れていた...」と自分自身を絞ることしかできませんでした。



頭のいい人やタイトルのある人でさえ、まず第一に彼らの理論の確認を求めます。 そして、彼らがそれに自信を持っているほど、ジョークは彼らと遊ぶことができます。

自分を感じて

記事がさらに続く場合、写真はありません！ しかし、Habréの記事は最高の写真のためだけに開かれていることを知っています！



そして、このトピックにはそれらの多くがあります。 彼らは、最も単純なソリューションを信頼するという特徴は、自然のレベルで私たちに固有であることを確認しています。 みなさんは何度も見ています。 そして、おそらく、説明する必要はありません：







クラシックイエロー （ブルー？）ドレス。







ネッカーキューブ





左/右回転



これらの幻想の特徴は、二重の解釈があるということです。 脳は、問題を解決する1つの観点でのみ循環します。 そして、他の視点を見渡します。 そして、2つのビューを同時に念頭に置いておくことができることを教えてください!!!



現象の性質を説明できる宗教のようなものです。 星占いのようなものは何もありませんが、人は確認を求めています。 多くの場合、スマートシステムがあなたのために数えたものと、それを現実と比較する方法を決定することはできません。 信じられない？

例2、詐欺師について

さて、このプロジェクトはどうですか？ Neuroskyを使用して子供の才能を評価しますか？ 多かれ少なかれ技術に精通している人なら誰でも、これが配線であることを理解しています。 Neuroskyの騒々しい証言は、ギターを演奏することと本を読むことをほとんど区別できません。







そして、これは子供にとってすべてが100倍複雑であることは言うまでもありません。 子どもたちは悩み、高レベルの騒音を発生させます。 そして、もちろん、開発者はアルゴリズムと統計的有意性の証拠を提供しません。 それはうまくいくでしょう-それは突破口になるでしょう。 しかし、これは単なる配線方法です。



NeuroSkyに関する私の記事の後、5人の人々がメール/ PMで同様のアイデアを書いてくれました。 誰かが夢中になり、誰かが非常に冷笑的に「まあ、あなたはシステムをやる、それはとにかく何かを見せてくれるので、トレーニング後に完全なナンセンスを与えることはできない」とほのめかした。 そして、私が少し上に引用したサイトは、例として引用されました。



そして、なぜあなたは星占いではないのですか？



なぜここにあるのですか？ さて、配線を扱うオフィスが1つあります。 さて、サイエントロジストがいます。 結局のところ、これは大規模ではありません！



しかし、私にはカップルではないようです。 そのようなことは日常生活を満たします。 そして、テクノロジーがそれらを毎日生み出しています。 以下のテキストには、皆さんが非常によく知っているいくつかのより具体的な例があります（ 読む前に覚えておく時間はありますか？ ）。 そして、コメントであなた自身をもたらすことができます。



この場合の鍵は、多くの人々がテクノロジー/方法論を信じたいということを示していることです。 そして、それを理解していない人々が信じるとき、それは一つのことです。 そして2番目のことは、クリエイターの自己欺ceptionです。 残念ながら、2番目は進行中です。

例3、毎日

物語は繰り返されるべきではなく、それぞれが他の側面から人間性を示すべきであるように思えます。 それでは、反対側に進みます。

車の番号！



なに？ 第二種の間違いは何ですか！？ どんな魔法？



そして、彼らはここに非常にクールに表示されます。 あなたが言うこと、車の番号は次のとおりです：











「M」ですか「H」ですか？ 地域は「71」ですか「21」ですか？



それにもかかわらず、そのような計画の単一の画像に基づいて、人々はシステムの品質を評価し始めます。 どうしてそう思いますか？ 通常、人はそのような車の数を見たからです。 そして、そのような写真の中で彼が異なる解釈を持っているかもしれないことを認めることは難しい。



知られている最も近い決定を支持する意識の崩壊があります。 最もわかりやすい例を挙げましたが、突然興味がある場合は、 ここでさらにいくつかの手順を実行します。



そして、数が異なる可能性があることを彼に納得させることは、ほとんど不可能です。 「これはアルゴリズムエラーの割合に含まれます」と言う方が簡単です。



これは、画像や認識システムを操作する際の非常に一般的な意識のtrapです。 男は既成のソリューションを待っています。 そして、別の決定に至ったことはすべて間違っています。 パスは興味深いものではありません。 結果だけが面白いです。 月に数回、私は訓練されたアルゴリズムがノイズのあるフレームで動作する必要がないことを説明しなければなりません。



一部の企業がそのような計画をどのように提供しているかを考えるのは怖いです。 非常に良いショットでも、メガネ/手袋を見つけて所有者を追跡することは困難です。 あなたがアルゴリズムではなく、生きている人であっても。







同時に、技術企業のエンジニアは、「このビデオから安全眼鏡を持っているかどうかを理解することは可能ですか」という哲学的なタスクを求められる人々ではありません。



しかし、多くの人々は、判読不能な数字もよく認識されていると信じています。 そして、解像度は何百回も向上させることができます。 ハブでこのテーマに関する素晴らしい記事がありました。 そして、時にはそうではないことに非常に腹を立てます。 車からの魔法は機能しません;）

例4、または震源地にいる方法

3つの異なるオプションを指定しました。 そして、すべてで標準で答えることができます：「まあ、それはただ無能な人々です。」 または：「人々は、それが起こらない人と間違えられます。」



しかし、そのようなエラーはあなたが考えるよりもはるかに一般的です。 あいまいな決定に対処し、3〜4件の結果が得られる状況では、すぐに能力のレベルを評価することはできません。 あなたが非常にクールなエンジニアであっても。



専門家が車から神を見つけたとき、どのようにミスを犯すことができるか（ミスを犯さないか）についての壮大な物語をお話しします。



一度、彼らはいくつかの医学的検査の承認に関する相談を手配するようにと私に書いた。 電話で、何が認識される必要があるかについてのマネージャーの説明を本当に理解していませんでした。 さらに、彼によると、この事件は「完全に新しい」方法論に関するものでした。 そのため、私たちはそれを開発した医師と会うことに同意しました（医師にとってのSkypeは複雑すぎます）。



翌日、2時間の会議の後、私の脳は沸騰し始めました。 2時間、誰と話しているのか理解できませんでした。 絶対的な詐欺師、将来のノーベル賞受賞者、または夢中になった人々と。



数人の医師のグループが、数百ではないにしても数十の病気を明らかにする普遍的なテストを発明しました。 尿、血、涙、唾液によって。



方法は同じでした：「液体と試薬（1つと同じ）を混合し、どのように乾燥して割れるかを確認します」。 診断は、亀裂がどのように見えるか、この全体が何色になるか、結晶が乾燥した液滴上で成長するか、すべてが偏光でどのように見えるかによって行われました。







そして、尿に含まれていた最初の部分は、合理的に十分に確立されていたと言わなければなりません。



翌日、私はそのトピックに関する情報を掘り下げ、医師にインタビューを試みました。彼らは、これらの多くが実際に行われている非常に歪んだ標準テストであることを確認しました。 本の約3分の1は疑いなく首を横に振ったが。



しかし、血による第二の部分は狂気の産物でした。 何テラノスがあります！ ちょうど45億をアメリカ人に割り当てるのではなく、これらの同志たちに割り当てる必要があるというだけでした。



研究者たちは、一滴の血によって、非常に早い段階でどのように癌を届けることができるかを教えてくれました。 顕微鏡を使用して、任意の実験室から数滴の試薬を使用します（記憶があれば、それはアルブミンでした）。 そして彼らは、医療センターの患者を治療するために、これらの方法論を臨床診療にどのようにうまく適用したかを語った（原文のまま！）。 以下は、彼らが検出したものの短いリストです。







（クリック可能）



私のエビデンスベースに関するいくぶん素晴らしい外観と質問で、彼らは私に文学の何百もの記事について、ロシアでこの技術に取り組んで開発している2つの部門について話した。 トピックで自分自身を擁護した約12人の候補者と理学博士。 そして、別れとして、彼らは学者によって序文が書かれたトピックに関する2つの本を提示しました：







これはすべて本当ですか？ 知りません 私は、化学と生物学がどのように機能するのか理解していないことに気付きました。 この情報を見つける方法がわかりません。 そして正式な理由で。 ええ、はい。 たくさんの医者と関連記事があります。 それらのいずれも、高レベルの引用を伴う査読付き国際ジャーナルに掲載されていません。 方法論の成功について話す学者がいます。 しかし、すみません、彼らはRAMSの学者です。 批判的な記事は1つではなく、成功を報告する記事のみです（Googleは2016年に1年、その後何か新しいことが発表される可能性があります）。



いいえ、まあ、もちろん、私は擬似科学委員会の議長の電子メールと彼の代議員の何人かを見つけました。 そして彼はそれについてのすべてについて書いた...私は答えを受け取らなかった:)



そして、直接。 私はこれらの人々がそれを信じていることを理解しています。 くそー、ロシア医学はこのレベルのデマで何かをすることができる場所ではありません。 あなたは本当にあなたのビジネスを信じる必要があります。

しかし、私は彼らが測定する基礎とそこにあるパラメータで-言われたことの少なくとも半分が疑わしいことを理解しています。 しかし、何かが本当に機能します。



その仕事、私は行かなかった神に感謝します。 おそらく、何かを自動的に認識するためには、最初に大きなベースを収集し、それが存在することを独立したマークアップで確認する必要があると言ったからでしょう。 または、おそらく真実は官僚的な手続きによるものです。



誰がここにいますか？ 理論を思いついてそれを信じる医師は？ それとも私は彼女が狂気のように見える側の人ですか？ 知りません 医師が間違っている場合、これは古典的な間違い「反論の検証の欠如」です。 または多分私。 そして、それはほとんど同じです:)



しかし、それ以来、私は2つの叙事詩の本と幻想的な物語を持っています。

そして、医師についてのさらにいくつかの例...

知ってるよ。 医師は一般的に肥沃な話題です。 ニューラルネットワークで何かを認識しようとすると、常にこれに遭遇します。 私は、X線検査、蛍光写真、マンモグラム、CTでの会話と視線、さまざまな歯の検査を行いました。

そして、ほぼすべての場所（さまざまな程度）に、1つの同じ問題があります。異なる医師が異なる方法で写真を読みます。 あなたは2人の医師に写真の病理に注意するように頼みます-そして彼らは20-30パーセントの交差領域を持っています。 そして、彼らのそれぞれは彼らの決定に自信があり、明確な境界を示しています。



彼は答えを実証します。 繰り返しますが、問題は、人が頭の中に良いモデルを構築し、それを画像に投影し、確認を検索することです。 しかし、非常に頻繁に-これは間違った答えです。 または信頼できない。



残念ながら、過去数世紀、医学は「統計による各段階の証明」ではなく、「各段階の論理的説明」に基づいていました。 それは心理学の非常に深いところにあります。 ホメオパシーの医者と貧しいセラピストが同じ原理で働いているように思えます。 基本的な態度とそれに対する信仰があります。 分析なしで、それはどこから来たのですか？ 信頼できるものを意識せずに。 おそらく、セラピストの一連の態度は現実に近いものです。 しかし、世界的には、どちらも使用するスキームを証明できません。 たぶん、両方ともバリドールを任命するか、マザーワートを飲むために送るでしょう。



私は外科医に相談するように頼まれた…部門の長、30年の練習の顕著な専門家。 おじさんは、30の質問のうち、「生年月日、最初の月の日、子供の数、...」というアンケートレベルに従って100％の正確さで、乳がんになる時期を予測できることを教えてくれました。 もちろん、それはばかげています。 しかし、彼はすべての患者にこのアンケートに記入し、それに基づいて結論を出すことを提案しています。

毎日だまされている例

もっと知りたいですか？..誰もが知っているものが欲しいですか？ さて、誰もが恐れている素晴らしいと恐ろしい車を取ります。 ポリグラフ 。 なに、まだ機能すると信じていますか？ リンクはウィキペディアにつながります。 批評を見てください。 なぜ機能しないのか、どのような確実性があるのか​​。 それでも、多くはそれらを使用しています。 なぜあなたは車の神ではないのですか？



さまざまな企業が定期的に私に書いて、顔認識を提供しています。 私は彼らが彼らのベースが何であるか言うように彼らに頼むとき、彼らは非常に腹を立てます。 彼らは最高の生理学者によって開発されたクールなモデルを持っていると言います。



モスクワの中心にシックなオフィスを持つある会社は特に記憶に残っています。 絶対に不十分なNDAと彼らの技術の優位性に関する非常識な哀れみ...それ以来、ほぼ5年が経過しました。 同社はそれ以来、Habréに独自のブログさえ持っていました。 ここでのみ、製品は嘘の認識とは関係がなく、はるかにありふれたタスクを解決します（私が理解するように、彼らは同じ開発を使用しました、それは良いことです）。

後で私が送っただけでなく、マシンビジョンの開発に関係する他の会社も送ったことが判明したのは面白いです。 おそらくこれにより、彼らは自分たちがやっていることを再考することができた-そしてビジネスを始める^ _ ^



最後に、数日前のポータルSuperjobの発表へのリンクを提供せざるを得ません。 候補者についてさらに学ぶために、100％実証済みの別の方法を提供したいと思います。



おそらくいくつかの結論に達する時が来たのでしょうか？ 入力データと方法論を完全に検証した後にのみ作業を開始および実行するという、私自身の結論。



彼がアルゴリズムへのオープンな統計調査/アクセスによって彼の方法の検証を示すまで、誰も信用しないでください。



これらの結論は理想的ではないと確信しています。 彼らは薬には適していません。 ほとんどの場合、アスピリンの検証された研究はありません。 何千年もの間、人々はヤナギの樹皮抽出物が温度を下げるのに役立つことを知っていました。 なぜこれを調査するのですか？



そして、調査結果を要約し、信頼対普遍的な戦略を理解します。 チェック-できません。



しかし、おそらく「これまたはその方法を信頼することは可能か」と疑問に思われるなら、この記事はすでにその目的を果たしているでしょう。



PS 免責事項



私は、人々が正直に誤解される可能性が少なくともある場合、人々/会社名を言及しないように意図的に試みました。 またはどこで間違えられますか。 おそらく、本文の内容に応じて、多くを計算またはグーグルで検索できます。 コメントに投稿しないようお願いします。 それを必要とするすべて-自分でそれを行う/午後に尋ねることができます。



多くの場合、ソリューションの詳細がわからない可能性があるため、一部の人々にブランドを付ける必要があるとは考えていません。 しかし、これらの例で、現代世界との相互作用が人々の意識のエラーの束を生成することを示すことは重要だと思われます。