指名手配された市民の顔の自動認識による「デジタルキーキーリング」の倫理的および技術的問題

残念ながら、ブロガー@ stalker2011xによるブログ記事「 Google Glassに期待するもの 」はドラフト投稿であることが判明しました。 ただし、その反論が消えないように、その断片の1つが十分に重要であると考えています。したがって、Habrahabrで別のブログエントリをそれに捧げることができます。



これは、@ stalker2011xの文章が概説したものです:



自動顔認識機能(および犯罪者/指名手配者のデータベースでの自動検索)



顔認識は自動的に行われるため、まったく何もせずに犯罪者の検索を支援できると想像してください。 そして、指名手配者は何よりも恐れる必要があります。なぜなら、Google Glassを持っている普通の人でもそれを検出できるからです。 このように見えます-指名手配者とすべてを検索するためのアプリケーションを公式にダウンロードし、眼鏡が「顔」を見つけると写真が撮られ、現在の指名手配者のデータベースで一致が見つかった場合、眼鏡はあなたが必要な場所の座標を含む写真を自動的に送信します:)それはプライバシーに対する干渉のように見えるかもしれませんが、一方で、あなたがそれについて考えるなら、そのような「有用な機能」は、私たちの明示的な同意がなくても、特別なサービスによって(そしてそれだけでなく)非常に要求されるでしょう...


このテクノロジー(その外観は非常に可能性が高い)には、倫理的および技術的な2つの問題があります。 それらについて議論しましょう。






倫理的な問題は、自動的に必要な人のリストを埋めるために特別なサービスを信頼することはあまり便利ではないということです。 特にロシアの特別なサービスに関しては。 サイトの「ブラックリスト」の例では、常識が意図せずに上昇する(または少なくとも驚きで眉を上げる)サイトが補充されることがあります。 それは人々の「ブラックリスト」と一緒になるつもりはないのですか? それは「警察が彼らを探している」という立場の類似物であり続けるのにどのくらいかかりますか?



特に、最初に人々の「ブラックリスト」だけが本当の指名手配犯罪者で補充されると疑うことができます:野党の一部の政治活動家はすぐに来るでしょう(もし彼らのそれぞれにいくつかの刑事事件が調合されることができるなら)その後、リストはくしゃみごとに文字通り補充され始めます。 たとえば、サイトの「ブラックリスト」については、3月に 、ユーモリストのカガノフの比較的無害なテキストがこの「ブラックリスト」に追加されただけでなく、自殺の動機を見つけることができることに気づくことができました。カガノフは彼に課せられたブロッキングについて議論しました(そして、このブログ投稿でさえ、すべての願望で、自殺のみのエピグラフ、明らかに非常に皮肉なものを認識することができます)。



また、サイトの「ブラックリスト」の例では、十分に大きなサイズのサイトのエントリを見ることができます。たとえば、 LiveInternetWikipediaWordPressEVE OnlineYouTubeをもたらしました 。 それぞれに多くの参加者、多くの訪問者がいます。 同様に、人々の「ブラックリスト」に関連して議論することができます(そして絶対に必要です!)市民のカテゴリー-例えば、いくつかの独立した労働組合、青少年および野党グループの完全な監視の理論的可能性を疑います。 また、いくつかの宗教グループ(悪魔崇拝者、悪魔主義者、アナスタシア人、犠牲食を食べる人、セタリア人など)、いくつかの民族および人種グループ(たとえば、アジア人、ユダヤ人、黒人など)を追跡することもできます。プログラムは黒ではないだけを追跡するだけでなく、可能性を言及しないように、「コブラ」、いわゆることができるように黒とソフトウェアは簡単に白と区別し、いくつかのテーラー後のキャリブレーションすることができますように 、誰かが自信を持って独立した民族を区別 ラップそれら) -あるいは、chauvinists、人種差別主義者のはい(抗セムを想定した-それはことをリコールするのは簡単であるフランスは、個人データを明らかにすることを求められ、そのため、簡単に)興味や場所になることができます。 実際、彼らは先入観なく(つまり、これらとこれらの両方)フォローアップすると思います 。 しかし、それは非常に面白い結果になります(私は確かに心から笑います!)「トップ」にいる誰かが、FacebookとTwitterが「アラブの春」のきっかけになった物語をようやく思い出したとき、自発的な監視」は、お互いの動きや自分自身の動きについて愚かなサービスに秘密の情報を提供します。 Google Glassを頭に置いている市民をプログラムで群衆から隔離することはそれほど難しくありません。






技術的な問題ははるかに深刻であり、エネルギーと情報のコストだけでは発生しません(ただし、それらは巨大になると予想されます)。 誤検知の問題は、これらのコストよりもはるかに複雑です。



偽陽性(市民の顔と検索システムで知られている人物の1人との誤った比較)の確率は、 わずか 1000分の 1(信じられないほど低い数字であり、Google Glassの最新のファジーカメラや、携帯電話では、移動中に作業することに加えて、都市部の人からかなり離れた場所で作業します)。



また上記の倫理的問題はすべて完全に克服され、客観的に追跡する価値があり、即座に拘留される個人(たとえば、一部のテロリスト、武装した大量殺人者など)のみがデータベースに入力されると想定しています検出後、それらのそれぞれに対して、キャプチャグループがすぐに機能します。 そして、 本当にそのような人ほとんどいませ 。 (たとえば、1ダースまたは6ダースです。)



それで何? これらの仮定でも、不快な状況に陥ります。データベースにリストされているすべての人は、誤検知により、10万人ごとに1つの余分な「疑わしいテロリスト」を作成します。 それはどういう意味ですか? おそらく、100万人以上の人口を抱えるすべての都市には十分なハイテク人口があります(ロシアでは、両方の首都だけでなく、ヴォロネジ、ペルミ、クラスノヤルスク、ヴォルゴグラード、ウファ、チェリャビンスク、オムスク、ノボシビルスクなどの都市でもあります、エカテリンブルク、カザン...)本当の指名手配者ごとに、少なくとも十数人の罪のない市民が現れます。彼らは銃口で泥の中に顔を戻さずに路上に出ることさえできません。 そして、これはもちろん、最低限のものです。 最初の週(最初の日でさえない)の熱心な捕獲グループは、手足の骨折、内臓の損傷などを手配することができます。



したがって、州レベルで大規模な監視システムを実装している人はほとんどいません(企業の顔認識プログラムに意識的かつ積極的に干渉することもあります-Facebookの例でこれを見ました )。犯罪を防止するための潜在的な犯罪者の拘留:特に、CIAテクノロジーディレクターは、これらの作業のすべての期間、ロンドン(地球上で警察カメラの数が最も多い都市と見なされている)で、 彼らのおかげでx台のカメラは1つの犯罪のみを防ぐことができました。



結論を下してください。これらの写真カメラとビデオカメラは、まったく異なる何かのためにそこにぶら下がっています。 たとえば、公民権を再び侵害し、当局からの別の涙のような歓喜の衝動を受け取るために。



別のより暗い結論を下すことができます。 あなたが素晴らしい数学者でプログラマーであり、新しい前例のないアルゴリズムを作成し、パターン認識の分野でそのような革新的なブレークスルーを行い、誤検知の数を2桁減らす準備ができているとします。 そして、もちろん、上記の罪のない市民は、各都市や指名手配者ごとに1ダースではなく、全国およびシステムの存続期間全体で2〜3人しか現れません。 しかし、その後、「 マーキュリーライジングや「 サイコパス 」の観客でなくても、これらの異常な市民は、アイデアを作成するために発見された特別なサービスを静かに排除しようとすることに注意する必要があります。システムの完全性について。 したがって、あなたは優秀な数学者およびプログラマーであるだけでなく、国家安全保障のために罪のない人々を殺害することに本質的に責任があります。



地獄に燃え!



All Articles