完璧な乳母が必要です。 敬意とマナーを評価するために、AIスキャンを必ず行ってください

ジェシー・バタリアは、カリフォルニア州ランチ・ミラージュの自宅で息子のベネットを抱いています。 新しい乳母を探して、Batagliaは、「高度な人工知能」を使用するオンラインサービスであるPredictimの使用を開始しました。これは、乳母が麻薬中毒、攻撃的行動、または「マナー不良」を示すリスクを評価します。



Jesse Batagliaが1歳の息子の新しい乳母を探し始めたとき、彼女は、犯罪歴、両親のコメント、および個人的なインタビューの欠如よりも、従業員に関するより多くの情報を得たいと考えました。 そのため、「高度な人工知能」を使用して乳母の身元を評価するオンラインサービスPredictimに目を向け、Facebook、Twitter、Instagramの候補者の数千の投稿にスキャナーを送信しました。



このシステムは、24歳の少女の自動「リスク評価」を導入し、彼女の薬を使用するリスクは「非常に小さい」と主張しました。 しかし、このシステムは、脅迫、攻撃、無礼、マナーのリスクをやや高く評価しました-5のうち2つ。



システムはその決定を説明しません。 しかし、乳母を完全に信頼できると考えていたバタリヤは、突然疑い始めました。 「ソーシャルメディアは個人のアイデンティティを示しています」と、現在ロサンゼルスの郊外に住んでいる29歳のバタリアは言いました。 「スコア1はなぜ2なのですか？」



Predictimは、世界中の数十の他のテクノロジー企業が雇用主に販売しているものと同じサービスを親に提供します。AIシステムは、人間のスピーチ、表情、オンラインプレゼンス履歴を分析し、個人の生活の秘密を明らかにすることを約束します。



テクノロジーは、一部の企業が候補者を探し、労働者を雇い、評価する方法を変えており、侵襲的な心理的評価と監視の新しい波により、雇用者に候補者の比類のない評価を提供しています。



Famaは、AIを使用して労働者のソーシャルネットワークを監視し、上司に警告する「毒性行動」がないことを主張しています。 HireVueは、Geico、Hilton、Unileverなどの企業と連携するリクルーティングテクノロジー企業であり、ビデオインタビュー中に候補者の口調、単語の選択、表情を自動的に分析し、スキルとマナーを予測するシステムを提供します笑顔）。



しかし批評家は、Predictimのようなシステムはそれ自体に危険をもたらし、何のチェックもなしに人の人生を変えることができる自動ソリューションを残していると主張します。



システムはブラックボックスベースのアルゴリズムに依存しており、人の内的生活の複雑な詳細をすべて正と負の側面の計算にどのように削減したかについて、ほとんど詳細を生成しません。 また、Predictimテクノロジーは親の思考に影響を与えますが、ソーシャルネットワーク、ルックアンドトークでの正しい乳母の振る舞いに関連して、完全に実証されておらず、ほとんど説明がつかず、知覚の歪みに対して脆弱です。



技術擁護団体であるCenter for Digital Democracyのエグゼクティブディレクターであるジェフチェスターは、次のように述べています。 「人々はデジタルソーダに酔ったようで、彼らはそれが私たちの生活を管理するための普通の方法だと考えています。」



Predictimのスキャンプロセスは、ソーシャルネットワーク上の乳母の行動全体を分析します。これは、最年少の乳母の多くにとって、ほとんどの人生を記録することができます。 同時に、乳母は、そのようなスキャンを受けることを拒否した場合、これは仕事のための競争において重大な不利益になると知らされています。



PredictimのCEO兼共同設立者であるSal Parsa氏は、SkyDeck University of CaliforniaのBerkeley Tech Incubatorの一部として先月ローンチされた同社は、技術を使用することの倫理的問題を真剣に受け止めていると語った。 彼は、両親が「おそらく乳母の本当の特徴を反映しているが、おそらく反映していない」という助言として格付けを考慮するべきだと言った。



彼は、問題のある、または暴力的なベビーシッターを雇う危険性があるため、AIは子供を安全に保とうとする親にとって不可欠なツールになると付け加えました。



「Googleでベビーシッターの乱用を検索すると、何百もの結果が見つかります」と彼は言いました。 -精神病の人や怒っている人がいます。 私たちの目標は、彼らを止めるために力を尽くすことです。」



Predictimのスキャンの費用は24.99ドルからです。彼女には、潜在的な乳母の名前と電子メールを伝える必要があります。また、ソーシャルネットワーク上の彼女のアカウントへの幅広いアクセスについて同意を得る必要があります。 乳母は拒否することができ、その後、両親はこれに関する通知を受け取り、乳母自身は「あなたに興味を持っていた親は、あなたが要求に応じるまであなたを雇うことはできない」という手紙を受け取ります。



Predictimのマネージャーは、アルゴリズムを使用して言語と画像を処理し、「コンピュータービジョン」、Facebook、Twitter、およびInstagramでの乳母の投稿を評価し、彼女のオフラインライフに関する手がかりを探していると言います。 レポートは親のみが受け取り、親は結果を乳母と共有する必要はありません。



おそらく親は、ソーシャルネットワーク上の公的な乳母アカウントを見ることができます。 ただし、コンピュータレポートは、1年間でのオンラインアクティビティの詳細な評価を提供することを約束します。これは、ほとんど不可能なタスクに対する魅力的なシンプルなソリューションです。



リスク評価は、明白なコンテンツや薬物乱用など、いくつかのカテゴリーに分類されます。 スタートアップはまた、同社のシステムが、礼儀正しさ、他者と協力する能力、「ポジティブ」など、乳母の性格の他の特性を評価できることを広告で主張しています。



同社は、「親の責任をアウトソーシングする」という数十億ドル規模の業界に革命を起こしたいと考えており、すでに「母」のために子育てブログやサイトをスポンサーすることで宣伝を始めています。 マーケティング戦略は、秘密を明らかにし、「あらゆる親の悪夢」を防ぐために宣言された機会に焦点を当てています。また、広告は、たとえば、8か月の子供に重傷を負ったケンタッキー乳母の場合を含む刑事事件を引用しています。



「この看護師の影響を受けた少女の両親が、候補者の承認プロセスでPredictimを使用できるとしたら、同社のマーケティングステートメントは、「彼らは大切な子供と一緒に彼女を放っておくことはないでしょう」と述べています。



しかし、技術の専門家は、システムが独自に警告を発し、未確認の正確さで性格スキャンの結果を販売するために親の恐れで遊んでいると言います。



彼らはまた、そのようなシステムがどのように訓練し、乳母によるソーシャルネットワークの使用に関連する不確実性から生じる可能性のあるエラーに対してどれほど脆弱であるかについての質問を提起します。 親には、疑わしい行動についての警告のみが与えられ、特定のフレーズ、リンク、または決定を下すことができるその他の詳細はありません。



ある乳母のスキャンが彼女の側に迫害の可能性について警告を発したとき、この評価を要求した興奮した母親は、プログラムが彼女が本当に危険な声明のために取った古い映画、歌、または他のフレーズからの引用に気づいたかどうかを見つけることができないと言いました。





Jesseの電話はPredictimアプリケーションの結果を示しています



公民権団体であるElectronic Frontier Foundationの弁護士であるJamie Williams氏は、今日使用されているほとんどのアルゴリズムは言葉や写真の意味を評価するために、人間の文脈や常識を欠いていることが知られていると語った。 Facebookのような技術の巨人でさえ、無害なコメントと怒っているコメントを区別できるアルゴリズムを作成するのは困難でした。



「青少年を評価するためにこのシステムをどのように試すことができますか？彼らは子供です！ -ウィリアムズは言った。 -子供たちは自分のジョークを持っています、彼らは皮肉で有名です。 「アルゴリズムを「マナーが悪い」と考える人は、「政治的声明または正当な批判と見なすことができます」。



そして、システムが間違えた場合-乳母が薬物を乱用しているとしましょう-両親はその間違いについて知ることができません。 システムの正確性の明確な評価と評価は、その場所にいる人が約束するよりもはるかに正確で権威主義的であることを親に期待させることができます。 その結果、両親は、そうでなければ避けようとする乳母を雇うか、すでに信頼を得ている人々から遠ざかります。



「これらの方法が作成者の状態と同じくらい効果的に予測できるかどうかを正確に判断できる指標はありません」と、自動決定および裁定のためのアルゴリズムの使用を研究するUpturnのワシントンシンクタンクの主席アナリスト、ミランダボーゲンは述べました。 「これらのテクノロジーの魅力は、実際の機能を上回る可能性があります。」



バタリアで働いている24歳の乳母であるマリッサニールセンは、最近、Predictimで評価するために、他の2つの家族にソーシャルネットワークへのアクセスを許可しました。 彼女は、ソーシャルネットワークには常に慎重であり、自分に害を与えることなく追加情報を共有できると判断しました。 彼女は毎週教会に行き、誓いを立てず、幼い子供を教える分野で教師の教育を受け終え、その後幼稚園を開くことを望んでいます。



しかし、このシステムが無礼といじめに基づいて彼女に理想的なマークを与えないことを知った彼女は驚いた。 彼女は、両親がアルゴリズムではなくソーシャルネットワークでの彼女の存在を研究できるようにすることを信じていました-彼女の性格の重要な分析。 彼女はまた、彼女の唯一の収入源に害を及ぼす可能性のあるテストの結果についても知らされていなかった。



「この問題を少し理解したいと思います。 なぜこのプログラムは私をそのように考えたのですか？ -ニールセンは言った。 「コンピューターには感情がありません。それをすべて検出することはできません。」



アメリカ人は依然として、その決定が日常生活に影響を与える可能性のあるアルゴリズムを信頼していません。 今月のピューリサーチセンターの調査では、回答者の57％が求職者の履歴書の自動処理を「受け入れられない」と評価しました。



それにもかかわらず、Predictimは、彼らが全国に仕事を拡大する準備をしていると報告しています。 何百万人もの親が訪れるオンラインのベビーシッターサービスであるSittercityのマネージャーは、Predictimの自動評価を現在の自動評価とサービスチェックに統合するパイロットプログラムの立ち上げについて話し合っています。



SittercityのプロダクトヘッドであるSandra Dainora氏は、「乳母を見つけることは不確実性に満ちています」と語ります。Sandracityは、このようなツールが介護者のオンライン検索ですぐに標準になると考えています。 「親は常に、最良のソリューション、最も完全な研究、最も信頼できる事実を探し求めています。」



また、Predictimのマネージャーは、システムの機能を大幅に拡張し、乳母の私生活のより多くの個人的な評価を提供できると考えています。 テクノロジーディレクターのジョエル・シモノフ氏は、チームはソーシャルネットワークの乳母の活動を分析して「有用な心理測定データ」を取得し、これらの結果を親に提供するために、例えばMyers-Briggs類型などのIDテストに通すことに興味があると述べました。



ソーシャルメディアマイニングとPredictimの大量心理分析への関心は、トランプの選挙キャンペーンを支援するために働き、その後Facebookをグローバルアイデンティティスキャンダルに巻き込んだ政治顧問会社であるケンブリッジアナリティカの野望に似ています。 ただし、Predictimのリーダーは、内部セキュリティチェックを確立したと主張し、乳母の個人データの保護に取り組んでいます。 「乳母のデータリークが発生した場合、それはクールではないでしょう」とSimonov氏は述べました。







専門家は、AIベースの格付けシステムが、必ずしも育児に関係しない仕事を受け取る人がマシンに依存するという未来を予感させるのではないかと心配しています。 多くの採用および採用企業はすでに、候補者の履歴書を大規模に分析し、自動的に候補者の評価を発行できるシステムを作成または投資しています。 Googleの技術インキュベーターであるJigsawを含む同様のAIシステムは、嫌がらせ、脅威、暴力に関するオンラインコメントを追跡するために使用されます。



ただし、従業員を見つけるためのアルゴリズムが、人のキャリアを台無しにする可能性のある欠陥にどのように満ちているかは、すでに何度も実証されています。 Amazon.comは、テクノロジー業界が男性を採用する傾向に続く同社の採用履歴が、男性候補者を好むようにシステムを教えたため、女性を違法に過小評価していることを知り、採用アルゴリズムの開発を停止しました。 同社は、候補者を評価するためにこのプログラムを使用したことはないと述べました。



一部のAI専門家は、このようなシステムには年齢や人種に関連する偏見を深刻に膨らませる能力があると考えています。たとえば、特定のグループの重要な単語や写真を他のグループよりも頻繁にマークします。 彼らはまた、Predictimが若い乳母が仕事を得るためだけに個人データを共有することを強いるのではないかと心配しています。



しかし、サンフランシスコ郊外に住んでいる2人の母親であるダイアナワーナーは、乳母が自発的に個人情報を共有して両親を安心させるべきだと考えています。 「伝記を検証することは良いことですが、Predictimはその問題を徹底的に研究し、個人を解剖します。彼らの社会的および知的地位」と彼女は言いました。 彼女が住んでいるところ、「両親の100％がそのようなサービスを使いたいと思うでしょう」と彼女は付け加えました。 「私たちは皆、完璧な乳母を得たいと思っています。」