インターネットがあなたのすべてを知っているのに、なぜ悪いのですか？

こんにちは、Habr！ キム・フラハティとケイト・モランの記事「過個人化の危険性」の翻訳に注目してください。

結論：コンテンツの過剰なパーソナライズは、ユーザーによる情報の均一で無関心な認識につながり、製品全体の疲労を引き起こす可能性があります。

多くの点で、情報をパーソナライズすることは人類に利益をもたらします。 インターネットユーザーは多種多様なコンテンツに圧倒されているため、人気によってフィルタリングし、ユーザーに関心のある情報のみを提供することで、ユーザーの労力を大幅に削減し、インターネットの閲覧をより生産的で便利なものにできます。

ただし、多くのユーザーは、ネットワーク上のすべての対話が監視および分析されることを知っています。 このすべてのデータにはタグが付けられ、セグメント化されて、各クライアント（ストーリー、製品、広告とニュース、映画、ゲームなど）の個々のプロファイルとコレクションが作成されます。 しかし、どのような場合に過剰な個人化が問題になりますか？

私たちの研究では、情報の過剰なパーソナライズの欠点がいくつか見つかりました。 特に、問題の1つは、情報を受け取りたいカテゴリを選択したユーザーが「コーナーに追い込み」、以前に自分で決めた情報のみを受け取り始めることです。 しかし、多くの場合、人々は多面的であり、時間の経過とともにさまざまな状況の影響下で好みを変える傾向があります。 ある特定のユーザーに焦点を当てたシステムは、他のユーザーを退屈させたり、迷惑にさえするリスクを負います。

精度または関連性

パーソナライズの問題は、結果の精度とその関連性（IR）のバランスに基づいています。

例として情報の検索を取り上げます。

精度は、指定した単語（実際に探しているもの）で見つかった検索結果の割合です。

関連性とは、検索エンジンに既に知られているすべての関連する結果の割合です（このリクエストの前に検索したもの、現在地に関する追加データなど）。

検索エンジンについて説明する場合、これらのメトリックの比率により、最良の結果を得て、現時点で必要なものを正確に見つけることができます。

Google検索エンジンは当初から、正確性ではなく、情報の関連性（パーソナライズ）に依存しており、競合他社よりも際立っています。 ほぼ無限のデータソースでの検索は関連する必要がありますが、役に立つ可能性のある各結果を個別に理解させるべきではありません。

同様に、多くのデジタル製品も正確さよりも関連性を好みます-推奨コンテンツがユーザーに確実に関連するようにします。 その結果、ユーザーについて既に知っている情報（関心のあるトピック、以前に気に入ったコンテンツなど）を厳守します。 ただし、検索エンジンや必要な情報の検索に最適な同じ戦略は、ソーシャルネットワークでフィードを作成するのにはまったく適していません。

たとえば、条件付きサービスで写真を表示しているユーザーを想像してみましょう。 ユーザーには2つの主な関心事があります-彼は猫と犬を等しく愛しています。

弊社の発明したサービスでは、猫の写真を含む100の投稿と犬の写真を含む100の投稿（さらに、他のトピックに関する何千もの投稿）があります。 ほとんどの場合、ユーザーは猫または犬に関する200の出版物のいずれかを見たいと考えていますが、猫との投稿に肯定的に応答するとすぐに、システムはユーザーが犬を愛しているという兆候なしに推奨事項を作成します。 その結果、ユーザーは猫の写真だけで構成されたテープを受け取ります。

ユーザーは非常に正確で関連性の高い投稿を受け取ることがわかりますが、そうすることでユーザーの多様性を奪います。 理想的には、彼は猫と犬に関する投稿を見たいと思っていますが、アプリケーションはその可能性を最大限に活用しておらず、遅かれ早かれユーザーは表示されているコンテンツに興味を失います。 さらに、おそらくこのユーザーは、カモノハシが見たことがあれば、カモノハシは地球上で最もかわいい動物だと思うでしょう。 ただし、アプリケーション内のカモノハシの少数の写真がユーザーに表示されることはありません。

過剰なパーソナライズは、組織とユーザーの両方にとって危険です。

• ユーザーは同じタイプのコンテンツを何度も何度も目にしますが、実際には視野と関心を広げる機会はありません。
• 企業は十分な情報を受け取っていないため、ユーザーを十分に把握していません。

このアプローチは、私たちの複雑で多面的な性格ではなく、一次元のキャラクターとしてのユーザーに焦点を合わせています。

均質な経験

上記で、過剰なパーソナライズはネガティブなエクスペリエンスにつながる可能性があり（ソーシャルネットワークのコンテキストで）、ユーザーの多くの興味の一部のみを満たすことができることを確認しました。 しかし、ユーザー自身はこれについてどう思いますか？ 過剰なパーソナライゼーションにどのように対応しますか？

疲労の状態

私たち[著者]は、Instagramフィードをめくって退屈し始めています。 私たちが見るのは猫と飾りだけです。 はい、私たちは猫と宝石が大好きで、Instagramは確かにそれを考慮しました。 これらのタイプの投稿との相互作用により、雪だるま式の効果が生まれました。 プラットフォームによって私たちにアルゴリズム的に宣伝されるコンテンツのほとんどはこれらのカテゴリに収まるので、時間が経つにつれて、私たちの個人ページは他の人に見られるのと同じ均質なコンテンツで飽和し始めます。 （はい、Instagramにはあなた自身のために何か新しいものを見つけることができる特別なDiscoverタブがあります...しかし、このタブに行くためには、人は自分自身に努力する必要があり、このタブのコンテンツはあなたのメインフィードとは一切関係ありません）。

私たちの研究の参加者は、同様の感情を表明しました。 場合によっては、過剰なパーソナライズにより、ユーザーがアプリケーションに興味を失ったり、完全に放棄したりすることがあります。

米国の研究参加者の中には、投稿を読むことさえせずにInstagramとFacebookをめくった人もいました。これは、フィードに新しい興味深い資料がないことを説明しています。

「退屈だ。」

「朝の日常の儀式。」

「私はFacebookで常に同じ人に会います。 疑いの余地はありません。」

ある女の子は、フィードのコンテンツが退屈になったため、何か面白いものを求めてフィードをスクロールし続けていることに気付きました。「今日、Facebookには何も面白いものが見つかりませんが、面白いことは、フィードをひねり続けるまで面白いものが見つかるまで。 特に中毒性があります。」

この動作はVortex現象と関連しています。つまり、人々はスティッキーなデザイン手法（たとえば、ソーシャルネットワークが提供するコンテンツの連続ストリーム）を使用して、ほとんど意志に反してオンラインの世界に引き寄せられます。 ユーザーは、優れたコンテンツに対して感情的な見返りを得るよう努めています。 これらのケースでは、電話はミニスロットマシンに変わります。彼らはレバーを引き、何十もの失敗に遭遇し、最終的に勝つことを期待してプレイを続けます。

Life Onlineプロジェクトの中国での調査の参加者数人は、最初はTikTok（音楽とビデオを共有するソーシャルネットワーク）を積極的に使用したと報告しました。プラットフォームのコンテンツは本当に刺激的でした。 一部のユーザーは、その場に座って何時間もビデオを見たと言いました。 しかし、ある瞬間、彼らは退屈になりました。 すべてが同じように見え始めたため、アプリケーションの使用を停止しました。 「これは何度も何度も公開されているコンテンツとほとんど同じです。 私はこれを見続けることを特に望んでいません。」研究参加者の一人。

過度のパーソナライズによるコンテンツの疲労は、ソーシャルネットワークだけでなく存在します。 推奨システムに関する調査で、Amazonユーザーは、Recommendations for Youセクションで時代遅れで退屈な製品の推奨事項を満たしていることに気付きました。

フードストリップを覗いて、彼女はコメントしました。「数年前にアルガンオイルなど、これらのことをいくつか見ました。ですから、これは今ではあまり意味のある推奨事項ではありません[...]ここ数年、私の好みは変わったでしょう。

たとえば、私は4年前に乳酸を購入しましたが、この推奨事項がまだ自分に関連しているとは思いません。」

この例は、狭いセグメントのユーザーの関心を分析することで、推奨事項が退屈で無関係になることを示しています。 参加者が指摘したように、興味は時間とともに変化する傾向があります。 さらに、Amazonは、顧客の現在の関心を調査し、新しい製品を推奨する機会を逃しています。

Amazonの[探索]セクションを参照している別のユーザーは、イカ製品をバスケットに追加しました...「私は本当にイカが好きで、Amazonはイカの画像でもっと多くのものを見せ始めました[...]事後、私のテープはほぼ完全にイカでいっぱいになります。 彼は[Amazon]にイカだけを提供したくありませんが、イカはとてもクールだと思います。」

それはあなたが子供だったのとほぼ同じように機能し、猫を愛しているとお母さんに言いました。 その後、クリスマスごとに、猫の形をした贈り物を受け取ります。

要約すると...パーソナライズされたコンテンツは、ユーザーのアプリケーションとの対話に影響を与え、ユーザーを退屈させる可能性があります。したがって、ユーザーに関する詳細情報を知ることができず、アプリケーションを新しい期待に適合させることができません。

複製されたコンテンツ

TikTokやInstagramなどのソーシャルネットワークにある同じタイプのコンテンツは、人気を追求するアルゴリズムの発行に入るために、コミュニティの他のユーザーが同様の複製コンテンツを作成するという事実によって悪化します。

Instagramには、複製されたコンテンツと、ユーザーが次々に繰り返す同様のトリックを定義するプロファイルがあります。 たとえば、同じタイプの風景と同じ視点または視野角の写真...写真は異なる時間に異なるユーザーによって撮影されますが、それらはすべて同じです。 （ @insta_repeat ）

ある中国人ユーザーが、パリへの旅行で人気のある画像を意図的に再現することを計画しているということさえありました。 少女は、パリの他のユーザーによって作成されたレッドブックの投稿を見ました。 写真は彼女に同じ場所を訪問するきっかけとなり、彼女は自分のアカウントでお気に入りの投稿を再作成するつもりです。

「インターネットで見た人気のブログからの旅行をエミュレートしたいです。同じ場所で同じポーズで同じ角度から撮影されます。」

エコーカメラ

超個人的な同種の経験の別の症状。

エコーカメラは、私たちの信念に「食い込む」強制的にターゲットを絞ったコンテンツによって作成される状況であり、テープに同じものが見えるという事実によって補強されます。 エコー効果は、人々の間の社会的分極を促進します。

たとえば、Facebookでは、人々は好きなコンテンツ（友人と共有するなど）と対話するのが好きです。 したがって、時間が経つにつれて、プラットフォームがユーザーの関心を特定すると、アルゴリズムはそのユーザー（またはユーザーのグループ）専用に設計されたメッセージのみを表示し始めます。 この場合、ユーザーが自分の信念と関心を強化するような種類のメッセージのみを消費する世界を作成します。 人々は、自分の信念に挑戦するメッセージや視点を広げるメッセージを見なくなりました。

各声明が興味の確認を目的としている場合、他の経験について学ぶ機会を逃します。 結果：実際の生活では、人々は仮想世界のように明確に分離されます。

ウェブ上でターゲットを絞ったコンテンツを受信し始める前に、私たちのコミュニケーションは同じニュースを議論し、それによってコミュニティの感覚を作り出すことで構成されていました。 私たちの世界観は、他の人と同じ情報を読んで知覚することによって形成され、その結果、人はより団結しました。 2017年3月、The New York Timesは、オンラインリーダー向けにパーソナライズされたニュースの実験を開始すると発表しました。 このニュースは多くの人々の間で懸念を引き起こしています。 人々は、同じニュースを共有できず、友人や親relativeが読んだのと同じ物語を話し合うことができないと不満を漏らしました。

パーソナライズのダークサイド

パーソナライズは、状況によっては簡単に怖がらせることがあります。 ほとんどの消費者は、最善の推奨事項を提供するためにアクションが監視されていることを知っていますが、アクションの1つが電子メールまたは電話番号にスパム波を引き起こす可能性がある場合、これは問題になる可能性があります。

Life Onlineの調査の一部の参加者に、ユーザーに表示する広告を企業がどのように決定するかを尋ねました。 ほとんどのユーザーは、以前のユーザーアクションに基づいて広告やその他のコンテンツがパーソナライズされていることを知っています。 人が検索エンジンで何かを検索した後、突然ネットワーク全体で検索結果を表示し続けたとき。

たとえば、調査に参加した中国人の1人は次のように語っています。「Ta宝網のトイレを見ると、あらゆる場所に家電製品に関する情報があります。 これの欠点は、私がすでに何かを購入した場合でも、広告が表示されることです。 そして、最近買った商品の割引を見ると苦いです。」

ほとんどの参加者は、サイトが訪問者の行動に関する情報をどのように送信しているかを正確に知りませんでした。 パーソナライズされたコンテンツが、ユーザーまたはサイトまたはデバイスがユーザーについて知っておくべきことの境界に違反しているように見える状況が時々ありました。 この練習は特に気味が悪いようでした。

たとえば、中国での調査の参加者の1人は、モバイルアプリケーションに関連する広告を電話で受け取る理由を理解しているとコメントしていますが、コンピューターを使用して、携帯電話での最近のアクティビティに関連する情報を受け取ると、これは彼女に大きな衝撃を与える可能性があります。 また、FacebookがAmazonおよびGoogleに対する最近のユーザーリクエストからのデータを知っており、使用しているように見えることをユーザーを怖がらせます。

（ユーザーインターフェイスの統一システムに反対するわけではありませんが、ユーザーの期待を制限し、すべてを知っているバックエンドシステムからユーザーを保護する価値がある場合もあります。）

人々はまた、ユーザーの機密情報と密接に関連している情報を恐れています。 たとえば、食べ物や妊娠に関する情報、葬儀の準備、またはユーザーに表示される外来性の病気の治療のレシピは、文脈から外れてユーザーに直接関係している場合、強い感情的な反応を引き起こす可能性があります。 一部のオンラインインタラクションは機密のままにする必要があるか、慎重に扱う必要があります。

過度のパーソナライズの回避

製品のユーザーエクスペリエンスを詳細に追跡、分析、パーソナライズする技術的能力を備えたので、パーソナライズへの欲求と過剰なパーソナライズから生じる深刻な欠点の間には確かに障壁があることが明らかになります。 おそらく、一歩後退して能力を評価する時が来たのでしょう。 この調査で観察された問題点に基づいて、情報のパーソナライズに関連するミスを防ぐために、企業が考慮すべきいくつかの推奨事項をまとめました。

• 意識の境界を広げます。 特定のレベルのパーソナライズを提供するためにセグメントを拡張することを検討しますが、同時にユーザーにさまざまなコンテンツを提供します。 New York TimesのパーソナライゼーションFAQページは、組織がパーソナライズされたストーリーの提供と共有コンテンツのバランスをとることに努めていることを示しています。
• 振って混ぜます。 顧客のよく知られている利益に頼りすぎないでください。 不適切なコンテンツをユーザーフィードに意図的に挿入するコンテンツ戦略を作成します。 ターゲットを絞ったコンテンツと、興味を超えた新しい製品や人気のある製品の導入とのバランスをとることを検討してください。 また、これらのメッセージがエンドユーザーに配信される方法を検討してください。 チャンネル、SMSメッセージ、および電子メールは重要なイベントの報告に適していますが、ソーシャルネットワークは製品に関する情報を混合するのに適しています。これらのソースは、新しい独自の情報を表示および発見するためにより開かれているためです。 共通の資料を作成する際には、ターゲットオーディエンス以外の人のフィードに自分自身を見つけたときに、さらに注目を集めることができるさまざまなコンテンツを作成してください。
• 一般的なアルゴリズムを使用しないでください。 すべての投稿の広告をゼロからカスタマイズします。 一部のトピックは他のトピックよりも敏感になる場合があります。 どのターゲットコンテンツがトピックに関連しているかを判断し、再度パーソナライズする方法を確認します。 たぶん、これらの問題にアプローチする際に保守的になってはいけません。
• 顧客に応答する機会を与えます。 ユーザーは、コンテンツが本当にターゲットに対する正確なヒットであるかどうかを示すことができるはずです。

顧客にパーソナライズを制御する感覚を与えます。