マニュアルでは、どの絵文字が脅威と見なされるか、特定のグループの文脈では憎悪を引き起こすことができるかについて説明しています。
批判の火の下で、Facebookはコンテンツを管理するための措置を講じることを余儀なくされています。 しかし、このタスクは見かけほど簡単ではありません。 メディアにはFacebookのモデレーター向けの内部マニュアルがありました。これらは1400ページ以上あります！
今日、政治家や公的機関は、憎しみや誤報を扇動するソーシャルネットワークを非難しています。 Facebookにとって、これは主に財務上の問題です。なぜなら、そのような告発はネガティブな背景を作り出し、株価に悪影響を与える可能性があるためです。つまり、会社の所有者と従業員の福利です。
四半期ごとに約50億ドルを稼ぐFacebookは、悪意のあるコンテンツとの闘いを真剣に受け止めていることを全員に示す必要があります。 しかし、ビジネスの基盤であるユーザーベースの拡大を続けながら、100を超える言語で1日に数十億のメッセージを追跡する方法はありますか？ 会社の決定：禁止されているコンテンツを説明するPowerPointスライド迷路に導かれたモデレーターのネットワーク。
「毎週火曜日の朝、数十人のFacebook従業員が朝食のために集まり、新しいルールを考え出し、サイトの20億人のユーザーが何を言おうとしているかを話し合います」とNYタイムズは書いています 。 「会議の結果に基づいて、関連するルールが世界中の7,500人以上のモデレーターに送信されます。」 新聞には1,400ページ以上のルールブックがありました。 情報は、過度のモデレーションと、コンテンツのモデレート時に会社が犯す過多なエラーを懸念している従業員の1人によって提供されました。
文書の調査により、多数のギャップ、偏見、明らかな誤りが明らかになりました。 明らかに、言語や国によってルールが異なります。その結果、一部の地域ではヘイトスピーチが盛んになり、他の地域では不必要に抑制される可能性があります。 たとえば、モデレーターは、インドネシアの火山の犠牲者に対する募金の呼びかけを削除するように言われたことがあります。募金の主催者の1人が禁止されたFacebookグループのブラックリストに載っていたからです。 インドでは、モデレーターが誤って宗教を批判するコメントを削除するように言われました。 ミャンマーでは、過激派グループはFacebookの文書の誤りのために数ヶ月間活動を続けました。
モデレーター向けのFacebookマニュアルのスクリーンショット
ポップアップドキュメントから判断すると、Facebookはモデレーターの原則を単純なyesまたはnoルールの形式で定式化しようとしています。 その後、会社は実際のモデレーションを第三者に転送します。 彼らは主に未熟な労働者を引き付け、その多くはコールセンターで働いています（悪名高い「インド人のサポート」-節度に関与している従業員です）。
多くの場合、モデレーターはGoogle翻訳に依存しています。 パフォーマンスの要件は、数秒以内に数え切れないほどのルールを呼び出して、毎日作業コンピューターに表示される数百のメッセージに適用する必要があることです。 たとえば、どの絵文字が存在する場合でも、ジハードの言及が禁止されているルールをすばやく思い出すことができます。
司会者向けのFacebookマニュアルのスクリーンショット。ヘイトスピーチの兆候を説明しています。 モデレーターは、ユダヤ人とネズミの比較を含む6つの「非人道的比較」に基づいて、3つのレベルの「深刻さ」を定義する必要があります。 一般的なヘイトスピーキングガイド200ページ
一部のモデレーターは、ルールはあまり効果的ではなく、時には無意味であると言います。 しかし、同社の経営陣は、そうでないと考えています。「1日に数十億のメッセージがあり、技術システムを使用して違反の可能性をますます特定しています」と、FacebookグローバルポリシーディレクターのMonika Bickertは述べています。 「このような規模では、99％の精度でさえ多くの間違いを残します。」
プレスに入ったFacebookのマニュアルは、明確なガイドのようには見えません。 「西バルカンは組織や個人を憎む」または「明示的な暴力：実施基準」などの官僚的な見出しを含む、数十の断片化されたPowerPointプレゼンテーションとExcelスプレッドシートで構成されています。 これは、会社のさまざまな部門によって確立されたルールの一種の「パッチワーク」です。 Facebookは、ドキュメントの信ity性を確認しましたが、 NY Timesが所有していたバージョンと比較して、それらの一部が更新されたと述べています。 Facebookによると、ファイルはトレーニングのみを目的としていますが、モデレーターは実際に日常業務の参考資料として使用されているとのことです。