IBM注釈付きFacesデータセットの多様性
IBM は最近、Flickrの写真ホスティングや、ユーザーが許可なくニューラルネットワークをトレーニングするために画像をアップロードする他のサイトから公開されている写真を撮影したことで批判されました。 正式には、すべてが法律に従っています-すべての写真はクリエイティブコモンズライセンスの下で公開されていますが、AIは自分の顔から学ぶため、人々は不快に感じます。 撮影されたことさえ知らなかった人もいました。 ご存知のように、公共の場所で人物を撮影するために、許可を求める必要はありません。
メディアの報道によると、IBMはFlickrからの約100万枚のプライベート写真を使用して、顔認識システムをトレーニングしました。 しかし、IBMは実際にはFlickrから写真をコピーしなかったことが判明しました。これらの画像は、ニューラルネットワークのトレーニングに利用できる9920万枚の写真のYFCC100Mデータセットの一部です。 このベースは、Flickrの前の所有者であるYahooによっても作成されました。
IBMとの話は氷山の一角にすぎないことがわかりました。 ここで、会社は偶然に配布対象外になりました。実際、ユーザーの写真はさまざまなシステムのトレーニングに長い間使用されてきました。これはすでに一般的な慣行になっています。死んだ人は自分の顔認識システムをテストします」 と Slate は書いています 。 米国国立標準技術研究所（NIST）などの政府機関でさえ、このような活動を実施していることを強調しています。
特に、NISTのフレームワーク内で、顔認証システム（FRVT）プログラムは、サードパーティ企業によって開発された顔認識システムの標準化されたテストのために実装されています。 このプログラムを使用すると、すべてのシステムを同じ方法で評価し、客観的に相互に比較できます。 場合によっては、最高2万5,000ドルの賞金が競争に勝つために授与されますが、金銭的報酬がなくても、NISTテストでの高得点は、潜在的な顧客がすぐにこのシステムに注意を払い、A +レーティングに言及できるため、開発会社の商業的成功の強力なインセンティブになりますプレスリリースや販促資料で。
NISTを評価するために、さまざまな角度とさまざまな照明条件で撮影された顔の写真に大きなデータセットが使用されます。
スレートの調査により、NISTデータセットには次の写真が含まれていることが明らかになりました。
- 児童ポルノで使用される子供の写真。
- 特にメキシコからの米国ビザ申請者の写真。
- 逮捕され、現在死亡している人々。
- 市民は犯罪を犯した疑いで拘束された。
多くの写真は国土安全保障省（DHS）の従業員によって公共の場所で撮影されましたが、通行人を撮影する過程で、DHSの従業員は周囲を撮影する観光客としてポーズをとりました。
NISTデータセットには、何百万もの人々の画像が含まれています。 データ収集は公共の場所で行われたため、文字通り誰でもこのデータベースに入れることができます。 NISTは積極的にデータセットを配布しており、誰もがこれらの写真をダウンロード、保存、使用して顔認識システムを開発できるようになっています（児童搾取の画像は公開されていません）。 このデータを使用する商用システムの数を言うことは不可能ですが、 多くの 科学 プロジェクトが確実に使用しています、とSlateは書いています。
この出版物の解説で、NISTの代表者は、FRVTの基地は他の政府機関によって彼らのタスクに従って組み立てられていると述べた。これは子供の写真を含む基地にも当てはまる。 NISTは、法律および既存の規制に厳密に従ってこのデータを使用します。 彼は、児童ポルノを含むデータベースが実際に商用製品のテストに使用されていることを確認しましたが、このデータベースの子供は匿名です。つまり、名前と居住地は示されていません。 NISTの従業員はこれらの写真を表示せず、DHSサーバーに保存されます。
少なくとも2016年以来、子供の写真を含むデータセットが使用されています。 開発者向けの文書によると、これには「幼児から10代までの子供の写真」が含まれており、ほとんどの画像には「強制、暴力、性的活動」が示されています。 これらの画像は、位置、コンテキストなどの変動が大きいため、認識が特に難しいと考えられています。
このデータセットは、おそらくわいせつなコンテンツの自動フィルタリングのためのトレーニングおよびテストシステムに使用されます 。
ジャーナリストは、Multiple Encounter Datasetデータセットの「バイアス」にも注目しています。 黒人は米国の人口の12.6％しか占めていませんが、47.5％は犯罪者の写真のデータベースに登録されているため、AIが偏見を学び、 人種差別主義者になることもできます。