内部告発者：Facebookはユーザーの「安全よりも利益を選択」している

Facebookの内部文書の一部を漏洩した内部告発者は、ソーシャルネットワークの実績を批判すると同時に自身の身元を明らかにし、「Facebookは安全よりも利益を選ぶことを何度も見せてきた」と主張した。

Facebook 内の文書のキャッシュが流出しました。ウォール・ストリート・ジャーナル内部告発者による通報を受け、ソーシャルネットワークに対する徹底的な調査が行われることになった。初期の調査活動が文書で公開された後、内部告発者はインタビューで名乗り出て、テクノロジー巨人の仕組みとデータ公開を選んだ理由について詳しく説明した。

このデータ公開は一連の報道につながり、その中にはFacebookが次のことを知っていたとされる疑惑を明らかにするものも含まれていた。インスタグラムもダメだった青少年の健康のために。この報告書を受けて、上院商業委員会の消費者保護小委員会による十代の若者のメンタルヘルスに関する公聴会が開かれることになった。

でインタビューと60分日曜日、フランシス・ハウゲン氏は、フェイスブックがヘイトスピーチやその他の有害なコンテンツへの対処よりもアルゴリズムを重視していることを証明しているかのような文書の山についてさらに強調した。

ハウゲン氏は以前、同社の製品マネージャーでシビック・インテグリティ・グループに所属していたが、グループの解散後に退職した。彼女は退職前に数万ページに及ぶ内部調査をコピーし、憎悪、暴力、誤報に対する取り組みについてフェイスブックが国民に嘘をついていることを証明していると主張した。

「フェイスブック内に留まり続けたら、自分の将来がどうなるかは分かっていた。フェイスブック内で次から次へとこの問題に取り組み、地に足を着く人が増えてきたのだ」と文書公開の決断についてハウゲン氏は語った。「2021年のある時点で、わかった、これは体系的にやらなければならないし、これが現実であると誰も疑うことができないほど外に出なければならないと気づいた。」

以前は Google や Pinterest で働いていたデータサイエンティストによると、「私はこれまで数多くのソーシャルネットワークを見てきましたが、Facebook の状況はこれまでに見たどのネットワークよりも大幅に悪かったです。」

この文書には、Facebook がサービスに関して内部で実施した調査が含まれており、その調査の 1 つは、Facebook が憎悪に満ちたコンテンツに対する措置を怠っていたと判断したものでした。「私たちは、Facebook上で世界最高であるにも関わらず、憎しみの3～5%、暴力や扇動の1%のうち10分の6程度しか行動しないと推定している」と研究書には書かれている。

ハウゲンさんは、選挙の誤った情報のリスクに取り組むことを目的としたシビック・インテグリティに彼女が配属された経緯を語った。しかし、2020年の米国選挙後に同組織は解散した。

「彼らは基本的に、『よかった、選挙を乗り越えた。暴動もなかった。これで市民の誠実さをなくすことができる』と言ったのです。」数か月早送りすると、反乱が起こりました」とハウゲンは語る。「そして、彼らがCivic Integrityを排除したとき、私は彼らがFacebookを危険にさらさないために投資すべきものを実際に投資するつもりがあるとは信じられないと感じた瞬間でした。」

エンゲージメントに基づいてユーザーに表示するコンテンツをアルゴリズムが選択することにより、システムはエンゲージメントや反応を得るために最適化されたとハウゲン氏は言います。「しかし、同社独自の調査によると、憎悪、分裂、二極化をもたらすコンテンツは、他の感情よりも人々の怒りを引き起こしやすいことがわかっています。」

「はい、フェイスブックはアルゴリズムをより安全なものに変更すれば、ユーザーがサイトに滞在する時間が減り、クリックする広告が減り、収益が減ることに気づいたのです」と彼女は付け加えてから、安全システムの導入を主張した2020 年の選挙に向けて誤った情報を減らすという取り組みは一時的なものでした。

「選挙が終わるとすぐに、彼らは安全性よりも成長を優先するために、それらをオフにするか、設定を以前のものに戻しました」とハウゲン氏は主張する。「そしてそれは私にとって本当に民主主義への裏切りのように感じます。」

ハウゲン氏の文書公開は、ウォール・ストリート・ジャーナル。 9月、ハウゲン氏の代理を務める弁護士らが証券取引委員会に少なくとも8件の苦情を申し立てた。提出書類は、フェイスブックは投資家に嘘をついたり、重要な情報を差し控えたりしてはならないという理論に基づいたもので、ヘイトスピーチ対策の進展と現実についてのフェイスブックの公の主張は、規制当局による精査を促す可能性がある。