Apple、ハッシュを使用して電子メールにフラグを立てて評価し、児童虐待の画像を探し出します

Appleは裁判所への提出文書の中で、児童虐待の画像がないか自社のシステムを通過する電子メールをどのように監視できるかを明らかにしており、iPhoneメーカーは検査のために自動的にフラグが立てられる特定の写真やビデオに関連するハッシュに常に目を光らせている。

他の多くのテクノロジー企業と同様に、Apple はネットワークを通過する違法なトラフィックの量を削減するためのシステムを導入しています。その一環として、顧客が送受信するメッセージの監視が行われており、これには児童虐待を示す画像の検出と報告のプロセスが含まれます。

シアトルで提出された捜索令状で明らかになり、見つかったによるフォーブス、現在、Apple が自動システムを使用してメッセージ、特にハッシュをチェックしていることが知られています。このシステムは、ファイルのハッシュを、以前に報告された不正行為画像に属することがわかっている既存のハッシュのデータベースと比較します。疑わしいファイルを含む電子メールには検査対象のフラグが付けられます。

フラグが設定された電子メールについては、スタッフ メンバーがメッセージの内容とファイルをチェックして、違法な内容がないかどうかを確認します。メッセージにそのようなコンテンツが含まれているとみなされた場合、Apple はそのメッセージを当局に渡します。

Apple のプロセスは、他の企業のプロセスよりも徹底しているように見えます。通常、自動化されたシステムがメッセージにフラグを立てた場合、コンテンツ自体を手動でチェックすることはほとんどなく、国立行方不明児童搾取児童センターなどの組織にメッセージが渡されます。

詳細は捜索令状の中でアップル従業員のコメントから明らかになり、iCloudユーザーがアップロードした「児童ポルノの疑いのある複数の画像」がどのようにシステムによって検出され、電子メールの調査が行われたかを説明している。

疑わしい画像を含む電子メールは、意図した受信者に配信されないと従業員は書いている。令状の場合、ある人物は 8 通の電子メールを送信し、そのうち 7 通には 12 枚の画像が含まれ、もう 1 人にはさらに 4 枚の画像が含まれており、すべて同じ受信者に送信されていました。

7通のメールは内容もファイルも同一だったため、従業員はその人物が「これらの画像を自分宛に送信し、届かない場合は繰り返し送信した」か、あるいは意図した受信者が彼らに次のように告げたかのどちらかと疑った。メッセージが伝わりませんでした。

Appleは法執行機関への開示の一環として、iCloudユーザーの名前、住所、電話番号などのデータも提供したが、これが法執行機関への開示の一部として含まれていたかどうかは不明である。その後、政府はユーザーの電子メール、テキストメッセージ、インスタントメッセージ、そして「iCloudに保存されているすべてのファイルとその他の記録」を要求した。

Apple スタッフがフラグ付きメッセージを検査することによるプライバシーへの影響に一部の批評家が反対する可能性はありますが、メッセージにフラグを付けるプロセスはハッシュを使用して実行され、自動化されているため、画像の内容は考慮されていません。検査に人間を使用することは、誤検知の可能性を制限するのに役立ちます。ファイル検証この場合、ファイルは既存のデータベース内の別のファイルと同じハッシュ値を持つ可能性がありますが、完全に異なるプロパティを持つ可能性があります。

この調査結果は、暗号化されていない通信、つまり、現在進行中の主要な要素の 1 つとなっている安全なエンドツーエンド暗号化を通過しない通信も対象としています。暗号化に関する議論。法執行機関が Apple の製品やサービス上の暗号化されたコンテンツにアクセスできないのと同様に、Apple も同じ内容を調べることができません。