Apple、iMessage、Siri、iCloud Photos にわたる子供の安全機能を拡大

Apple は、オンラインで児童を保護することを目的とした一連の機能をプラットフォーム全体でリリースしています。これには、児童虐待の内容を検出できるシステムが含まれます。iCloudユーザーのプライバシーを守りながら。

クパチーノのハイテク大手は木曜日、子どもたちを捕食者から守り、児童性的虐待資料（CSAM）の蔓延を制限するのに役立つという、3つの分野にわたる新しい子どもの安全機能を発表した。公式発表は、Appleが抑制のために何らかのシステムをデビューさせるという報道にほぼ続くものである。プラットフォーム上の CSAM。

「Apple の目標は、人々に力を与え、生活を豊かにするテクノロジーを開発すると同時に、人々の安全を確保することです」と同社はプレスリリースで述べている。

たとえば、Apple はメッセージに新しいツールを実装し、子供たちがオンラインでどのようにコミュニケーションしているかについて保護者がより多くの情報を得ることができるようにする予定です。同社はまた、暗号技術を活用した新しいシステムを使用して、iCloud 写真に保存されている CSAM のコレクションを検出し、法執行機関に情報を提供しています。 Apple は、Siri と Search の新しい安全ツールの開発にも取り組んでいます。

「アップルの児童保護の拡大は状況を大きく変えるものだ」と国立行方不明・搾取児童センターの最高経営責任者（CEO）兼所長のジョン・クラーク氏は語った。

非常に多くの人が Apple 製品を使用しているため、これらの新しい安全対策は、オンラインで誘惑されたり、児童性的虐待の内容として恐ろしい画像が流布されたりしている子どもたちの命を救う可能性を秘めています。国立行方不明・搾取児童センターでは、子供たちを守るという献身的な姿勢を貫く場合にのみ、この犯罪と闘うことができると認識しています。私たちがこれを実現できるのは、Apple のようなテクノロジーパートナーが積極的に取り組み、その献身的な取り組みをアピールしているからです。現実には、プライバシーと児童保護は共存することができます。私たちは Apple を称賛し、この世界を子供たちにとってより安全な場所にするために協力できることを楽しみにしています。

3 つの機能はすべてプライバシーを考慮して最適化されており、法を遵守するユーザーの個人情報を脅かすことなく、Apple が犯罪行為に関する情報を適切な当局に提供できるようになります。

新機能は、2021 年後半のアップデートでデビューする予定です。iOS15、iPadOS 15、macOS モントレー、そしてウォッチOS 8。

iCloud 写真での CSAM 検出

CSAM スキャンシステムの図。クレジット: Apple

Apple が導入を計画している最も重要な新しい子供の安全機能は、iCloud 写真アカウント内の CSAM の検出に焦点を当てています。

Apple が iCloud に保存された CSAM のコレクションを検出した場合、そのアカウントにフラグを立てて情報を NCMEC に提供します。NCMEC は児童虐待に関する報告センターとして機能し、全米の法執行機関と協力しています。

Apple は実際にここで画像をスキャンしているわけではありません。代わりに、オンデバイスインテリジェンスを使用して、CSAM を NCMEC やその他の児童安全組織が提供する既知のハッシュデータベースと照合します。このデータベースは、読み取り不可能なハッシュのセットに変換され、ユーザーのデバイスに安全に保存されます。

iCloud 写真で CSAM を検出する実際の方法は複雑で、平均的なユーザーのプライバシーを維持しながら精度を確保するために、あらゆる段階で暗号化技術が使用されます。

Appleは、フラグが立てられたアカウントは、真陽性であることを確認するための手動審査プロセスの後に無効化されると述べている。アカウントが無効になると、クパチーノの会社は NCMEC にメッセージを送信します。ユーザーは、誤って標的にされたと感じた場合、アカウントの停止に対して異議を申し立てることができます。

同社は、この機能は iCloud 写真に保存されている CSAM のみを検出するものであり、厳密にデバイス上に保存されている写真には適用されないことを繰り返し述べています。さらに、Apple は、このシステムのエラー率は年間 1 兆アカウントに 1 件未満であると主張しています。

この機能は、クラウドベースのスキャンではなく、iCloud に保存されている既知の CSAM のコレクションを持つユーザーのみをレポートします。たった 1 つの虐待的なコンテンツだけでは発症するのに十分ではないため、誤検知の割合を減らすことができます。

繰り返しになりますが、Apple は既知の CSAM に一致する画像についてのみ学習すると述べています。 iCloud に保存されているすべての画像をスキャンしているわけではなく、既知の CSAM に一致しない画像は取得または表示されません。

CSAM 検出システムは、開始時に米国ベースの iCloud アカウントにのみ適用されます。 Appleは、将来的にはこのシステムをより広範囲に展開する可能性が高いと述べている。

通信の安全性

新しいアップデートの 1 つは、Apple の製品を使用してオンラインで通信する子供たちの安全性を高めることに焦点を当てています。iメッセージ

たとえば、iMessage アプリでは、子供や親が性的に露骨な写真を送受信したときに警告が表示されるようになりました。

17 歳未満の子供が機密性の高い画像を受け取った場合、その画像は自動的にぼかされ、子供には役立つリソースが表示されます。 Appleはまた、13歳未満の子供がメッセージを閲覧すると親にメッセージが送信されることを知らせる仕組みも組み込んだ。 13 歳から 17 歳までの子供は、これらの画像を開いたときに保護者からの通知を受けることはなく、18 歳以上の大人が使用するアカウントでは通信の安全性を有効にすることはできません。

このシステムは、オンデバイスの機械学習を使用して画像を分析し、性的表現が含まれているかどうかを判断します。これは、Apple がイメージのコピーを取得または受信しないように特別に設計されています。

iMessage の安全機能に加えて、Apple はオンラインの子供の安全に関して Siri と検索で提供するツールとリソースも拡張しています。

例えば、iPhoneまた、iPad ユーザーは、CSAM や児童エクスプロイトの可能性を報告する方法を Siri に尋ねることができます。 Siri は適切なリソースとガイダンスを提供します。

Siri と検索も更新され、ユーザーが CSAM の検索またはクエリを実行した場合に介入できるようになります。 Apple が述べているように、「これらの介入は、このトピックへの関心が有害で問題があることをユーザーに説明し、この問題について支援を受けるためのリソースをパートナーから提供します。」

ユーザーのプライバシーの維持

Appleはユーザーのプライバシーを保護するためにあらゆる努力をしていると長らく宣伝してきた。同社はユーザーのプライバシー権をめぐって法執行機関と真っ向から対決したこともある。法執行機関への情報提供を目的としたシステムの導入に一部のセキュリティ専門家が懸念を抱いているのはこのためだ。

しかしアップルは、システムの監視と悪用が開発中の「主要な懸念事項」だったと主張している。 CSAMやオンラインでの児童搾取に対抗しながら、プライバシーが確実に保たれるように各機能を設計したとしている。

たとえば、CSAM 検出システムは、最初から CSAM のみを検出するように設計されており、他の種類の写真を分析または検出するメカニズムは含まれていません。さらに、特定のしきい値を超える CSAM のコレクションのみを検出します。

Appleは、このシステムは監視への扉を開くものではなく、暗号化を弱めるようなこともしていないと主張している。たとえば、CSAM 検出システムは、エンドツーエンドで暗号化されていない写真のみを分析します。

セキュリティ専門家は依然としてその影響を懸念している。ジョンズ・ホプキンス大学の暗号学教授マシュー・グリーン氏は、ハッシュはユーザーが確認できないデータベースに基づいていると指摘する。それ以上に、無害なイメージが既知の CSAM とハッシュを共有するなど、ハッシュが悪用される可能性があります。

「Appleが『プライバシー』企業であるという考えは、彼らに多くの良い報道をもたらした。しかし、FBIが圧力をかけたため、iCloudバックアップを暗号化しない会社だということを覚えておくことが重要だ」とグリーン氏は書いた。。

ケンブリッジ大学のセキュリティ工学教授であるロス・アンダーソン氏は、このシステムを「まったく恐ろしいアイデア」と呼んだ。インタビューとフィナンシャル・タイムズ紙。同氏は、これが「私たちの携帯電話やラップトップの分散一括監視」につながる可能性があると付け加えた。

デジタル著作権団体の電子フロンティア財団も次のように書いています。ブログ投稿この機能については、「より広範な不正行為への扉を開くことになる」と述べた。

「Appleが構築している狭いバックドアを広げるために必要なのは、追加の種類のコンテンツを探すための機械学習パラメータを拡張するか、子供だけでなくあらゆる人のアカウントをスキャンするための設定フラグを微調整することだけだ。それはそうではない」滑りやすい坂道であり、外部からの圧力がわずかに変化するのを待っているだけの完全に構築されたシステムです」とEFFのインディア・マッキニー氏とエリカ・ポートノイ氏は書いている。