タグ: システム

裁判所に送られたファイルの中で、Appleがプラットフォームのプライバシーとセキュリティを維持しながら、児童虐待の画像を探すためにiCloud経由で送信される電子メールをどのように監視できるかが明らかになった。

Apple は、送信されたファイルのハッシュを禁止された素材のデータベースと比較し、後の検査のためにメッセージにフラグを付ける自動システムを使用しています。

Forbesが発見した文書はシアトルで処理された捜査令状の一部であり、 Apple がシステムから違法なメッセージをフィルタリングするセキュリティ システムについて詳述しています。

ハッシュ比較

iCloud はハッシュマッチング システムを使用します。ハッシュ関数は、値の「要約」を作成する数学関数です。

コンピューター上の文書を 1 と 0 の集合として理解すると、これらの数値を文書ごとに固有の値に要約する数学的計算方法を文書に適用できます。 2 つのハッシュが一致する場合、それは同じ文書です。そして、なぜドキュメントではなくハッシュを比較するのでしょうか?理由はいくつかあります。1 つはプライバシーのためで、ハッシュではシステムはそれ以上の意味を持たない数字の文字列のみを認識するため、もう 1 つは効率のためで、たとえば 50 個の数字の 2 つの数字を比較する方が、何百万もの 0 と 1 を比較するよりもはるかに簡単です。文書を構成するもの。

Apple は禁止された画像を含むデータベースを作成し、これらの画像のハッシュを生成しました。電子メール メッセージがiCloud 経由で送信されると、それに含まれる添付ファイルのハッシュがこのデータベースと比較され、一致するものがあれば、その電子メールは検査対象としてマークされます。

フラグが付けられた電子メールは Apple 内の特定のチームに渡され、メッセージに違法な内容が含まれていないことがチェックされ、違法な内容が含まれている場合は Apple が管轄当局に報告します。

このシステムは、国立行方不明児童搾取センターなどの組織にメッセージを送信する他の企業が使用しているものよりもはるかに効率的でプライベートなものです。このシステムでは、手作業による検査を行わずに自動システムのみが疑わしい電子メールにフラグを立てます。

機能するシステム

捜索令状には、システムがユーザーのメッセージから「児童ポルノの複数の画像」を検出した経緯を説明する特定の事件についてアップル従業員が述べたコメントが含まれている。

警察への告訴の一環として、Apple はユーザーの名前、住所、電話番号などの情報も提供しました。この情報を受けて、政府はユーザーの完全な活動記録を要求しました。

Apple が自社のプラットフォーム上であらゆる方法で法律を遵守し、その過程で常にユーザーのプライバシーを尊重していることは疑いの余地がありません。もちろん、犯罪が関与している場合、プライバシーは後回しになり、当局とのコミュニケーションは熱心かつ効率的に行われます。