Apple の CSAM (児童性的虐待資料) スキャナー については多くの話題があります。現在、 ハッカーが CSAM スキャナーをだまして誤検知を引き起こす一歩手前まで来ている可能性があるため、このスキャナーが再びニュースになっています。
Apple の CSAM スキャナの問題
Reddit ユーザーは、 オンデバイス CSAM 検出のための Apple の NeuralHash アルゴリズム を理解するためにリバース エンジニアリングを行いました。その際、誤検知を引き起こす可能性のあるハッシュ内の衝突の可能性を発見しました。 衝突とは 、2 つのデータが同じハッシュ値、チェックサム、フィンガープリント、または暗号ダイジェストを持つ場合に発生する潜在的な衝突です。
Cory Cornelius という名前のプログラマーは 、アルゴリズムで衝突 を引き起こしました。これは、同じハッシュを作成する 2 つの画像を発見したことを意味します。これは誤検知を作成するために使用される可能性があり、画像が完全に無害である場合でも、画像に児童虐待が含まれているとして Apple にフラグを立てる可能性があります。
確かに簡単ではありませんが、CSAM イメージではない場合でも、ハッカーが CSAM アラートを発生させるイメージを生成する可能性があります。
Apple には、誤検知が問題を引き起こさないように設計されたレイヤーがあります。たとえば、画像にフラグが立てられた場合、法執行機関に送信する前に実際の人物によって確認される必要があります。その時点に到達する前に、ハッカーは NCMEC ハッシュ データベースにアクセスし、30 枚の衝突画像を作成し、それらすべてをターゲットの携帯電話に取得する必要があります。
とはいえ、これは Apple の CSAM スキャナーで発生する別の問題にすぎません。すでに多大な反対があり、プログラマーがすでにリバースエンジニアリングできていたという事実は非常に憂慮すべきことです。衝突が現れるまでに何か月もかかるのではなく、コードが公開されてから数時間以内に衝突が発見されました。それは懸念すべきことだ。
アップルは何かしてくれるでしょうか？
Apple がこの状況にどう対処するかは時間が経てば分かるだろう。同社は、NeuralHash アルゴリズムを使用する計画を撤回する可能性があります。 Apple の写真スキャン計画 に対する信頼はすでに低いため、少なくとも同社はこの状況に対処する必要がある。
