ディープフェイクの 作成はますます簡単になり、これまで以上に説得力が増しています。サイバー犯罪者は、ビデオと音声のディープフェイクを使用して、詐欺に信頼できる「偽の本物性」を追加することで被害者から金銭を脅し取っています。
人々の信念を編集する
「カメラは決して嘘をつかない」と最初の人が言って以来、そうではないことを証明しようとする人たちがいました。 19 世紀後半のクリエイティブな写真家は、簡単なトリックを使って偽造画像を作成しました。
「瓶の中の人」というギャグは一時的に人気を博しました。適切なポーズで自分の写真を撮ります。写真を適切なサイズで現像して印刷します。画像を切り取ってガラス瓶に入れ、瓶を持った自分の写真を撮ります。やあ、あなたは自分自身のミニチュア版が入ったボトルを持っているイメージを持っています。
もちろん、今日では Photoshop や GIMP を使用してこのようなことを行うことができます。そして、十分なスキルと創造性があれば、専門家は完全に本物に見えながらも不可能な要素を含む画像を作成できることを私たちは認識しています。逆説的ですが、その意識は私たちが本物の写真を疑うことにつながる可能性があります。一生に一度の出来事をまったくのまぐれで捉えた驚くべき画像には、常に「それは本当ですか?」という疑問が生まれます。
瓶に入ったミニチュアの人物の写真は明らかに偽造です。しかし、写真を変更して、真実である可能性のあるものを写し、かつ本物に見えるようにすると、一部の人々はそれを信じるでしょう。
これはもう視覚的なギャグの話ではありません。それはイメージを武器にすることです。それはソーシャルエンジニアリングです。
動画とトーキー
映画が社会的見世物になるとすぐに、先駆的な映画制作者は特殊効果とトリックを使用して 2 つの問題を解決しました。 1 つは実際に起こり得るが撮影が非現実的なものを撮影することであり、もう 1 つは単純に不可能なことを撮影することです。これを解決した結果、今日の大規模な特殊効果産業が誕生しました。
サウンドと会話の追加により、サイレント映画は終焉を迎え、トーキー映画が台頭しました。沈黙のスターの中には 移行をしなかった人もいます 。声が合っていなかったり、セリフを確信とタイミングで伝えることができなかったり。多重録音が普及するまでは、別の人をキャスティングする以外に解決策はありませんでした。
今日は俳優の声も操作しています。ジョージ・クルーニーは本当に『O Brother, Where Art Thou』で歌ったのですか?いいえ、それは ジョージ・クルーニーの動画にコンピューターでリップシンクされた ダン・ティミンスキー の声でした。
この種のビデオとサウンドの操作を実行できるシステムは大規模で高価であり、それを操作するには専門家が必要です。しかし、妥当なコンピュータ ハードウェアで実行できる、入手が容易で比較的単純なソフトウェアを使用すれば、納得のいく最終結果を達成できます。
ビデオとオーディオはハリウッドの品質ではないかもしれませんが、サイバー犯罪者が偽造の画像、ビデオ、オーディオを武器庫に追加できるようにするには十分であることは確かです。
ディープフェイク
ディープフェイク という用語は、ビデオ内の誰かが完全に別人の顔を被るように操作されるデジタル映像を指す造語です。名前の「ディープ」の部分は、 人工知能の機械学習分野 の一つである「ディープラーニング」に由来しています。機械学習は、専門的なアルゴリズムと大量のデータを使用して、目的を達成するために人工ニューラル ネットワークをトレーニングします。システムをトレーニングする必要があるデータが多ければ多いほど、より良い結果が得られます。
誰かの十分な写真を提供すると、深層学習システムはその人の顔の人相を非常によく理解できるようになり、あらゆる角度からどんな表情をしたときにどのように見えるかを計算できるようになります。その後、ビデオ内の人物のすべての表情や頭のポーズと一致する、その人物の顔の画像を作成できます。
これらの画像がビデオに挿入されると、新しい顔がビデオのアクションと完全に一致します。人工的に作成された顔の表情、口パク、頭の動きは、実際のビデオ撮影時に元の人物が着用していたものと同じであるため、非常に説得力のある偽物が得られます。
これは、2 つの顔の形状が似ている場合に特に当てはまります。有名なディープフェイクでは 、リンダ カーターの顔をガル ガドットの体にマッピングし 、ワンダーウーマンの 2 つのバージョンを融合させます。他の注目を集めた例には、バラク・オバマとトム・クルーズが登場しました。それらと他の多くの例を YouTube で見つけることができます。
同じ機械学習手法を オーディオにも適用できます 。十分な音声サンプルがあれば、人工ニューラル ネットワークをトレーニングして、サンプリングされた音声を複製する高品位なサウンド出力を生成できます。そして、好きなことを言うようにすることができます。 HP ラヴクラフトのエルドトリッヒの恐怖を ノトーリアス BIG がラップしているのを聞きたいですか?繰り返しになりますが、YouTube がその場所です。実際、ノトーリアス・BIGがラヴクラフトをラップしているのとよく似た音が聞こえるでしょう。
これらのテクニックは、クレイジーなマッシュアップや夏の大ヒット作を超えて、他の場所でも機能的に使用されています。 Descript は、録音のテキスト トランスクリプトを作成するサウンドおよびビデオ エディターです。テキストドキュメントを編集すると、録音に変更が加えられます。自分の言い方が気に入らない場合は、テキストを編集してください。 Descript は、あなた自身の声から不足している音声を合成します。最短 1 分間のオリジナル音声録音から音声を合成できます。
韓国のテレビチャンネル MBN は 、ニュースアンカーであるキム・ジュハ のディープフェイクを作成しました。通常はキム・ジュハが担当するストーリーが、彼女がスタジオにいないときに中断された場合、ディープフェイクがそれを配信します。
サイバー犯罪はすでに始まっている
サイバー犯罪者は、攻撃を改善または最新化するために利用できるあらゆる時流に常に飛びつきます。音声のフェイクは非常に優れているため、フェイクを明確に識別するにはスペクトラムアナライザーが必要となり、ディープフェイクビデオを識別するための AI システムが開発されています。画像を操作することで武器化できるのであれば、ほとんどの人を騙すのに十分な音声やビデオの偽物を使って何ができるかを想像してみてください。
偽造された画像や音声を使った犯罪はすでに起きています。専門家は、ディープフェイクサイバー犯罪の次の波にはビデオが関係すると予測しています。在宅勤務やビデオ通話が多用される「新しい常態」が、ディープフェイクサイバー犯罪の新時代の到来をもたらした可能性があります。
フィッシング攻撃
昔の フィッシング メール攻撃では、被害者が危険な立場や恥ずかしい立場にある動画を持っていると主張するメールを送信します。ビットコインで支払いを受け取らない限り、映像は友人や同僚に送信されます。このようなビデオがあるのではないかと恐れ、 身代金を支払う 人もいます。
この攻撃のディープフェイクの亜種では、電子メールにいくつかの画像が添付されます。これらはビデオから拡大された静止画であると主張されている。被害者の顔はフレームの大部分を占めており、デジタル的に画像に挿入されている。初心者にとって、これらは脅迫の脅威をより説得力のあるものにします。
ディープフェイク システムの効率が向上するにつれて、より小さなデータ セットでトレーニングできるようになります。多くの場合、ソーシャル メディア アカウントは、学習データベースとして使用するのに十分な画像を提供できます。
ビッシング攻撃
電子メール フィッシング攻撃は、さまざまなテクニックを使用して緊迫感を生み出し、人々に急いで行動させようとしたり、役に立ち、有能だと思われたいという従業員の願望を利用したりします。電話によるフィッシング攻撃はビッシング攻撃と呼ばれます。彼らは同じソーシャル エンジニアリング手法を使用しています。
米国の弁護士は息子から電話を受けましたが、息子は明らかに心を痛めていました。彼は自動車事故で妊婦をはね、現在拘留されていると述べた。彼は父親に、国選弁護人から1万5000ドルの保釈金を手配するよう連絡が来ることを期待するように告げた。
電話は息子からのものではなく、詐欺師が息子のサウンドクリップを使って訓練したテキスト読み上げシステムを使って 音声ディープフェイク を作成したものでした。弁護士は一瞬も疑問を抱かなかった。彼に関する限り、彼は自分の息子と話していました。彼は国選弁護人からの電話を待ちながら、時間をかけて義理の娘と息子の勤務先に電話をし、事故のことを知らせた。息子に連絡があり、電話でそれは詐欺だと告げられました。
英国のCEOはそれほど幸運ではなかった。彼は、同社のドイツの親会社の最高経営責任者からと称する スピアフィッシングメール を受け取った。これにより、ハンガリーの供給業者に対し、1時間以内に24万3,000ポンド（約33万5,000ドル）を支払うよう求められた。その後すぐに最高経営責任者から電話があり、支払いが緊急であり、すぐに行う必要があることを確認しました。
被害者は、上司の声とわずかなドイツ訛りを認識しただけでなく、抑揚と注意深い発音も認識したと述べた。それで彼は喜んで支払いをしました。
対策
ディープフェイクの潜在的な脅威は米国政府によって認識されています。 2018 年の悪意のあるディープ フェイク禁止法 と 敵対的生成ネットワークの出力の特定法 (IOGAN 法) は、ディープフェイクによってもたらされる脅威に直接対応するために制定されました。
企業はサイバーセキュリティ意識向上トレーニングにディープフェイクに関する議論を追加する必要があります。サイバー認識トレーニングは、新入社員の導入の一部である必要があり、すべてのスタッフに対して定期的に繰り返す必要があります。
これまでに確認された攻撃は、フィッシング攻撃とスピアフィッシング攻撃の洗練されたバージョンです。簡単な手順でこれらの多くを罠にかけることができます。
- 電子メールを受信しただけで資金の送金を行うべきではありません。
- フォローアップの電話は、送信者から受信者に行うのではなく、電子メールの受信者から送信者に行う必要があります。
- 外部の攻撃者が知らないチャレンジフレーズを組み込むことができます。
- 相互参照し、異常な点をすべて再確認します。
