AI 電話詐欺は本当に怖いようです。自分と家族を守るために次の 5 つのことを実行してください

詐欺師は、AI を活用した音声クローン技術を利用して、人々を脅してお金を引き渡させることが増えています。次の犠牲者にならないようにする方法は次のとおりです。

恐怖に泣きすすり泣く愛する家族の声を聞くために携帯電話を手に取った家族の話、続いて誘拐犯が即時送金を要求する話などを聞いたことがあるかもしれません。

しかし、これらのシナリオには誘拐はありません。これらの声は本物です。詐欺師が AI モデルを使用してディープフェイクを生成しただけです（ニューハンプシャー州の予備選挙で、誰かが有権者に投票を思いとどまらせるためにジョー・バイデンの声を変更したときと同じです）。これらの声がどれほど不気味なほど本物であるにもかかわらず、子供、配偶者、親が誘拐されていないことを証明するには、すぐに電話をかけるだけで済むことがよくあります。

問題は、真実が明らかになるまでに、パニックに陥った家族がすでに偽誘拐犯に多額の金を吐き出している可能性があることだ。さらに悪いことに、これらのテクノロジーがより安価でどこにでも普及し、データへのアクセスが容易になるにつれて、より多くの人がこうした詐欺の被害に遭いやすくなる可能性があります。

では、これらの詐欺から身を守るにはどうすればよいでしょうか?

AI 電話詐欺の仕組み

まず、背景について説明します。詐欺師はどのようにして個人の声を複製するのでしょうか?

ビデオディープフェイクは生成がはるかに複雑ですが、オーディオディープフェイクは、特に簡単な当て逃げ詐欺の場合に簡単に作成できます。たとえば、あなたまたはあなたの愛する人が YouTube や TikTok 動画に動画を投稿した場合、詐欺師はあなたの声を複製するためにその録音をわずか 3 秒必要とします。そのクローンを手に入れると、詐欺師はそれを操作して、ほぼ何でも言うことができます。

OpenAI は、Voice Engine と呼ばれる音声クローンサービスを作成しましたが、表向きは悪用の可能性が実証されたことを理由に、3 月に一般アクセスを一時停止しました。それでも、GitHub には、さまざまな品質の無料の音声クローンツールがすでにいくつかあります。

ただし、このテクノロジーにはガードレール付きのバージョンもあります。自分の声、または合法的にアクセスできる声を使用して、音声 AI 企業イレブンラボでは、1 分間のサンプルから 30 分間のクローンオーディオを作成できます。サブスクリプション階層により、ユーザーは複数の音声を追加したり、別の言語で音声のクローンを作成したり、クローンされた音声をより多くの時間分取得したりすることができます。さらに、同社は不正なクローン作成を防ぐためにいくつかのセキュリティチェックを実施しています。

適切な状況では、AI 音声クローン作成が役立ちます。イレブンラボは、テキストプロンプトだけで使用できる、世界中のさまざまな言語からの非常に幅広い合成音声を提供しており、これにより、多くの業界がさまざまな聴衆に簡単にアプローチできるようになります。

音声 AI が向上するにつれて、不規則な一時停止や遅延の問題が少なくなり、特に詐欺師が正規の番号から発信しているかのように通話できる場合には、偽物を見分けるのが難しくなる可能性があります。現在および将来の自分を守るためにできることは次のとおりです。

1. 不審な電話を無視する

当たり前のことのように聞こえるかもしれませんが、AI 電話詐欺を回避するための最初のステップは、未知の番号からの電話を無視することです。確かに、応答して通話がスパムであると判断して電話を切るのは簡単かもしれませんが、音声データが漏洩する危険があります。

詐欺師はこれらの通話を音声フィッシングに使用したり、音声の複製に必要な数秒間の音声を収集するために特に偽の電話をかけたりすることができます。特に、見覚えのない番号の場合は、何も言わずに断り、ネットで番号を調べてください。これにより、呼び出し元の正当性が判断される可能性があります。確認のために答えたい場合は、できるだけ発言しないでください。

個人情報や銀行関連の情報を求めて電話をかけてくる人は信用すべきではないことは、おそらくご存じでしょう。電話、またはテキスト、サポートチャット、電子メールなどのその他の確認済みの通信回線を介して、機関に直接連絡することで、いつでも通話の信頼性を確認できます。

ありがたいことに、ほとんどの携帯電話サービスは、未知の番号を事前にスクリーニングし、潜在的なスパムとしてラベル付けし、一部の作業を行ってくれます。

2. 親戚に電話する

知り合いのような警戒電話を受けた場合、AI 誘拐詐欺の誤りを暴く最も早くて簡単な方法は、テキストメッセージや電話で愛する人の安否を確認することです。パニックになっている場合、または別の電話が手元にない場合は、これを行うのが難しいかもしれませんが、詐欺師である可能性のある相手と電話を続けている間でもテキストを送信できることを覚えておいてください。

3. コードワードを確立する

愛する人、特に子供たちと、困っているのに話せないときに使う共通の合言葉を決めましょう。不審な電話を受けて、あなたの愛する人があなたの暗証番号を発することができなかった場合、それは詐欺である可能性があることがわかります。

4. 質問する

また、愛する人を装った詐欺師に、昨晩の夕食に何を食べたかなど、具体的な詳細を尋ねながら、愛する人に個別に連絡を取ろうとすることもできます。動じないでください。詐欺師はタオルを投げて電話を切る可能性があります。

5. 投稿内容に注意する

ソーシャルメディアや一般公開されているサイトでのデジタルフットプリントを最小限に抑えます。電子透かしを使用して、コンテンツの改ざんを防止することもできます。これは絶対確実というわけではありませんが、メタデータが変更されないように保護する方法が見つかるまでは、次善の策です。

オーディオクリップやビデオクリップをインターネットにアップロードする予定がある場合は、セントルイスにあるワシントン大学の研究者によって開発された無料ソフトウェア、Antifake を使用することを検討してください。

このソフトウェア (ソースコードは GitHub で入手できます) は、オーディオに追加の音や中断を加えます。これらは、元のスピーカーが人間にどのように聞こえるかを破壊することはありませんが、AI クローンシステムとはまったく異なるオーディオサウンドを作成するため、それを変更する取り組みが妨げられます。

6. ディープフェイク検出器に頼らない

Pindrop Security、AI or Not、AI Voice Detector などのいくつかのサービスは、AI によって操作された音声を検出できると主張しています。ただし、そのほとんどは購読料が必要であり、一部の専門家は、購読する価値すらないと考えています。 VSノースウェスタン大学コンピューターサイエンス教授のサブラマニアン氏は、公的に入手可能な14の検出ツールをテストした。「現在、音声ディープフェイク検出器に頼ることはできませんし、使用を推奨することもできません」と同氏はポインター氏に語った。

セント・トーマス大学応用人工知能センター所長のマンジート・レーゲ氏は、「一般の人々がディープフェイク音声を検出できる完全に信頼できるツールはまだ一つもないと言えます」と付け加えた。「現段階で私がアドバイスするのは、複数の検出方法を組み合わせたアプローチです。」

その一方で、コンピュータ科学者は、バッファロー大学メディアフォレンジックラボのディープフェイク-O-メーターのような、より優れたディープフェイク検出システムの開発に取り組んでおり、間もなく開始される予定です。それまでは、信頼できる公的サービスが存在しない場合は、自分の判断を信じて上記の手順に従って、自分と自分の愛する人たちを守りましょう。