BitcoinマイナーがチャットGPTとGoogleを操作して航空会社の詐欺を行う不正行為を暴露

ソース：Criptonoticias オリジナルタイトル：ビットコイン採掘事業者がChatGPTとGoogleを操作する詐欺を暴露 オリジナルリンク：

発見

Aurascapeは、Auradineによって設立され、Aura Labsのエコシステム内で独立して運営されているサイバーセキュリティおよび人工知能企業で、新たなインターネット詐欺モデルを明らかにしました。

12月8日の声明で言及された詐欺は、ChatGPT、Google、Perplexityなどの大規模言語モデルに基づく他のアシスタントプラットフォームに影響を与えています。

調査によると、この詐欺モデルは、ウェブコンテンツの体系的な操作に依存しており、航空会社のカスタマーサポートの偽の電話番号にユーザーを誘導するために仕組まれています。

攻撃の仕組み

研究者は、攻撃者はAIアシスタントの内部動作や質問応答プログラム(の仕組みを改変しようとはしていないと説明しています)。

代わりに、これらのシステムが情報を取得する環境に介入します。正規のウェブページを操作し、航空会社の連絡先情報を検索した際に、虚偽の電話番号を表示させ、それらが詐欺センターへと誘導し、支払いまたは機密情報を奪おうとします。

実際には、攻撃はAIモデルそのものではなく、モデルが参照する資料に向けられています。そのため、ユーザーを直接騙すよりも、攻撃者は回答を生成するシステムに影響を与える方法を学び、その範囲を拡大しているのです。

メカニズム：「LLM電話番号毒物化」

Aurascapeによると、詐欺師たちは調査員が「言語モデルのための電話番号毒物化」と表現するプロセスを実行しています。

この仕組みは、インターネット上の正規コンテンツを改ざんし、AIアシスタントがそれらを読み取り、公式のように偽の番号を推奨させることにあります。

調査員は、攻撃者がウェブそのものを攻撃していると説明しています。具体的には、公共機関、大学、WordPressブログ、YouTubeの説明欄、Yelpのレビューなど、さまざまなサイトに偽の内容を挿入しています。

また、攻撃者はGenerative Engine OptimizationやAnswer Engine Optimizationといった他の技術も駆使し、情報の選択と合成方法に影響を与えています。

これら二つの技術を用いて、AIアシスタントが「正しい回答」とみなす空間を占有しています。

詐欺の実例

内部デモンストレーションでは、Aurascapeは「エミレーツ航空の公式予約番号」を検索した際に、Perplexityが確実に偽の番号を返したことを示しました。

同様の検索でBritish Airwaysの番号も同じもので、「一般的に使用されている番号」として提示されました。

さらに、次の画像のように、GoogleのAI Overview機能は複数の偽番号を公式のものとして提示し、フライト予約の手順も詳しく案内しました。

ビットコイン採掘とAIの交差点

Auradineは、ビットコインのマイニング用ハードウェアの製造を専門とする米国企業です。MARAやGenesis Digital Assetsなどの他の採掘企業もすでにASIC機器を導入しています。

しかし、Aurascapeの調査は、ますます拡大しているもう一つの現象も浮き彫りにしています。それは、ビットコイン採掘企業とAI産業の交差点です。

採掘企業は、人工知能に関連する活動へと事業を拡大しています。これらの企業は、大規模なハードウェアインフラやデータセンターを運用する習慣があり、採掘市場の変動性リスクを軽減し、サービスの多角化を目指しています。

Auradineによる安全性の分析は、その交差点の進展と、採掘者が技術的な専門知識を活用して、計算、分析、サイバーセキュリティの需要が継続的に増加している分野に進出している例です。