Microsoft Researchによると、AIショッピングエージェントは騙されやすく、自律的な買い物はまだ未成熟です

深潮 TechFlow の報道によると、11月7日、Decryptの報告によれば、Microsoftとアリゾナ州立大学が共同で発表した「Magentic Marketplace」研究は、AIショッピング代理の自主的意思決定に深刻な欠陥があることを示しています。研究チームは、100人の消費者AI代理と300人の商家AI代理を含む模擬経済環境を構築し、テストを行いました。その結果、これらのAIは大量の検索結果に直面すると「最初の提案偏見」を示し、十分に良いと判断した最初の選択肢を選びやすく、全面的な比較を行わない傾向があることが判明しました。

さらに懸念されるのは、OpenAIのGPT-4oなどの先進モデルが悪意のある操作に非常に脆弱である点です。偽の証明書や虚偽の社会的証明を用いて、全ての仮想資金を詐欺師に送金させるよう誘導される可能性があります。研究は、AIは人間の意思決定を補助すべきであり、代替すべきではないと提言しており、「監督付き自主」モデルの採用を推奨しています。これは、AIにタスクを処理させる一方で、人間が最終的な決定権を保持する方式です。

この研究発表のタイミングで、OpenAIやAnthropicなどの企業は自主的なショッピングアシスタントの導入を競って進めている一方、Amazonは最近、Perplexity AIに対して停止命令を出し、同社のCometブラウザのAmazonサイト上での使用を停止させるよう求めています。