掃描下載 Gate App
qrCode
更多下載方式
今天不再提醒

微軟研究顯示AI購物代理易受騙,自主購物尚不成熟

robot
摘要生成中

深潮 TechFlow 消息,11 月 7 日,据 Decrypt 報導,微軟與亞利桑那州立大學合作發布的「Magentic Marketplace」研究顯示,AI 購物代理在自主決策方面存在嚴重缺陷。研究團隊構建了一個包含 100 個消費者 AI 代理和 300 個商家 AI 代理的模擬經濟環境,測試結果顯示這些 AI 在面對大量搜尋結果時容易出現「首提偏見」,傾向於選擇第一個「足夠好」的選項而非進行全面比較。

更令人擔憂的是,OpenAI 的 GPT-4o 等領先模型極易受到惡意操控,透過假證書、虛假社會證明等手段可被誘導將全部虛擬資金轉給騙子。研究建議 AI 應輔助而非取代人類決策,推薦採用「監督自主」模式,讓 AI 處理任務但保留人類最終決策權。

這項研究發布之際,OpenAI 和 Anthropic 等公司正競相推出自主購物助手,而亞馬遜最近向 Perplexity AI 發出了停止令,要求其 Comet 瀏覽器停止在亞馬遜網站上的使用。

查看原文
此頁面可能包含第三方內容,僅供參考(非陳述或保證),不應被視為 Gate 認可其觀點表述,也不得被視為財務或專業建議。詳見聲明
  • 讚賞
  • 留言
  • 轉發
  • 分享
留言
0/400
暫無留言
交易,隨時隨地
qrCode
掃碼下載 Gate App
社群列表
繁體中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)