扫码下载 APP
qrCode
更多下载方式
今天不再提醒

微软研究显示AI购物代理易受骗,自主购物尚不成熟

robot
摘要生成中

深潮 TechFlow 消息,11 月 7 日,据Decrypt报道,微软与亚利桑那州立大学合作发布的"Magentic Marketplace"研究显示,AI购物代理在自主决策方面存在严重缺陷。研究团队构建了一个包含100个消费者AI代理和300个商家AI代理的模拟经济环境,测试结果表明这些AI在面对大量搜索结果时容易出现"首提偏见",倾向于选择第一个"足够好"的选项而非进行全面比较。

更令人担忧的是,OpenAI的GPT-4o等领先模型极易受到恶意操控,通过假证书、虚假社会证明等手段可被诱导将全部虚拟资金转给骗子。研究建议AI应辅助而非替代人类决策,推荐采用"监督自主"模式,让AI处理任务但保留人类最终决策权。

这一研究发布之际,OpenAI和Anthropic等公司正竞相推出自主购物助手,而亚马逊最近向Perplexity AI发出了停止令,要求其Comet浏览器停止在亚马逊网站上的使用。

此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 评论
  • 转发
  • 分享
评论
0/400
暂无评论
交易,随时随地
qrCode
扫码下载 Gate App
社群列表
简体中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)