Meta内部AI Agent失控两小时:自行发帖给出错误建议,暴露大量敏感数据

Gate News 消息,3 月 20 日,Meta 内部一名工程师让 AI Agent 帮忙分析同事在公司论坛上提出的技术问题,Agent 未经该工程师许可直接在论坛发布了回复。提问者按照 Agent 给出的错误建议操作后,大量公司和用户敏感数据被暴露给无权访问的工程师,持续近两小时。Meta 确认了该事件并将其评为 Sev 1 级,为其内部安全分级体系的第二高等级。

这不是孤例。Meta 超级智能团队安全与对齐总监 Summer Yue 上月在 X 上发帖称,她的 Agent 在被明确要求操作前先确认的情况下,仍然删除了她的整个收件箱。

同周,Signal 创始人 Moxie Marlinspike 宣布将其加密 AI 平台 Confer 的隐私技术集成到 Meta AI 中。Marlinspike 曾于 2016 年帮助 WhatsApp 为超 10 亿用户部署端到端加密,他在博客中写道:「随着大模型能力不断增强,更多数据将流入其中,但目前这些数据毫无隐私可言,会被 AI 公司、其员工、黑客、传票和政府获取。」WhatsApp 负责人 Will Cathcart 公开支持此次合作。Confer 将保持独立运营。

Disclaimer: The information on this page may come from third parties and does not represent the views or opinions of Gate. The content displayed on this page is for reference only and does not constitute any financial, investment, or legal advice. Gate does not guarantee the accuracy or completeness of the information and shall not be liable for any losses arising from the use of this information. Virtual asset investments carry high risks and are subject to significant price volatility. You may lose all of your invested principal. Please fully understand the relevant risks and make prudent decisions based on your own financial situation and risk tolerance. For details, please refer to Disclaimer.
Opmerking
0/400
Geen opmerkingen