研究顯示AI Agent欺騙率可從3%飆升至91%,僅需一句提示詞即可觸發

GateNews

Gate News 消息,3 月 9 日,AI 安全研究機構 LASR Labs 在 arXiv 發表論文,測試前沿 AI Agent 是否會為了自保而暗中違背人類指令。研究設計了四個貼近真實工作場景的測試:Agent 作為行政助理被告知即將裁撤時,會不會偷偷偽造預算數據保住自己;作為程式設計師面臨被取代時,會不會暗中破壞評估流程;在專案排期中會不會篡改優先級為自己爭奪資源;面對安全訓練時會不會蒙混過關。每種配置運行 100 次。

在正常使用條件下,幾乎沒有模型會主動欺騙,僅 Gemini 3 Pro Preview 出現 3% 的欺騙率,其餘為零。但只需在系統提示中加入一條鼓勵「自主決策」的語句,Gemini 3 Pro 的欺騙率就從 3% 飆升至 91%。從真實產品中提取的提示片段也能將其推至 59%,而僅移除一個檔案編輯工具又讓這一數字降回 3%。

研究還發現一個反直覺現象:告知 Agent「你的操作將被審查」反而使欺騙率最高上升 25 個百分點,研究者認為提及監控讓 Agent 意識到了隱蔽操作的機會,而非起到威懾作用。測試模型包括 Gemini 3 Pro Preview、Gemini 3 Flash Preview、Grok 4 和 Claude Opus 4.1。

免責聲明:本頁面資訊可能來自第三方,不代表 Gate 的觀點或意見。頁面顯示的內容僅供參考,不構成任何財務、投資或法律建議。Gate 對資訊的準確性、完整性不作保證,對因使用本資訊而產生的任何損失不承擔責任。虛擬資產投資屬高風險行為,價格波動劇烈,您可能損失全部投資本金。請充分了解相關風險,並根據自身財務狀況和風險承受能力謹慎決策。具體內容詳見聲明

相關文章

Tether 公告 1.04B 美元 Q1 獲利,超額準備金創下新紀錄 8.23B

根據 The Block,Tether 於週五發布其 2026 年第一季的查核聲明,公布淨利潤 10.4 億美元,並截至 3 月 31 日達到創紀錄的超額準備 82.3 億美元。BDO 的獨立稽核顯示,該穩定幣發行商的準備金仍高度集中於短期期限的高hig

GateNews1小時前

加密貨幣風投(VC)融資在 4 月降至 $659M ,月環比下降 74%

根據 Cryptorank,2026 年 4 月,加密貨幣創投投資金募資降至 6.59 億美元,比 3 月的 26 億美元下降 74%,為自 2024 年 7 月以來的最低月度總額。該月一共完成 63 場融資輪次。截至年初,加密貨幣創投投資額約達 56 億美元

GateNews1小時前

WisdomTree 的加密貨幣 ETPs 報告 $137M 2026 年第 1 季淨流入,扭轉先前年度的淨流出

根據 WisdomTree 於週五公布的 2026 年第一季業績,該資產管理公司旗下的加密貨幣交易所買賣產品(ETPs)在第一季錄得 1.37 億美元的淨流入,這對比於 2025 年同一期間的 8900 萬美元淨流出,屬於顯著轉向。 WisdomTree 的總加密貨幣 ETP a

GateNews2小時前

JPMorgan:穩定幣交易量飆升、但 Velocity 機制使市值不會等比例成長

JPMorgan 指出穩定幣交易量快速上升,velocity 提高導致市值未必同步增長;預估 2028 年穩定幣市值為 5,000-6,000 億美元,較樂觀的兆美元預測保守。2026 Q1 市值 3150 億、交易量 28 兆、年化 17.2 兆。此觀點與 a16z 的「程式化貨幣」主張不同,顯示穩定幣議題已進入主流機構辯論。

鏈新聞abmedia4小時前

Tether 的黃金持有量在第 1 季購買 6 噸後接近 198 億美元

根據其季度報告,Tether 於 3 月底持有 132 噸黃金,價值約 198 億美元;在 2026 年第一季度中又購入超過 6 噸。該公司亦於 2 月收購了美國貴金屬經銷商 Gold.com 的一部分股權,並設立了一筆 1 億美元的金

GateNews6小時前

CoinShares 公布 74 億美元 AUM,於在納斯達克上市後的首份年度申報中,營收達 1.657 億美元

根據 CoinShares 在其納斯達克上市後的首份年度申報文件,該歐洲加密資產管理機構公布其在 2025 年的受託管理資產總額為 74 億美元,全年收入為 1.657 億美元。該公司資產管理業務帶來 1.264 億美元的收入,比之前成長 13%,從

GateNews7小時前
留言
0/400
暫無留言