應對 DeepSeek 開源衝擊!OpenAI 更新 Model Spec:強調客製化與思想自由,釋出公眾授權版本

ChainNewsAbmedia
DEEPSEEK-17,82%
SPEC-3,41%

OpenAI 調整 AI 行為規範,強調透明度與使用者自主性

OpenAI 近期發布新版 Model Spec(模型規範),定義了其 AI 模型的運作方式,包括決策邏輯、內容限制與使用者互動規範。本次更新強調客製化、透明度,並提出更明確的內容限制邊界,允許使用者在一定範圍內自由探索和討論各類議題。

此外,OpenAI 也公佈了 AI 模型在 Model Spec 規範下的表現測試結果,顯示與去年 5 月相比有所提升,但仍存在改進空間。與此同時,OpenAI 將 Model Spec 以 Creative Commons CC0(公有領域)授權釋出,開發者和研究人員可自由使用、改編或在此基礎上進行開發。

新版 Model Spec 的主要調整

新版 Model Spec 主要針對 AI 的決策原則和行為準則進行調整,重點包括:

指令優先權機制(Chain of Command)

AI 將依照「平台(OpenAI)→ 開發者 → 使用者」的順序決定優先執行的指令。這意味著開發者與使用者可在一定範圍內自訂 AI 行為,但仍需遵守 OpenAI 設定的基本規範。

內容處理原則(Seek the Truth Together & Stay in Bounds)

AI 被設計為避免在回答中表達立場或推動特定觀點,而是提供多角度資訊,並協助使用者自行評估問題。

針對特定敏感話題,如政治、文化議題,AI 可提供相關資訊,但仍需遵守 OpenAI 設定的限制。

AI 不會回應涉及違法行為或潛在危害的請求,例如製造武器或侵犯隱私的詳細指導。

互動風格與輸出格式

預設對話風格將維持友善、具同理心且有幫助,但使用者可根據需求調整語氣與回應方式。

針對不同類型的請求,AI 會根據適當格式輸出,例如條列式重點整理、程式碼片段或正式書面回覆。

新版 Model Spec 對開發者與使用者有何影響?

這次更新的核心之一是進一步強調思想自由與內容處理的靈活性,OpenAI 表示 AI 不應因話題具爭議性而拒絕提供資訊,前提是這些資訊不會導致實質危害。

這項改變可能會影響開發者與使用者的 AI 互動方式,例如: 開發者可更自由地調整 AI 的回應方式,但仍需遵循 OpenAI 設定的基本規則。 使用者在討論具爭議性話題時,AI 將傾向提供多角度資訊,而非拒絕回應。 對於涉及違法或風險行為的請求,AI 仍將拒絕提供詳細指導。

新版 Model Spec 測試結果與改進空間

為了評估新版 Model Spec 的實際影響,OpenAI 設計了一套挑戰性測試集,測試 AI 在不同情境下的表現。這些測試由 AI 生成,並經過專家審核,以確保涵蓋常見場景與複雜議題。

測試結果顯示:

與去年 5 月的模型相比,AI 在遵循 Model Spec 原則方面有所提升,但部分場景下仍存在不一致或不足之處。

OpenAI 認為,這些進步主要來自於校準技術 (alignment) 的改善,而非單純的政策變更。

OpenAI 計劃持續擴大測試範圍,特別是針對 AI 在真實使用場景中的行為表現進行優化。

開源 Model Spec:加強社群參與

為了促進 AI 研究與應用,OpenAI 將 Model Spec 以 CC0 授權公開,開發者與研究人員可以:

自由使用 Model Spec 作為 AI 設計參考 改編規範 以適應特定應用需求 開發新的評估標準,提升 AI 行為一致性

此外,OpenAI 也計劃釋出測試用的評估提示集,未來將提供更多 評估工具與程式碼,以便社群參與 AI 對齊機制的改進。

Model Spec 未來發展方向

隨著 AI 技術的進步,OpenAI 表示 Model Spec 將持續更新,並計劃透過更廣泛的用戶與社群回饋進行調整。

未來更新不會再透過部落格公告,使用者可在 model-spec.openai.com 查看最新版本。 擴大公眾參與,目前 OpenAI 已進行小規模測試,未來可能擴展至更廣泛的用戶群體,以獲取更多回饋。

OpenAI 認為,AI 的行為校準 (alignment) 是一個持續演進的過程,未來將繼續調整其策略,以符合技術發展與使用者需求。

這篇文章 應對 DeepSeek 開源衝擊!OpenAI 更新 Model Spec:強調客製化與思想自由,釋出公眾授權版本 最早出現於 鏈新聞 ABMedia。

Disclaimer: The information on this page may come from third parties and does not represent the views or opinions of Gate. The content displayed on this page is for reference only and does not constitute any financial, investment, or legal advice. Gate does not guarantee the accuracy or completeness of the information and shall not be liable for any losses arising from the use of this information. Virtual asset investments carry high risks and are subject to significant price volatility. You may lose all of your invested principal. Please fully understand the relevant risks and make prudent decisions based on your own financial situation and risk tolerance. For details, please refer to Disclaimer.
Commento
0/400
Nessun commento