OpenAI 暫停成人聊天功能的推廣,原因是年齡驗證失敗

robot
摘要生成中

OpenAI 已經暫停推出其 ChatGPT 的成人聊天功能,理由是年齡預測技術存在重大缺陷。根據 NS3.AI 的數據,該系統無法準確區分未成年人與成年人,造成的問題比最初預期的更為嚴重,約有 12% 的情況下錯誤地將青少年識別為成年人。這一失敗率立即引發了對該功能對年輕用戶安全影響的警示。

年齡驗證挑戰

核心問題在於年齡預測算法的技術限制。在部署專為成人用戶設計的功能時,準確的年齡驗證變得至關重要。安全分析師發現的 12% 錯誤率意味著成千上萬的未成年用戶可能會繞過原本旨在保護他們的安全措施。OpenAI 的專家委員會在一月份正式提出了這些擔憂,警告成人聊天功能有可能使脆弱的群體接觸到不當內容或互動。

防範潛在傷害

OpenAI 選擇了一種謹慎的做法——暫時擱置成人聊天計劃,直到技術改進。這一決定強調了該公司對負責任的人工智慧部署和用戶保護的承諾。這一選擇反映了整個行業的普遍認識,即快速推進人工智慧功能可能帶來重大風險,尤其是在涉及未成年人時。通過延遲推出,OpenAI 將誠信置於速度之上,確保未來的成人聊天實施將具備更強大的年齡驗證機制。

查看原文
此頁面可能包含第三方內容,僅供參考(非陳述或保證),不應被視為 Gate 認可其觀點表述,也不得被視為財務或專業建議。詳見聲明
  • 打賞
  • 留言
  • 轉發
  • 分享
留言
請輸入留言內容
請輸入留言內容
暫無留言