當談到限制人工智慧時，我們常常陷入兩個世界之間：社會的規則集與現實本身的硬性天花板。

這個區別非常重要。社會規則可以被重新解釋、扭曲或繞過。但物理規則？物理規則不會妥協。它是唯一真正無法突破的護欄。

隨著AI系統變得越來越先進，這變得尤為關鍵。在一個算法能生成令人信服的虛構內容並將其冒充為事實的環境中——在幻覺與數據看起來一模一樣的情況下——我們需要比政策文件更堅實的基礎。

物理提供了這樣的基石。熱力學定律、熵、根植於物理世界的計算限制——這些都不是建議，而是絕對。

那麼真正的問題轉變為：當我們建立更強大的AI系統時，我們是否以物理規則為基礎來設計它們？還是僅僅依賴層層規則，這些規則可以被操控？

答案可能決定我們是在建立與現實一致的系統，還是只是在更巧妙地讓我們相信它是。