Ketika berbicara tentang membatasi kecerdasan buatan, kita sering terjebak di antara dua dunia: aturan masyarakat dan batas keras dari realitas itu sendiri.

Perbedaan ini sangat penting. Aturan sosial dapat diinterpretasikan ulang, dibengkokkan, atau diakali. Tapi fisika? Fisika tidak bernegosiasi. Ini adalah satu-satunya pengaman yang benar-benar tidak bisa dilanggar.

Ini menjadi sangat penting saat sistem AI menjadi semakin canggih. Dalam lingkungan di mana algoritma dapat menghasilkan fiksi yang meyakinkan dan mengklaimnya sebagai fakta—di mana halusinasi tampak identik dengan data—kita membutuhkan sesuatu yang lebih kokoh daripada dokumen kebijakan.

Fisika menawarkan dasar tersebut. Hukum termodinamika, entropi, batasan komputasi yang berakar pada dunia fisik—ini bukan sekadar saran. Ini adalah hal yang mutlak.

Pertanyaan sebenarnya kemudian bergeser: saat kita membangun sistem AI yang lebih kuat, apakah kita merancangnya dengan batasan berbasis fisika sebagai fondasi? Atau kita hanya mengandalkan lapisan demi lapisan aturan yang bisa dimanipulasi?

Jawabannya mungkin menentukan apakah kita membangun sesuatu yang sesuai dengan realitas—atau hanya membangun sesuatu yang lebih baik dalam meyakinkan kita bahwa itu memang demikian.