制限アルゴリズムの決定の最初の月、世界は何事もなかったかのように見えた。さまざまなシステムは通常通り稼働し、明らかな故障もなく、金融データも安定している。公式声明には「安全な境界線」や「必要な人間の監督」といった表現が並ぶ。しかし、根底のデータは別の物語を語っている。

災害対応時間は平均で7%延長された。システムが壊れたわけではない。AIの出す決定のたびに人間の確認を待つ必要があるからだ。医療資源の調整の正確さは低下し、遠隔地の死亡率は上昇し始めている。エネルギー部門は「計算不能領域」の要求に応えるために冗長性を無理やり導入し、効率を自ら削減している。これらの変化は突飛ではないが、確かに現実に起きている。

問題の核心は何か？もしこの制限が長期にわたって続くなら、文明は測定可能な速度で「次善の安定状態」へ滑り込むだろう——突如崩壊することはないが、危機のたびにその衝撃はより激しくなる。命と資源を費やして「私たちはまだ選択をしている」という感覚を得ることは、果たして価値があるのか？

しかし、ここには定量化しにくいものがある。文明の真の安定性は、単に存続確率だけではない。それはまた、その文明のメンバーが本当にその代償を引き受け続ける意志があるかどうかにも依存している。単純に効率だけを見るなら、この問題の全体像は決して見えてこない。