Так вот, есть эта дикая история о том, как одна из крупнейших финансовых подушек для политики ИИ когда-либо была профинансирована, и всё начинается с собачьей монеты и шкафа в Канаде.

В 2021 году создатели Shiba Inu просто отправили огромную сумму токенов SHIB на кошелек Виталика Бутерина без разрешения. Классический ход — написать в маркетинговых материалах «Виталик владеет половиной наших запасов» и надеяться, что ассоциация приведет вас к славе уровня Dogecoin. За исключением того, что токены действительно резко выросли. Мы говорим о более чем $1 миллиардах в балансовой стоимости.

Бутерин хотел выйти до того, как всё рухнет. Он недавно описывал этот процесс — звонил своей мачехе в Канаде, просил её рыться в его шкафу, называл 78-значное число, чтобы соединить его с другим 78-значным кодом из его рюкзака. Честно говоря, абсурд. Ему удалось продать часть за ETH и пожертвовать $50 миллиона в GiveWell, но он всё равно держал огромные запасы SHIB.

Он разделил оставшееся пополам. Одна половина пошла в CryptoRelief для медицинской инфраструктуры в Индии и на его собственные исследования Balvi. Другая половина — в Институт будущего жизни (Future of Life Institute), организацию, работающую над экзистенциальными рисками от ИИ, биотехнологий и ядерного оружия. FLI предложил ему четкий план действий, охватывающий основные категории рисков и инициативы за мир. Но Бутерин предположил, что они смогут вывести примерно $10-25 миллионов, учитывая слабую ликвидность SHIB. Вместо этого FLI ликвидировал примерно $500 миллиона из своей части. CryptoRelief сделал похожие операции. Меме-коин, которого никто всерьез не воспринимал, создал событие благотворительности на миллиард долларов.

Но тут начинается самое интересное. FLI прошел внутренний поворот и переключился на агрессивную политическую и культурную кампанию по ИИ как основной стратегии. Совершенно другое направление, чем то, что ожидал Бутерин.

Этот поворот и стал причиной его недавних публикаций. Его беспокоит простая вещь — крупномасштабные скоординированные политические действия с огромными денежными потоками зачастую приводят к непредвиденным последствиям, обратным эффектам и решениям, которые оказываются авторитарными и хрупкими, даже если изначально этого не планировалось.

Он отметил подход FLI к биобезопасности как пример. Они пытались встроить в модели ИИ ограничители, чтобы те отказывались от опасных выводов. В теории звучит хорошо, но Бутерин назвал это «очень хрупким» — взломы и обходные пути при тонкой настройке делают эти ограничения легко преодолимыми. Логическая точка этого мышления — «давайте запретим открытый исходный код ИИ», а затем — «давайте поддержим одну хорошую компанию по ИИ, чтобы она доминировала по всему миру, и не позволим другим достичь этого уровня». Эти стратегии дают обратный эффект и превращают остальной мир в врага.

Также есть структурная проблема с подходами, основанными на регулировании. Когда правительства ограничивают опасные технологии, освобождаются организации национальной безопасности — а эти же организации зачастую сами представляют риск. Посмотрите на программы утечек из государственных лабораторий.

Но Бутерин отметил, что его вдохновляют некоторые недавние работы FLI, особенно декларация «прогуманного ИИ», объединяющая консерваторов, прогрессистов, либертарианцев и разные регионы. Он также отметил, что они исследуют проблемы концентрации власти.

Но главное послание ясно. Незапланированное пожертвование токенов, которых он никогда не хотел отдавать, профинансировало организацию, которая отошла от его убеждений, и теперь они расходуют сотни миллионов долларов так, что вызывает у него дискомфорт. Он неоднократно выражал свои опасения FLI до того, как вышел в публичное пространство.

Это увлекательное окно в то, как Inu-токены случайно стали важным игроком в дебатах о политике ИИ, и какие сложности возникают, когда огромное финансирование внезапно меняет направление организации.