Давно об этом думаю — что если AGI не появится в результате создания одного огромного модели, а из чего-то более распределенного?

Представьте бесчисленное количество агентов, работающих параллельно, обучающихся на периферии, оптимизирующих через операции флотилии роботов. Каждый из них совершенствуется независимо, но при этом координируется как система. Это принципиально отличается от гонки централизованных LLM, которую мы наблюдаем.

Но вот настоящий вопрос, который не дает мне спать: кто на самом деле контролирует это?

Если интеллект возникает из децентрализованной координации, меняется ли и власть? Или тот, кто управляет сетью, владеет всем? Это та же самая напряженность, которую мы видим в Web3 — техническая децентрализация не означает автоматического распределения власти. Архитектура важна. Стимулы важны. Кто устанавливает правила?

Будущее управления AGI может очень напоминать будущее блокчейн-сетей. Та же самая фундаментальная проблема: как не допустить концентрации власти в распределенных системах.