Виталик раскрыл планы будущего ИИ: отвергает полную автоматизацию, поддерживает человеческий контроль в реальном времени и интерфейсы мозг-компьютер.

Сооснователь Ethereum Виталик Бутерин недавно написал в X (бывший Twitter), что нынешняя разработка искусственного интеллекта (AI) чрезмерно стремится к «автономности», игнорируя ценность человека в процессе принятия решений и вывода. Он призвал отрасль увеличить пути человеческого ввода, продвигая открытые модели с функцией редактирования, и предложил концепцию сочетания интерфейса мозг-компьютер (BCI) для реализации мгновенной обратной связи и корректировок, чтобы нарисовать более ориентированную на человека картину развития AI.

Отказ от «полностью автоматизированного» ИИ, подчеркивая участие человека

Виталик заявил, что текущие «агентные» системы в области ИИ, которые пытаются выполнять задачи с минимальным человеческим контролем, вызывают у него разочарование. Он считает, что человеческий ввод не только может повысить качество вывода, но и значительно улучшить безопасность.

Он особенно предпочитает открытые модели с функцией редактирования, которые позволяют разработчикам и пользователям вмешиваться в процесс генерации, исправлять или направлять вывод в реальном времени, а не только создавать результат с нуля.

в соответствии с точкой зрения Карпати: ИИ нуждается в «контролируемости»

Мнение Виталика совпадает с недавней речью Андрея Карпаты, бывшего руководителя AI в Tesla. Карпата предупреждает, что большие языковые модели не следует рассматривать как полностью надежные автономные агенты, и подчеркивает важность человеческого надзора, осторожных подсказок и поэтапной разработки.

Этот подход ведет отрасль к переходу на модель «человек-машина сотрудничество»:

1. Предоставить более интуитивно понятный интерфейс редактирования

2. Поддержка мгновенной обрезки и коррекции в процессе генерации

3. Уменьшение иллюзий и искажений, обеспечение соответствия вывода человеческим намерениям и стандартам безопасности.

Мозгово-компьютерный интерфейс (BCI) + ИИ: концепция мгновенной обратной связи будущего

Виталик также предложил, что среднесрочная перспектива заключается в сочетании технологий BCI, позволяя ИИ в реальном времени воспринимать эмоциональные реакции пользователей при создании контента и автоматически настраивать вывод в зависимости от предпочтений.

Эта концепция не пустые разговоры:

1. Компании Neuralink, Synchron и другие начали клинические испытания и минимально инвазивные имплантации.

2. Устройства для ношения на основе электроэнцефалографии (ЭЭГ) пытаются расшифровать состояние внимания и эмоций.

3. Научное сообщество достигло успехов в области “эмоциональных вычислений” и технологий эмоциональной маркировки.

4. Несмотря на то, что неинвазивная декодировка эмоций все еще представляет собой вызов, развитие технологий постепенно приближает это видение к реальности.

Открытые веса и безопасность: дебаты о двустороннем мече

В последнее время OpenAI неожиданно выпустила открытые весовые модели gpt-oss-120b и gpt-oss-20b, что вызвало бурные обсуждения. Поддерживающие считают, что это способствует демократизации разработки ИИ, позволяя командам легче создавать ориентированные на человека рабочие процессы и выявлять риски безопасности; однако критики опасаются, что широкое распространение мощных моделей может привести к рискам злоупотреблений.

Позиция Виталика ясна: лучшее производство и более безопасные системы исходят от того, чтобы поставить человеческие предпочтения и сложные сигналы в центр рабочих процессов ИИ.

Заключение

Заявление Виталика Бутерина отражает ключевую дискуссию в развитии AI: позволить моделям быть полностью автономными или сохранить за человеком немедленный контроль? С развитием открытых весовых моделей, интерфейсов мозг-компьютер и технологий обнаружения эмоций, возможности сотрудничества между человеком и машиной быстро расширяются. Будущее AI, возможно, больше не будет черным ящиком, который «принимает решения за вас», а станет интеллектуальным партнером, который может творить вместе с вами и взаимодействовать в реальном времени.