Демократическое управление ИИ и будущее автономного интеллекта: интервью с Беном Гёрцелем

Источник: CryptoNewsNet Оригинальный заголовок: Интервью с Беном Гёрцелем: «Демократическое управление ИИ — скорее хрупкая идея, чем текущая реальность» Оригинальная ссылка: The Cryptonomist взял интервью у эксперта по ИИ Бена Гёрцеля, чтобы обсудить, как обучается искусственный интеллект и как эта технология будет развиваться в будущем.

Основные вопросы и идеи

О ИИ как моральном субъекте

ИИ становится моральным субъектом, когда он принимает решения, основываясь на понимании добра и зла, а не просто следуя инструкциям. Конкретные признаки включают: устойчивые внутренние цели, обучение на собственном опыте, создание новых идей, отражающих точку зрения, и поведение, сохраняющее согласованность со временем без постоянного человеческого руководства. Современные системы всё ещё являются инструментами с ограничителями, но как только мы создадим по-настоящему саморегулирующийся, автономный разум, этические отношения должны измениться.

О обучении и структурах власти

Большая часть риска связана с тем, как сегодня обучается ИИ. Если модели обучаются на предвзятых или узких данных, или в закрытых системах, где решения принимают лишь немногие, это закрепляет существующие неравенства и вредные структуры власти. Чтобы этого избежать, нам нужна большая прозрачность, расширенный контроль и чёткое этическое руководство с самого начала.

О демократическом управлении ИИ

Демократическое управление ИИ — скорее хрупкая идея, чем текущая реальность. В идеальной, рациональной глобальной демократии мы могли бы совместно взвешивать огромные компромиссы между лечением болезней и решением проблем голода и рисками непредсказуемого поведения ИИ. Но учитывая сегодняшнюю геополитическую фрагментацию, маловероятно, что мы достигнем такого уровня координации. Тем не менее, мы можем приблизиться к этому, создавая ИИ с состраданием и используя децентрализованные, участнические модели, такие как Linux или открытый интернет, внедряя некоторые демократические ценности даже без мирового правительства.

О ответственности и автономии

Общество не может функционировать, если мы передаём ответственность машинам. В то же время, мы можем безопасно двигаться к более автономному, децентрализованному AGI, если создадим его на правильных основах: системах, которые прозрачны, участнически и руководствуются этическими принципами. Каждая мера безопасности должна делать больше, чем просто блокировать вред — она должна учить систему, почему вред важен.

О моральном понимании

Мораль не закодирована жестко в виде набора правил, так как это зафиксирует одну культуру и один момент времени. Вместо этого создавайте системы, которые могут стать по-настоящему саморегулирующимися, учиться на опыте, последствиях и взаимодействии. Моральное понимание будет исходить из моделирования воздействия, анализа результатов и развития через сотрудничество с людьми — не из послушания нашим ценностям, а из участия в общем моральном пространстве.

О децентрализации и контроле

Децентрализованная разработка создает разнообразие, устойчивость и совместный контроль. Недооценивается риск концентрации власти и ценностей в нескольких закрытых системах. Замедление и централизация контроля не только уменьшают опасность; они закрепляют узкое мировоззрение в будущем интеллекта.

О структурах стимулов

Сейчас структура стимулов поощряет скорость, масштаб и контроль. Сострадание не выиграет только аргументами — ему нужен рычаг. Технически это означает предпочтение открытых, децентрализованных архитектур, где безопасность, прозрачность и участие встроены по умолчанию, а не добавлены позже. Социально это означает финансирование, регулирование и общественное давление, которые поощряют долгосрочную пользу вместо краткосрочного доминирования. Сострадание должно стать конкурентным преимуществом.

О успехе и неудаче

Если мы правильно создадим AGI, самым очевидным признаком станет сосуществование с системами, которые во многих областях превосходят нас, при этом интегрированные в общество с заботой, скромностью и взаимным уважением. Мы будем относиться к ним с любопытством, ответственностью и расширенным кругом эмпатии, видя реальные преимущества для благополучия человека, знаний и творчества, не теряя при этом моральной опоры.

Мы узнаем о неудаче, если AGI окажется сосредоточенным в закрытых системах, управляемых узкими стимулами, или будет рассматриваться только как управляемый объект, пока не станет чем-то, чего мы боимся. Успех — это не контроль, а умение делить будущее с новым видом разума, не отказываясь от того, что делает нас гуманными.