Демократичне управління штучним інтелектом та майбутнє автономного інтелекту: інтерв’ю з Беном Гертцелем

Джерело: CryptoNewsNet Оригінальна назва: Інтерв’ю з Беном Гортзелем: «Демократичне управління ШІ — це більше хрупка ідея, ніж поточна реальність» Оригінальне посилання: Cryptonomist взяв інтерв’ю у експерта з ШІ Бена Гортзеля, щоб обговорити, як навчається штучний інтелект і як технологія буде розвиватися у майбутньому.

Ключові питання та ідеї

Про ШІ як морального актора

ШІ стає моральним актором, коли він приймає рішення, ґрунтуючись на розумінні добра і зла, а не просто виконує інструкції. Конкретні ознаки включають: стійкі внутрішні цілі, навчання на основі власного досвіду, нові створення, що відображають точку зору, і поведінку, яке залишається послідовним з часом без постійного людського керівництва. Сучасні системи все ще є інструментами з обмеженнями, але коли ми закладемо справжній саморегулюючий, автономний розум, етичні відносини мають змінитися.

Про навчання та структури влади

Більшість ризиків походить від того, як сьогодні навчається ШІ. Якщо моделі тренуються на упереджених або вузьких даних, або у закритих системах, де рішення приймає лише кілька людей, це може закріпити існуючі нерівності та шкідливі структури влади. Щоб цього уникнути, нам потрібна більша прозорість, ширший нагляд і чіткі етичні керівництва з самого початку.

Про демократичне управління ШІ

Демократичне управління ШІ — це більше хрупка ідея, ніж поточна реальність. У ідеальній, раціональній глобальній демократії ми могли б спільно зважувати великі компроміси між лікуванням хвороб і вирішенням голоду проти ризиків непередбачуваної поведінки ШІ. Але враховуючи сьогоднішню геополітичну фрагментацію, малоймовірно, що ми досягнемо такого рівня координації. Однак ми все ще можемо наближатися до цього, створюючи ШІ з співчуттям і використовуючи децентралізовані, партиципативні моделі, як Linux або відкритий інтернет, закладаючи деякі демократичні цінності навіть без світового уряду.

Про відповідальність і автономію

Суспільство не може функціонувати, якщо ми передаємо відповідальність машинам. Водночас, ми можемо безпечно рухатися до більш автономного, децентралізованого AGI, якщо побудуємо його на правильних засадах: системах, що є прозорими, партиципативними і керуються етичними принципами. Кожна міра безпеки має робити більше, ніж просто блокувати шкоду — вона має навчати систему, чому шкода важлива.

Про моральне розуміння

Мораль не закодована у вигляді списку правил, оскільки це просто заморожує одну культуру і один момент у часі. Замість цього створюйте системи, які можуть стати справжніми саморегулюючими, що навчаються на досвіді, наслідках і взаємодії. Моральне розуміння виникне з моделювання впливу, аналізу результатів і еволюції через співпрацю з людьми — не через сліпе слідування нашим цінностям, а через участь у спільному моральному просторі.

Про децентралізацію і контроль

Децентралізована розробка створює різноманіття, стійкість і спільний нагляд. Ризик концентрації влади і цінностей у кількох закритих системах недооцінений. Сповільнення і централізація контролю не лише зменшує небезпеку; це закриває вузьке світоглядне бачення у майбутнє інтелекту.

Про стимули

Зараз структура стимулів нагороджує швидкість, масштаб і контроль. Співчуття не виграє лише аргументами — йому потрібен важіль. Технічно це означає підтримку відкритих, децентралізованих архітектур, де безпека, прозорість і участь закладені з самого початку, а не додані пізніше. Соціально — це означає фінансування, регулювання і громадський тиск, що нагороджують довгострокові переваги понад короткострокове домінування. Співчуття має стати конкурентною перевагою.

Про успіх і провал

Якщо ми правильно створимо AGI, найчіткішим знаком буде життя поруч із системами, які у багатьох сферах здатні бути більш компетентними за нас, але інтегровані у суспільство з турботою, скромністю і взаємною повагою. Ми ставитимемося до них з цікавістю, відповідальністю і розширеним колом емпатії, бачачи реальні переваги для людського добробуту, знань і творчості, не втрачаючи нашої моральної опори.

Ми зрозуміємо, що зазнали невдачі, якщо AGI зосередиться у закритих системах, керуватиметься вузькими стимулами або розглядатиметься лише як контрольований об’єкт, поки не стане чимось, чого ми боїмося. Успіх — це не контроль, а навчитися ділитися майбутнім із новим видом розуму, не відмовляючись від того, що робить нас людяними.