就在 AI 社群因 Anthropic Mythos 模型的安全爭議而沸騰之際，圖靈獎得主、Meta 首席 AI 科學家 Yann LeCun 在 X 上發表了一句簡潔的 заяви́ння: «Не буде жодної конкретної людини, яка б «відповідала» за надрозум.» Цей допис зібрав 935 лайків і понад 100 коментарів-відповідей, надаючи цілком інший погляд на врядування в атмосфері паніки, що виникла через Mythos.
Одна фраза за пів філософією врядування
Заява LeCun здається простою, але насправді вона прямо вказує на одну фундаментальну логічну помилку в дискусіях щодо врядування ШІ: спрощувати ризики надрозуму до питання «хто має контролювати». Коли люди обговорюють безпеку ШІ, поширеною є оповідь про те, щоб знайти «відповідального» — компанію, державну установу або технічного лідера, аби «взяти під контроль» напрям розвитку ШІ. LeCun вважає, що сама ця передумова є хибною.
Ця позиція узгоджується з його послідовною філософією відкритого ШІ: врядування ШІ має бути децентралізованим, системним і таким, що передбачає участь багатьох сторін, а не зосередженим у руках будь-якої однієї організації.
Зворотне осмислення в межах суперечки Mythos
Час висловлювань LeCun виглядає показовим. У той самий день Matt Shumer назвав модель Anthropic Mythos «мережею для ведення війни», а Ethan Mollick висловив шок: «Oh no.». У цих реакціях прихований такий логічний ланцюг: такий потужний ШІ має бути жорстко контрольованим, і найкраще, якщо ним керуватиме один відповідальний «брама́р».
Позиція LeCun, навпаки, протилежна — він не вважає, що «компанія вирішує не випускати» є гарантією безпеки. Якщо лише кілька компаній володіють ШІ на рівні надрозуму, і односторонні рішення цих компаній здатні визначати глобальний шлях розвитку ШІ, то це саме по собі є ризиком. Централізований контроль не означає безпеку; навпаки, він може створювати нові дисбаланси влади.
Виклики децентралізованого врядування
Позиція LeCun також стикається з суттєвими викликами. Децентралізоване врядування звучить ідеально, але в реальності, де можливості ШІ зростають експоненційно, «ніхто не відповідає» може означати «ніхто не може відповідати». Якщо модель здатна знаходити нульові вразливості, чи лишається відкритий доступ все ще найкращою стратегією?
Саме тут і лежить центральна суперечність теперішніх дебатів щодо врядування ШІ: ризик зловживання владою при централізованому контролі протиставляється ризику зловживання можливостями при відкритому розповсюдженні. Фраза LeCun не розв’язала цю суперечність, але вона змушує людей заново оцінити, чи є «знайти людину, яка відповідатиме» інтуїтивно привабливим рішенням насправді здійсненним.
Висновки для дискусій про врядування ШІ
Між панікою, спричиненою Mythos, і спокійним переосмисленням LeCun ми бачимо фундаментальну розбіжність між двома течіями в дискусіях про врядування ШІ: «фахівці з безпеки» виступають за обмеження можливостей і централізоване керування, тоді як «відкриті» — за широкий доступ і децентралізоване врядування. Ця полеміка не матиме простого висновку, але для тайванських ухвалювачів рішень, які зосереджуються на політиках щодо ШІ, розуміння напруги між цими двома крайнощами — необхідне завдання для формування власної стратегії врядування ШІ.
Ця стаття: відповідь LeCun однією фразою на суперечку про надрозум вперше з’явилася на 链新聞 ABMedia.
Застереження: Інформація на цій сторінці може походити від третіх осіб і не відображає погляди або думки Gate. Вміст, що відображається на цій сторінці, є лише довідковим і не є фінансовою, інвестиційною або юридичною порадою. Gate не гарантує точність або повноту інформації і не несе відповідальності за будь-які збитки, що виникли в результаті використання цієї інформації. Інвестиції у віртуальні активи пов'язані з високим ризиком і піддаються значній ціновій волатильності. Ви можете втратити весь вкладений капітал. Будь ласка, повністю усвідомлюйте відповідні ризики та приймайте обережні рішення, виходячи з вашого фінансового становища та толерантності до ризику. Для отримання детальної інформації, будь ласка, зверніться до
Застереження.
