Машинне навчання без знань (ZKML): який потенціал вибухне, коли дві найгарячіші тенденції у світі технологій об’єднаються?

Автор | Callum@Web3CN.Pro

ZK продовжує бути гарячим з 2022 року, і його технології досягли значного прогресу, і проекти серії ZK також продовжують докладати зусиль. У той же час, завдяки популярності машинного навчання (ML) і його широкому застосуванню у виробництві та житті, багато компаній почали створювати, навчати та розгортати моделі машинного навчання. Але основна проблема, з якою зараз стикається машинне навчання, полягає в тому, як забезпечити надійність і залежність від непрозорих даних. Це значення ZKML: дозволити людям, які використовують машинне навчання, повністю зрозуміти модель, не розкриваючи інформацію про саму модель.

1. Що таке ZKML

Що таке ZKML, розберемося окремо. ZK (Zero-Knowledge Proof) — це криптографічний протокол, за допомогою якого перевіряльник може довести верифікатору, що дане твердження вірне, не розкриваючи жодної іншої інформації, тобто результат може бути відомий без процесу.

ZK має дві основні характеристики: по-перше, він доводить те, що хоче довести, не розкриваючи надто багато інформації верифікатору; по-друге, важко створити доказ, і легко перевірити доказ.

На основі цих двох характеристик ZK розробив кілька основних варіантів використання: розширення рівня 2, приватний публічний ланцюжок, децентралізоване зберігання, перевірка особи та машинне навчання. Дослідження в цій статті зосереджено на ZKML (машинне навчання без знань).

Що таке ML (Machine Learning), машинне навчання — це наука про штучний інтелект, яка передбачає розробку та застосування алгоритмів, які дозволяють комп’ютерам самостійно навчатися та адаптуватися до даних, оптимізуючи їх продуктивність за допомогою ітераційного процесу без необхідності процесу програмування. Він використовує алгоритми та моделі для ідентифікації даних, щоб отримати параметри моделі та, нарешті, зробити прогнози/рішення.

В даний час машинне навчання успішно застосовується в різних сферах. З удосконаленням цих моделей машинне навчання потребує виконання все більшої кількості завдань. Щоб забезпечити високу точність моделей, це вимагає використання технології ZK: використання публічної моделі перевірка приватних даних або перевірка приватних моделей за допомогою загальнодоступних даних.

ZKML, про який ми зараз говоримо, створює докази з нульовим знанням етапів виведення моделей ML, а не навчання моделі ML.

2. Навіщо потрібен ZKML

У міру розвитку технології штучного інтелекту стає все складніше розрізнити штучний інтелект, людський інтелект і людське покоління. Докази з нульовими знаннями можуть вирішити цю проблему. Це дозволяє нам визначити, чи певний вміст створено шляхом застосування певної моделі генерується без розкриття будь-якої іншої інформації про модель або вхідні дані.

Традиційні платформи машинного навчання часто вимагають, щоб розробники надсилали свої модельні архітектури хосту для перевірки продуктивності. Це може спричинити кілька проблем:

• Втрата інтелектуальної власності: розкриття повної архітектури моделі може розкрити цінні комерційні секрети чи інновації, які розробники хочуть зберегти в таємниці.
• ** Відсутність прозорості: ** Процес оцінювання може бути непрозорим, і учасники можуть не мати змоги перевірити рейтинг своєї моделі порівняно з іншими моделями.
• Занепокоєння щодо конфіденційності даних: Спільні моделі, навчені на конфіденційних даних, можуть ненавмисно розкрити інформацію про базові дані, порушуючи норми та правила конфіденційності.

Ці виклики породили потребу в рішеннях, які могли б захистити конфіденційність моделей машинного навчання та їхніх навчальних даних.

ZK пропонує багатообіцяючий підхід до вирішення проблем, з якими стикаються традиційні платформи машинного навчання. Використовуючи потужність ZK, ZKML надає рішення для збереження конфіденційності з такими перевагами:

• Конфіденційність моделі: Розробники можуть брати участь у перевірці, не розкриваючи всю архітектуру моделі, таким чином захищаючи свою інтелектуальну власність.
• Прозора перевірка: ZK може перевіряти продуктивність моделі, не розкриваючи внутрішніх елементів моделі, тим самим сприяючи прозорому та надійному процесу оцінювання.
• **Конфіденційність даних: **ZK можна використовувати для перевірки приватних даних за допомогою загальнодоступних моделей або перевірки приватних моделей за допомогою загальнодоступних даних, щоб переконатися, що конфіденційна інформація не витікає.

Інтеграція ZK у процес ML забезпечує безпечну та конфіденційну платформу, яка усуває обмеження традиційного ML. Це не тільки сприяє впровадженню машинного навчання в індустрії конфіденційності, але й залучає досвідчених розробників Web2 до вивчення можливостей екосистеми Web3.

3. Програми та можливості ZKML

Зі збільшенням удосконалення криптографії, технології підтвердження нульового знання та апаратного забезпечення все більше проектів почали досліджувати використання ZKML. Екосистему ZKML можна грубо розділити на такі чотири категорії:

• **Компілятор верифікації моделі: ** Інфраструктура для компіляції моделей із існуючих форматів (наприклад, Pytorch, ONNX тощо) у верифіковані обчислювальні схеми.
• Узагальнена система доказів: Система перевірки, створена для перевірки довільних обчислювальних траєкторій.
• **Спеціальна система перевірки ZKML: **Система перевірки, спеціально створена для перевірки обчислювальної траєкторії моделей ML.
• Програми: Проекти, що стосуються випадків використання ZKML.

Відповідно до екологічної категорії цих додатків ZKML ми можемо класифікувати деякі поточні проекти, що застосовуються ZKML:

Кредит зображення: @bastian_wetzel

ZKML все ще є технологією, що розвивається, її ринок ще дуже ранній, і багато програм лише експериментують на хакатонах, але ZKML все ще відкриває новий простір для розробки смарт-контрактів:

DeFi

Додатки Defi, параметризовані за допомогою ML, можуть бути більш автоматизованими. Наприклад, протоколи кредитування можуть використовувати моделі ML для оновлення параметрів у реальному часі. Наразі протоколи кредитування в основному довіряють позамережевим моделям, якими керують організації, для визначення застави, LTV, порогів ліквідації тощо, але кращою альтернативою можуть бути навчені спільнотою моделі з відкритим кодом, які кожен може запустити та перевірити. Використовуючи оракул ML поза ланцюгом, який можна перевірити, моделі ML можуть обробляти підписані дані поза ланцюгом для прогнозування та класифікації. Ці позамережні оракули машинного навчання можуть без довіри вирішувати реальні ринкові прогнози, протоколи кредитування тощо, перевіряючи обґрунтування та публікуючи докази в мережі.

Web3 Social

Фільтр соціальних мереж Web3. Децентралізований характер соціальних програм Web3 призведе до збільшення спаму та шкідливого вмісту. В ідеалі платформи соціальних мереж могли б використовувати узгоджені спільнотою моделі ML з відкритим кодом і публікувати докази аргументації моделі, коли вони вирішують фільтрувати публікації. Як користувач соціальних мереж, ви, можливо, бажаєте переглядати персоналізовану рекламу, але бажаєте зберегти конфіденційність своїх уподобань та інтересів від рекламодавців. Таким чином, користувачі можуть за бажанням запускати модель локально, яку можна вводити в медіа-програми для надання їм вмісту.

GameFi

ZKML можна застосовувати до нових типів мережевих ігор для створення кооперативних ігор людини та штучного інтелекту та інших інноваційних мережевих ігор, де модель ШІ може діяти як NPC, і кожна дія, виконана NPC, буде опублікована на ланцюжок із будь-якими доказами, які кожен може перевірити, щоб визначити правильну модель. У той же час моделі ML можна використовувати для динамічного коригування випуску токенів, постачання, спалювання, порогів голосування тощо. Можна розробити модель контракту стимулювання, яка відновить баланс внутрішньоігрової економіки, якщо досягнуто певного порогу відновлення балансу та підтвердження міркувань перевірено.

Автентифікація

Замініть закриті ключі біометричною автентифікацією, що зберігає конфіденційність. Керування закритими ключами залишається однією з найбільших проблем у Web3. Вилучення закритих ключів за допомогою розпізнавання обличчя або інших унікальних факторів може бути можливим рішенням для ZKML.

4. Проблеми ZKML

Незважаючи на те, що ZKML постійно вдосконалюється та оптимізується, сфера все ще перебуває на ранніх стадіях розробки, і все ще є деякі проблеми від технології до практики:

• Квантування з мінімальною втратою точності
• розмір схеми, особливо коли мережа складається з кількох рівнів
• Ефективний доказ множення матриць
• Змагальна атака

Ці проблеми, по-перше, впливають на точність моделей машинного навчання, по-друге, впливають на їх вартість і швидкість перевірки, і, по-третє, це ризик атак крадіжки моделей.

Удосконалення цих проблем зараз триває, демонстрація ZK-MNIST від @0xPARC у 2021 році показала, як реалізувати дрібномасштабну модель класифікації зображень MNIST у схемі, яку можна перевірити; Деніел Канг зробив те саме для масштабної моделі ImageNet, наразі це масштаб ImageNet. модель покращено до 92% і, як очікується, незабаром буде досягнуто з подальшим апаратним прискоренням ширшого простору ML.

ZKML все ще перебуває на ранній стадії розробки, але він почав показувати багато результатів, і ми можемо очікувати, що побачимо більше інноваційних застосувань ZKML у мережі. Оскільки ZKML продовжує розвиватися, ми можемо передбачити майбутнє, де машинне навчання із збереженням конфіденційності стане нормою.