ClawdBot можливо стане одним із напрямків майбутнього (принаймні на найближчі два роки) впровадження AI у споживчому сегменті (звісно, також і в B2B) — максимально агентне застосування, яке ймовірно змінить персональні обчислення (краєві обчислення). Такі застосунки, як ClawdBot, за своєю суттю є довгостроковими постійно працюючими розумними агентами. Модель відповідає за «думки», але локальна система відповідає за «дії»: слідкує за подіями, підтримує стан, координує інструменти, виконує команди, керує правами доступу. Це безпосередньо змінює акценти у апаратному забезпеченні. Локальний GPU не обов’язково має бути основною обчислювальною потужністю, достатньо виконувати рендеринг інтерфейсу, автоматизацію браузера та невелике резервне обчислення — інтегрована графіка вже цілком достатня. Але CPU не можна спрощувати, навпаки, його статус знову підвищується. Агентні застосунки дуже залежать від однопотужності, низької затримки відповіді, частих перемикань контексту та IO-можливостей. Вони не потребують великої кількості ядер, але дуже залежні від здатності «завжди бути на зв’язку» для виконання команд; не прагнуть до максимальної обчислювальної потужності, але вимагають цілодобової роботи з низьким споживанням, швидкого пробудження та стабільного контролю. Іншими словами, локальний (краєвий) CPU поступово перетворюється з універсальної обчислювальної потужності у центральний елемент системи. А локальний (краєвий) GPU, що виконує поширені, високоякісні, низьколатентні інференції, у майбутніх комп’ютерах (або смартфонах) — не для запуску найбільших моделей, а для хостингу розумного агента, який може діяти в будь-який момент. Ми вже частково уявляємо майбутній вигляд застосунків та архітектуру обчислень.

Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
  • Нагородити
  • Прокоментувати
  • Репост
  • Поділіться
Прокоментувати
0/400
Немає коментарів
  • Закріпити