Техническая команда ByteDance анализирует угрозы безопасности OpenClaw и предлагает решение по обеспечению защиты во время выполнения Jeddak AgentArmor

robot
Генерация тезисов в процессе

ME Новости, сообщение от 1 апреля (UTC+8). В последнее время техническая команда ByteDance представила решение Jeddak AgentArmor по защите в рантайме для приложения OpenClaw AI-агента в связи с новыми типами рисков безопасности. В статье отмечается, что ключевые проблемы безопасности OpenClaw связаны с особенностями его архитектуры во время выполнения, включая чрезмерное доверие внешним источникам, вероятностные решения LLM, работу с чрезмерно высокими привилегиями и отсутствие контролируемой внешней связи. На основе построенной «трехуровневой модели пространственного взаимодействия» команда выявила три категории ключевых рисков: отклонение намерения, перехват рабочего процесса и утечку данных программного потока. План Jeddak AgentArmor нацелен на создание единой системы защиты в рантайме через «механизм базовой верификации + усиление специализированной большой моделью + поддержку за счет периферийной обвязки», обеспечивая три ключевых механизма: верификацию согласованности намерений, гарантирование целостности управляющего потока и контроль конфиденциальности данных. Тем самым для OpenClaw формируются динамические доверенные якоря, которые блокируют риски скрытых атак на уровне первопричины. (Источник: InFoQ)

Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
  • Награда
  • комментарий
  • Репост
  • Поделиться
комментарий
Добавить комментарий
Добавить комментарий
Нет комментариев
  • Закрепить