Google Cloud опубликовала эталонную архитектуру приватных соединений для приложений RAG

ME News, сообщение от 5 апреля (UTC+8): в последнее время Google Cloud опубликовал техническую статью, в которой представлена частная эталонная архитектура, предназначенная для проектирования генеративных AI-приложений с возможностями извлечения с усилением (RAG). Эта архитектура подходит для сценариев, где межсистемный обмен данными должен использовать частные IP-адреса и не может проходить через публичный интернет. В основе дизайна лежит региональная модель: она включает внешнюю сеть и среду Google Cloud, которая, в свою очередь, состоит из проекта маршрутизации, проекта хостов Shared VPC и трех выделенных сервисных проектов. Архитектура включает ключевые сервисы, такие как Cloud Interconnect/Cloud VPN, Network Connectivity Center, Cloud Router, Private Service Connect, Shared VPC, Cloud Armor, Application Load Balancer и VPC Service Controls. В статье подробно описаны три ключевых пути трафика: поток заполнения RAG-данными, поток инференса (вывода) и поток управления и маршрутизации; цель — обеспечить предприятиям AI-нагрузки безопасную и надежную инфраструктуру за счет сквозного частного подключения и многоуровневого контроля безопасности. (Источник: InFoQ)