زاك أندرسون
11 مارس 2025 02:24
تقدم NVIDIA مجموعة تطوير برمجيات LLM SDK لـ DriveOS لتسهيل نشر نماذج اللغة الكبيرة في المركبات الذاتية القيادة، مما يعزز التطبيقات التي تعتمد على الذكاء الاصطناعي بأداء محسن.
كشفت NVIDIA عن ابتكارها الأحدث، DriveOS LLM SDK، الهادف إلى تبسيط نشر نماذج اللغة الكبيرة (LLMs) في المركبات الذاتية القيادة. يمثل هذا التطور قفزة هامة في تعزيز قدرات أنظمة السيارات الذكية التي تعتمد على الذكاء الاصطناعي، وفقًا لشركة NVIDIA.
تحسين نشر LLM
تم تصميم برنامج تطوير تطبيقات نظام التشغيل المدعوم لـ LLM لتحسين استنتاج نماذج اللغة البصرية والحالية أحدث في (VLMs) على منصة DRIVE AGX من NVIDIA. يعتمد البرنامج التنميطي على محرك الاستنتاج المتين NVIDIA TensorRT ، ويدمج تحسينات محددة لـ LLM ، بما في ذلك نوى الانتباه المخصصة وتقنيات التكييف ، لتلبية متطلبات منصات السيارات ذات الموارد المقيدة.
السمات الرئيسية والمكونات
تشمل مكونات SDK الرئيسية مكتبة مكون إضافي للأداء المتخصص، ومحلل/مفكك فعال لتكامل سلس بين المدخلات متعددة الوسائط، وعينة مستندة إلى CUDA لتحسين تكوين النصوص ومهام الحوار. يعزز وحدة الفك تقنية الاستدلال بشكل أفضل، مما يتيح نشر LLM قابل للتكيف وعالي الأداء عبر منصات NVIDIA DRIVE المختلفة بمرونة.
الطرازات المدعومة وتنسيقات الدقة
يدعم SDK مجموعة من النماذج الحديثة مثل Llama 3 و Qwen2، مع تنسيقات دقيقة تشمل FP16، FP8، NVFP4، و INT4 لتقليل استخدام الذاكرة وتعزيز أداء النواة. هذه الميزات حاسمة لنشر LLMs بكفاءة في تطبيقات السيارات حيث الكفاءة الزمنية والكفاءة هي الأهمية القصوى.
تسهيل سير العمل
يسهل تطبيق NVIDIA’s DriveOS LLM SDK عملية نشر LLM المعقدة إلى خطوتين مباشرتين: تصدير نموذج ONNX وبناء المحرك. تم تصميم سير العمل المبسط هذا لتسهيل النشر على أجهزة الحواف، مما يجعلها متاحة لمجموعة أوسع من المطورين والتطبيقات.
القدرات متعددة الوسائط
تتناول أداة تطوير البرمجيات أيضًا الحاجة إلى الإدخالات متعددة الوسائط في تطبيقات السيارات، مدعمة لنماذج مثل Qwen2 VL. تتضمن تنفيذًا بلغة C++ لمعالجة الصور، مما يضمن توافق إدخالات الرؤية مع النماذج اللغوية، مما يوسع نطاق قدرات الذكاء الاصطناعي في الأنظمة الذاتية.
الاستنتاج
من خلال استغلال محرك NVIDIA TensorRT وتقنيات الأمان الخاصة بـ LLM، يضع مجموعة تطوير برامج التطبيق LLM لـ DriveOS معيارًا جديدًا لنشر LLMs و VLMs المتقدمة على منصة DRIVE. هذه المبادرة مستعدة لتعزيز أداء وكفاءة تطبيقات الذكاء الاصطناعي في المركبات الذاتية القيادة، مما يمثل نقطة تحول هامة في تطور الصناعة السيارات التكنولوجي.
مصدر الصورة: شترستوك
إخلاء المسؤولية: قد تكون المعلومات الواردة في هذه الصفحة من مصادر خارجية ولا تمثل آراء أو مواقف Gate. المحتوى المعروض في هذه الصفحة هو لأغراض مرجعية فقط ولا يشكّل أي نصيحة مالية أو استثمارية أو قانونية. لا تضمن Gate دقة أو اكتمال المعلومات، ولا تتحمّل أي مسؤولية عن أي خسائر ناتجة عن استخدام هذه المعلومات. تنطوي الاستثمارات في الأصول الافتراضية على مخاطر عالية وتخضع لتقلبات سعرية كبيرة. قد تخسر كامل رأس المال المستثمر. يرجى فهم المخاطر ذات الصلة فهمًا كاملًا واتخاذ قرارات مدروسة بناءً على وضعك المالي وقدرتك على تحمّل المخاطر. للتفاصيل، يرجى الرجوع إلى
إخلاء المسؤولية.
