NVIDIA تكشف عن إطار العمل Cosmos وخدمات NIM المصغّرة والمواصفات الخاصة بالأجهزة للذكاء الاصطناعي المادي

أصدرت NVIDIA وصفات تنفيذ تفصيلية ومتطلبات وحدات معالجة الرسومات (GPU) لنماذج Cosmos العالمية الخاصة بها، والتي تستهدف تدفقات عمل المركبات ذاتية القيادة والروبوتات والمحاكاة الجراحية. وتقدّم هذه الإعلانات إطار العمل المفتوح Cosmos Framework وخدمات NVIDIA Inference Microservices (NIM) عبر أكثر من 20 وحدة معالجة رسومات مدعومة. ويوفر Cosmos NIM تسريعًا في زمن الاستدلال المتوسط يتراوح بين 2 و3 أضعاف على وحدات معالجة الرسومات H200 من خلال تقنية فك الترميز التخميني (speculative decoding)، إلى جانب تنبيهات بث VLM في أقل من ثانية. وبالنسبة للتوزيعات، يتطلب Cosmos3-Nano ذاكرة تتراوح بين 31 و58 غيغابايت، في حين يتطلب Cosmos3-Super ذاكرة تتراوح بين 38 و150 غيغابايت، وذلك حسب الدقة وإعدادات التفريغ (offloading).