أعلنت شركة MegaRouter، مزود البنية التحتية للذكاء الاصطناعي ومقرها هونغ كونغ، عن توسيع محرك التوجيه ليشمل اتخاذ قرارات ديناميكية متعددة النماذج. تسمح البنية الجديدة للمؤسسات بتوجيه طلبات الذكاء الاصطناعي تلقائيًا إلى نماذج اللغة الكبيرة المختلفة وفقًا لاحتياجات كل مهمة، مع موازنة عوامل مثل عمق التفكير، سرعة الاستجابة وتكلفة التشغيل.

هندسة توجيه هجينة

وفقًا لبيان الشركة، يحتفظ النظام بطبقة قائمة على القواعد تُوجّه الطلبات بناءً على شروط صريحة مثل نوع المهمة أو سياسات الامتثال. فوق ذلك، يُقيّم محرك متوافق مع القدرات متطلبات كل عبء عمل — توليد الشيفرة، استخراج البيانات المهيكلة، تركيب سياق طويل، وغيرها — ويطابقها مع النماذج التي تتفوق في تلك المجالات. يهدف هذا النهج المزدوج إلى تجنب نقص التزويد في الوظائف الحرجة وإفراط التزويد في المهام البسيطة.

اتخاذ قرار ديناميكي متعدد الأبعاد

يقوم المكوّن الديناميكي في MegaRouter بتقييم متغيرات متعددة في الوقت الحقيقي، بما في ذلك ملفات تكلفة النموذج، مقاييس الكمون وبيانات الأداء التاريخية. عندما تتغير ظروف التشغيل — مثل ارتفاع مفاجئ في الكمون أو تحول في أولويات الأعمال — يمكن لطبقة التوجيه إعادة ضبط توزيع الحركة تلقائيًا دون تدخل يدوي، مما يحافظ على استمرارية العمليات.

آثار ذلك على تبني الذكاء الاصطناعي في المؤسسات

تُصوَّر القدرة المعززة على التوجيه كوسيلة للمؤسسات الكبيرة لتحقيق استخدام أكثر كفاءة لأساطيل النماذج المتنوعة. من خلال توجيه التحليلات المعقدة ذات القيمة العالية إلى نماذج قوية ولكن مكلفة، وتوجيه مهام التصنيف الروتينية إلى بدائل خفيفة، يمكن للمؤسسات خفض الإنفاق الكلي على الذكاء الاصطناعي مع الحفاظ على مستويات الخدمة المطلوبة.

المصادر

هذا بيان صحفي موزع من قبل Chainwire. لم تتحقق COINMAG من ادعاءاته ولا تؤيد المشروع؛ ولا يُعد نصيحة استثمارية.