#KAIST

محاكي من كايست يختبر بنية نماذج اللغة قبل بناء خوادم الذكاء الاصطناعي

طوّر باحثو كايست LLMServingSim 2.0 لاختبار بنية تشغيل نماذج اللغة الكبيرة قبل نشر الخوادم. تنمذج الأداة وحدات GPU وNPU وPIM وسلوك الذاكرة والطاقة وسياسات التشغيل. ويخطط الفريق لإتاحتها كمشروع مفتوح المصدر والتحقق منها مع أطر تشغيل حقيقية.