محاكي من كايست يختبر بنية نماذج اللغة قبل بناء خوادم الذكاء الاصطناعي
طوّر باحثو كايست LLMServingSim 2.0 لاختبار بنية تشغيل نماذج اللغة الكبيرة قبل نشر الخوادم. تنمذج الأداة وحدات GPU وNPU وPIM وسلوك الذاكرة والطاقة وسياسات التشغيل. ويخطط الفريق لإتاحتها كمشروع مفتوح المصدر والتحقق منها مع أطر تشغيل حقيقية.
كايست تختبر بنية نماذج اللغة قبل نشر الخوادم
طوّر باحثون في كايست LLMServingSim 2.0، وهي محاكاة لاختبار بنية تشغيل نماذج اللغة الكبيرة قبل بناء عناقيد خوادم مكلفة. وذكرت AI Times Korea أن العمل، الذي قاده فريق علوم الحاسوب لدى البروفيسور جونغسي بارك، فاز بجائزة أفضل ورقة في مؤتمر ISPASS 2026.
تعمل الأداة كمختبر افتراضي لتصميم بنية الذكاء الاصطناعي. وبدلاً من نشر أنظمة مادية لمقارنة المسرّعات وأجهزة الذاكرة وسياسات التشغيل، يستطيع المهندسون نمذجة سلوك خدمة تعتمد على نماذج اللغة عبر تكوينات مختلفة للعناقيد.
لماذا يهم ذلك
قد تتطلب خدمات نماذج اللغة الكبيرة أساطيل ضخمة من الخوادم. وقال فريق كايست إن تشغيل هذه النماذج أصبح أكثر تعقيداً مع جمع وحدات GPU بمسرّعات أخرى وطبقات ذاكرة وأساليب برمجية مثل فصل prefill وdecode واستخدام prefix caching.
تهدف LLMServingSim 2.0 إلى تقدير الإنتاجية وزمن الاستجابة واستخدام الذاكرة وسلوك الطاقة. وتدعم بيئات غير متجانسة يمكن أن تشمل GPU وNPU وأجهزة المعالجة داخل الذاكرة، ما يمنح مزودي السحابة وشركات أشباه الموصلات وسيلة لاختبار عتاد الذكاء الاصطناعي المستقبلي قبل انتشاره الواسع.
تستقبل الأداة مدخلات عن عبء العمل وتكوين العنقود وملف العتاد. ثم تبني محرك تشغيل مع توجيه للطلبات ومجموعات خدمة للنماذج، مع نمذجة التنفيذ الحسابي والوصول إلى الذاكرة وتكلفة الاتصال واستهلاك الطاقة ومخرجات التشغيل.
وفي نماذج mixture-of-experts، يمكنها عكس توجيه الخبراء وتوزيعهم والتحميل والمزامنة، وتحليل أثر expert parallelism وexpert offloading في أداء الخدمة.
الخطوات التالية
يخطط الباحثون لإتاحة المحاكاة كمشروع مفتوح المصدر وربطها بأطر تشغيل حقيقية لنماذج اللغة وإضافة ملفات عتاد جديدة. وقال البروفيسور بارك إن تنافسية خدمات الذكاء الاصطناعي تعتمد ليس فقط على النموذج، بل أيضاً على بنية تحتية موثوقة وفعالة.
وبالنسبة لقطاع الذكاء الاصطناعي في كوريا، يبرز المشروع أهمية أبحاث البنية التحتية خلف الذكاء الاصطناعي التوليدي. وإذا تم التحقق منه على نطاق واسع، فقد يساعد مشغلي السحابة ومطوري شرائح الذكاء الاصطناعي وفرق المؤسسات على خفض كلفة ومخاطر اختبار تصميمات جديدة لتشغيل نماذج اللغة.
Summary version for Medium
KAIST Simulator Tests LLM Infrastructure Before AI Server Buildouts
Why KAIST Simulator matter now for cloud infrastructure teams
Quick Summary: KAIST researchers developed LLMServingSim 2.0 to test LLM serving infrastructure before large deployments. The simulator models GPUs, NPUs, PIM devices, memory behavior, routing, power use and serving policies.
KAIST tests LLM infrastructure before deployment
KAIST researchers have developed LLMServingSim 2.0, a simulator for testing large language model serving infrastructure before operators build expensive server clusters. AI Times Korea reported that the work by Professor Jongse Park's computer science team won a best paper award at ISPASS 2026.
Why it matters
Large language model services can require very large server fleets.
- Point 1: The central topic is cloud-data-centers, with the announcement framed around concrete operating detail.
- Point 2: The KAIST team said modern LLM serving is becoming more complex as operators combine GPUs with other accelerators, memory layers and software methods such as prefill-decode...
The important shift is not the AI label, but the operating boundary it creates for teams.
Next steps
The researchers plan to release the simulator as open source, connect it with real LLM serving frameworks and keep adding hardware profiles. Professor Park said AI service competitiveness depends not only on the model, but also on reliable and efficient infrastructure.
Read the Full Deep Dive
Want to explore the complete technical analysis, enterprise trade-offs, and detailed metrics?
Read the full article originally published at SendTech Times
