يقول باحثو imec إن أحمال AI inference تدفع مسار optical I/O إلى الاقتراب من المعالجات، لأن النماذج الكبيرة تحتاج الآن إلى نقل بيانات أسرع بين المسرعات إلى جانب مزيد من قوة الحوسبة. يبدأ مسار AI inference optical I/O الذي وصفته imec من co-packaged optics، لكن المجموعة البحثية تقول إن الأنظمة المستقبلية قد تحتاج إلى تكامل 2.5D و3D للتحكم في bandwidth وlatency والطاقة.

imec تتوقع حاجة معالجات AI مستقبلية إلى 250 Tb/s من bandwidth

قال Peter Ossieur، مدير المحفظة في imec وأستاذ في Ghent University، لـ EE Times إن inference يجب أن يكون سريع الاستجابة لأنه اللحظة التي يتفاعل فيها المستخدمون مع النموذج. وقالت EE Times إن أحمال inference تشمل بشكل متزايد long context windows وretrieval-augmented generation وخطوات reasoning ومدخلات multimodal ومعماريات multi-agent.

قالت المقالة إن scale-up networking هو المجال الأصعب. تربط شبكات scale-out الرفوف والأنظمة داخل data centre، بينما تربط scale-up وحدات GPU أو مسرعات أخرى بإحكام كاف حتى تتعامل التطبيقات معها كمعالج أكبر واحد.

قالت EE Times إن نسيج scale-up الحالي غالبا ما يكون مبنيا على copper ومحصورا في الرف إلى حد كبير. وقالت إن هذا النموذج يصبح أصعب مع تحرك أنظمة AI نحو مئات أو آلاف أو عشرات آلاف المسرعات التي تعمل معا.

Co-packaged optics ليست نهاية مسار imec

قالت Imene Jadli، مديرة محفظة optical interconnect في imec، لـ EE Times إن co-packaged optics خطوة منطقية تالية لكنها ليست نهاية المسار. وتنقل co-packaged optics المحركات الضوئية إلى داخل الحزمة وتختصر المسار الكهربائي بين الوحدة الضوئية والمعالج أو switch.

حد الطاقة هو القيد الرئيسي في الأرقام التي ناقشتها imec. قالت EE Times إن أحد تصورات الأنظمة المستقبلية لدى imec يضع bandwidth الدخول والخروج للمعالج عند نحو 250 Tb/s. وقالت إن طرق co-packaged optics المتوقعة قد تحتاج إلى نحو 1.25 kW للضوئيات وحدها، فوق معالجات قد تستهلك بالفعل عدة kilowatts.

قال Ossieur لـ EE Times إن imec تحتاج إلى نهج أفضل من co-packaged optics. والمسار المقترح للمجموعة البحثية هو 2.5D optical I/O، حيث تدمج الضوئيات عند مستوى interposer أو substrate لاختصار المسار الكهربائي وخفض الطاقة المطلوبة لنقل البيانات.

2.5D optical I/O قد يخفض طاقة الضوئيات إلى أقل من 200 W

قال Ossieur إن التصور نفسه لدى imec أظهر أن 2.5D optical I/O يمكن أن يخفض طاقة الضوئيات من نحو 1.25 kW إلى أقل من 200 W. وقالت EE Times إن imec تصف النهج بأنه "wide and slow"، باستخدام ممرات كثيرة بسرعات متوسطة بدلا من عدد أصغر من الممرات العالية السرعة مع معالجة إشارات أثقل.

يبقى عمل المواد واسعا. قالت EE Times إن co-packaged optics لا تزال تحتاج إلى أجهزة مدمجة وفعالة وعالية bandwidth، بما في ذلك electro-absorption modulators وhigh-speed photodetectors. وقالت إن imec تستكشف barium titanate ومركبات III-V إلى جانب silicon photonics لأن silicon يبقى جذابا لتصنيع CMOS لكنه قد لا يوفر كل الخصائص المطلوبة لـ optical I/O المستقبلي.

الهدف الأطول أجلا لدى imec هو 3D optical I/O، حيث تصبح الضوئيات جزءا من رزمة الحوسبة ثلاثية الأبعاد. وقالت EE Times إن ذلك قد يدعم اتصال compute-to-compute أو memory-to-compute داخل الحزم المتقدمة، بما في ذلك روابط تشمل high-bandwidth memory ومعالجات مكدسة.

لم تفصح imec عن جدول زمني لمنتج تجاري، أو عملاء مسمين لأنظمة AI، أو بيانات manufacturing yield، أو نتائج optical coupling، أو نتائج اختبارات cooling لـ 3D optical I/O.