بازگشت به پایگاه دانش
پایگاه دانش

معماری کارخانه‌های هوش مصنوعی: بازخوانی دیدگاه مایکل کاگان (مدیر ارشد فناوری انویدیا)

مطلب 46
•
Data Centre Magazine, شماره ۵۶ (نوامبر ۲۰۲۶)

مایکل کاگان مدیر ارشد فناوری انویدیا

در نگاه اول، راه‌اندازی کلاستر هوش مصنوعی ممکن است شبیه به ارتقای یک دیتاسنتر سازمانی سنتی به نظر برسد؛ یعنی افزودن کارت‌های گرافیکی قدرتمند به رک‌های موجود. اما در عمل، این شیوه تفکر خیلی زود به گلوگاه‌های سخت‌افزاری و اتلاف هزینه منتهی می‌شود.

مایکل کاگان (Michael Kagan)، مدیر ارشد فناوری شرکت انویدیا، در مصاحبه مفصل خود با شماره ۵۶ نشریه Data Centre Magazine در نوامبر ۲۰۲۶، این تمایز ساختاری را به شفاف‌ترین شکل بیان می‌کند. کاگان پیش از پیوستن به انویدیا، در اینتل روی ریزپردازنده‌های پنتیوم کار می‌کرد و در سال ۱۹۹۹ به همراه هشت مهندس دیگر، شرکت ملانوکس (Mellanox) را پایه‌گذاری کرد؛ شرکتی که با ابداع شبکه‌های پرسرعت InfiniBand، ارتباطات بین‌سروری را بازتعریف کرد و در سال ۲۰۲۰ با ارزش ۷ میلیارد دلار جذب انویدیا شد.

کاگان درباره تفاوت بنیادین این دو فضا می‌گوید:

«مراکز داده کلاسیک هیچ‌گاه به عنوان یک واحد تولید پیوسته طراحی نشده بودند. اما کارخانه هوش مصنوعی (AI Factory) مستقیماً هوشمندی تولید می‌کند. این زیرساخت در حقیقت یک ماشین بزرگ است که یک سرویس یکپارچه را به سرانجام می‌رساند؛ نه مجموعه‌ای از رایانه‌های جداگانه که صرفاً با کابل شبکه به هم وصل شده باشند.»

در این تحلیل، به بررسی لایه‌های مختلف این معماری و درس‌های مهم آن برای تیم‌های توسعه زیرساخت و پردازش ابری می‌پردازیم.


عبور از مرز یک تراشه و محدودیت‌های قانون مور

برای دهه‌ها، سرعت پیشرفت نرم‌افزار بر مدار قانون مور (Moore's Law) می‌چرخید؛ این قاعده تجربی که تعداد ترانزیستورهای روی تراشه تقریباً هر دو سال دو برابر می‌شود. اما بارهای پردازشی شبکه‌های عصبی عمیق و مدل‌های زبانی این تناسب را برهم زده‌اند.

طبق برآوردهای ارائه شده توسط کاگان، از سال ۲۰۱۵ به بعد، تقاضا برای توان پردازشی هوش مصنوعی در هر فصل سال تقریباً ۲ برابر شده است. به این ترتیب، نرخ رشد سالانه این حوزه چندین برابر فراتر از توان هر تراشه فیزیکی پیش می‌رود.

به همین دلیل، مفهوم واحد پردازش از سطح «یک تراشه سیلیکونی» فراتر رفته است. در محاسبات مدرن، رک سرور و حتی کل سالن دیتاسنتر به عنوان یک واحد منطقی محاسباتی (Logical Compute Unit) مدیریت می‌شود.

مایکل کاگان در مصاحبه با نشریه Data Centre Magazine


توکن به عنوان محصول خروجی؛ تفکیک آموزش و استنتاج

در یک خط تولید صنعتی، مواد اولیه و انرژی مصرف می‌شوند تا خروجی مشخصی حاصل شود. در یک کارخانه هوش مصنوعی نیز دو ورودی اصلی وجود دارد:

1. داده‌های خام پالایش‌شده

2. انرژی الکتریکی پایدار

محصول نهایی این چرخه، «توکن» (Token) است. با این حال، شیوه مصرف منابع و طراحی سخت‌افزار در دو فاز آموزش و استنتاج کاملاً متفاوت است:

  • فاز آموزش مدل (Model Training): این مرحله در واقع فرآیند ساختن ماشین است. جنس بار کاری به شکل پردازش دسته‌ای سنگین (Batch Job) بوده و هفته‌ها یا ماه‌ها به طور پیوسته روی هزاران هسته ادامه می‌یابد. در این فاز، پهنای باند فابریک ارتباطی و جلوگیری از افت بازده تانسورها اهمیت کلیدی دارد.

  • فاز استنتاج و پاسخ‌دهی (Model Inference): پس از استقرار مدل، نوع تعامل دگرگون می‌شود. در اینجا زمان پاسخ‌دهی اولیه (Time to First Token)، کمینه بودن تأخیر پردازش و پایداری مداوم سرویس در اولویت مطلق قرار می‌گیرد، زیرا کاربر نهایی منتظر خروجی بلادرنگ است.

  • نوع پردازش: فاز آموزش مدل (Training): پردازش دسته‌ای گسترده (Massive Batch) ؛ فاز استنتاج عملیاتی (Inference): پاسخ‌دهی بلادرنگ و توزیع‌شده (Streaming)

  • شاخص اصلی ارزیابی: فاز آموزش مدل (Training): توان خام پردازش ممیز شناور (FLOPS) ؛ فاز استنتاج عملیاتی (Inference): کمترین زمان تأخیر و ثبات ۹۹.۹۹۹٪ پاسخ

  • مدیریت وقفه: فاز آموزش مدل (Training): بازگشت به آخرین چک‌پوینت ثبت‌شده ؛ فاز استنتاج عملیاتی (Inference): قطعی یا کندی مستقیماً روی محصول حس می‌شود

  • ساختار هزینه: فاز آموزش مدل (Training): سرمایه‌گذاری سنگین در شروع (CapEx) ؛ فاز استنتاج عملیاتی (Inference): هزینه مستمر مصرف برق و منابع (OpEx)


فابریک ارتباطی: شبکه به عنوان جزئی از پردازنده

در کلاسترهایی که صدها یا هزاران پردازنده گرافیکی در کنار هم کار می‌کنند، بزرگ‌ترین تهدید کارایی، وضعیتی به نام گرسنگی پردازشی (GPU Starvation) است. این حالت زمانی رخ می‌دهد که هسته‌های گران‌قیمت پردازشی به دلیل کندی شبکه یا تأخیر حافظه، بیکار منتظر رسیدن بردارهای وزن و گرادیان‌ها باقی می‌مانند.

به همین جهت، انویدیا معماری ارتباطی را در سه سطح پیاده می‌کند:

1. ارتباطات فوق سریع درون شاسی (NVLink): تبدیل چندین شتاب‌دهنده به یک استخر حافظه یکنواخت با سرعت‌های ترابایتی.

2. فابریک کلاستر (InfiniBand و Spectrum-X Ethernet): به کارگیری پروتکل‌های بدون اتلاف بسته (Lossless Fabrics) با پایش سخت‌افزاری ازدحام ترافیک جهت حفظ تأخیر در سطح میکروثانیه.

3. واحدهای پردازش داده (DPU): انتقال وظایف سیستم‌عامل، فایروال، رمزنگاری و مدیریت ذخیره‌سازی به تراشه‌های اختصاصی نظیر BlueField، تا ۱۰۰ درصد توان GPUها صرفاً صرف محاسبات ماتریسی شود.

پروژه کلاستر Colossus شرکت xAI مبتنی بر معماری کارخانه هوش مصنوعی انویدیا

نمونه عینی این چارچوب مهندسی، سوپرکامپیوتر Colossus متعلق به شرکت xAI است. مایکل کاگان توضیح می‌دهد که تیم فنی با تکیه بر معماری استاندارد توانست ظرف حدود سه ماه این کلاستر را از صفر به مرحله اجرای پایدار اولین کارهای آموزشی برساند؛ پروژه‌ای که در گذشته اجرای آن معمولاً دو سال زمان می‌برد.


مدل‌های متن‌باز در برابر مدل‌های بسته: مقایسه با تاریخ سیستم‌های عامل

بحث پیرامون مدل‌های بسته تجاری (مانند GPT و Gemini) و مدل‌های متن‌باز با وزن‌های عمومی (نظیر Llama و DeepSeek) این روزها بسیار داغ است. کاگان این وضعیت را با مسیر توسعه سیستم‌های عامل مقایسه می‌کند:

«سیستم‌عامل‌های تجاری مانند ویندوز و مک‌اواس رایانه را در دسترس همگان قرار دادند، در حالی که لینوکس به سازمان‌ها این امکان را داد تا سیستم را دقیقاً بر اساس معماری و نیاز ویژه خود شکل دهند. مدل‌های باز و بسته همیشه در کنار هم باقی خواهند ماند و من آن‌ها را مانع یکدیگر نمی‌دانم.»

کاگان به یک نکته راهبردی اشاره می‌کند: مدل‌های تجاری روی داده‌های عمومی سراسر وب آموزش دیده‌اند، در حالی که دارایی اصلی یک سازمان، داده‌های محرمانه و فرآیندهای داخلی آن است. برای شرکت‌هایی که حفظ حریم خصوصی، امنیت داده‌های مالی و استقلال عملیاتی اهمیت دارد، تنها گزینه پایدار، میزبانی و شخصی‌سازی (Fine-Tuning) مدل‌های باز روی زیرساخت‌های ابری اختصاصی و امن است.


افق بعدی: هوش مصنوعی فیزیکی و روباتیک

مایکل کاگان گام بعدی تحول محاسباتی را هوش مصنوعی فیزیکی (Physical AI) می‌داند؛ سامانه‌هایی که باید محیط واقعی را درک کرده و طبق قوانین فیزیک تصمیم بگیرند.

به گفته او، این حوزه به سه دسته کامپیوتر مجزا نیاز خواهد داشت:

  • کامپیوتر اول: ابررایانه مرکزی برای آموزش پایه‌ای مدل‌های بزرگ

  • کامپیوتر دوم: موتور شبیه‌سازی دقیق فیزیکی (مانند دوقلوهای دیجیتال) که به ماشین‌ها اجازه می‌دهد رفتار در دنیای واقعی را بدون خطر تمرین کنند

  • کامپیوتر سوم: پردازنده‌های فشرده و کم‌مصرف تعبیه‌شده درون بدنه خود روبات یا خودرو

کاگان با اشاره‌ای کاربردی می‌گوید:

«باید جایی وجود داشته باشد که روبات‌ها در آن روبات بودن را یاد بگیرند. اگر شما یک روبات نظافتچی تهیه کنید، قطعاً ترجیح می‌دهید قانون جاذبه را در محیط شبیه‌سازی یاد گرفته باشد، نه با سقوط از پله‌های خانه شما.»

در این سناریو، روبات‌های فعال در صنایع داده‌های جدید میدانی را جمع‌آوری کرده و از طریق روش‌های یادگیری توزیع‌شده (Federated Learning)، مدل مرکزی را در مرکز داده به صورت روزانه به‌روزرسانی می‌کنند.


جمع‌بندی: پیام‌ها برای زیرساخت فناوری و میزبانی ابری در ایران

دیدگاه‌های فنی مایکل کاگان راهنمای بسیار ارزشمندی برای مدیران فناوری در ایران است:

۱. خرید قطعه بدون شبکه متوازن راهکار نیست: افزودن سرورهای GPU بدون زیرساخت شبکه کم‌تأخیر و استخرهای ذخیره‌سازی فوق سریع، بخش اعظم سرمایه ارزی سازمان را به دلیل بیکار ماندن پردازنده‌ها تلف می‌کند.

۲. تمرکز بر میزبانی مستقل مدل‌های بومی: وابستگی به وب‌سرویس‌های خارجی با ریسک‌هایی مانند تحریم، نوسان اینترنت و درز اطلاعات سازمانی همراه است. استقرار مدل‌های Open-Weight در دیتاسنترهای داخلی و ابری اختصاصی، تضمین‌کننده تداوم سرویس‌دهی است.

۳. حرکت به سوی طراحی ماژولار: گسترش ظرفیت پردازشی باید گام‌به‌گام و بر پایه استانداردهای قابل توسعه انجام شود تا هر زمان که تقاضای سازمان بالا رفت، بدون بازطراحی ساختار شبکه، منابع پردازشی جدید اضافه شوند.

مایکل کاگان در پایان این گفت‌وگو جمع‌بندی ساده‌ای ارائه می‌دهد:

«یک فناوری درست زمانی به زیرساخت حیاتی تبدیل می‌شود که هیجان اولیه پیرامون آن فروکش کند و وقتی قطع شد، همه معترض شوند. این همان نقطه‌ای است که امروز هوش مصنوعی به آن رسیده است.»

سوالی دارید؟

تیم ما آماده است تا به سوالات شما پاسخ دهد و راهنمایی‌های لازم را ارائه کند.