روز دوشنبه (۷ آبان)، انویدیا اعلام کرد فناوری شبکه اسپکتروم-ایکس (Spectrum-X) این شرکت به توسعه ابررایانه کولوسوس (Colossus)، متعلق به استارتاپ xAI، کمک کرده است. این ابررایانه اکنون به عنوان بزرگ‌ترین مجموعه آموزش هوش مصنوعی در جهان شناخته می‌شود.
به گزارش میهن بلاکچین، کولوسوس که در ایالت تنسی مستقر است، به عنوان بستر آموزشی نسل سوم مدل‌های زبانی گروک (Grok) فعالیت می‌کند. این مدل‌ها توسط شرکت xAI توسعه یافته‌اند و برای ارائه قابلیت‌های این چت‌بات به مشترکین X Premium طراحی شده‌اند.
جزئیات ابررایانه Colossus
کولوسوس تنها در ۱۲۲ روز ساخته شد و ۱۹ روز پس از نصب، اولین مدل‌های خود را آموزش داد. استارتاپ xAI که توسط ایلان ماسک تأسیس شده، قصد دارد تا ظرفیت این سیستم را به ۲۰۰ هزار پردازنده گرافیکی افزایش دهد؛ انویدیا این خبر را در بیانیه اخیر خود اعلام کرد.
کولوسوس در واقع یک شبکه عظیم از پردازنده‌های گرافیکی است که هر کدام برای پردازش حجم عظیمی از داده‌ها تخصص دارند. در زمان آموزش مدل‌های Grok، این سیستم باید حجم زیادی از متن، تصویر و داده را پردازش کند تا کیفیت پاسخ‌ها را بهبود ببخشد.
ایلان ماسک، کولوسوس را به عنوان قدرتمندترین سیستم آموزشی هوش مصنوعی در دنیا معرفی کرده است. این ابررایانه از طریق شبکه‌ای با دسترسی مستقیم به حافظه از راه دور (RDMA) و با ۱۰۰ هزار پردازنده گرافیکی NVIDIA Hopper به هم متصل شده است. پردازنده‌های گرافیکی Hopper وظایف پیچیده را از طریق تقسیم بار کاری بین چندین پردازنده و پردازش موازی انجام می‌دهند.
این طراحی اجازه می‌دهد تا داده‌ها به‌طور مستقیم بین نودها (Nodes) انتقال یابند و با دور زدن سیستم‌عامل، ضمن کاهش تأخیر، کارایی و بازدهی بیشتری برای آموزش گسترده مدل‌های هوش مصنوعی فراهم می‌کند.
در حالی که شبکه‌های اترنت (Ethernet) سنتی به‌خاطر ازدحام و از دست دادن بسته‌های داده معمولاً فقط به ۶۰٪ بازدهی می‌رسند، اسپکتروم-ایکس با ۹۵٪ بازدهی و بدون کاهش سرعت عمل می‌کند. این فناوری ارتباط راحت‌تری را بین تعداد زیادی از پردازنده‌های گرافیکی ممکن می‌سازد، چراکه شبکه‌های معمولی اغلب با داده‌های حجیم دچار کندی می‌شوند.
با کمک اسپکتروم-ایکس، مدل‌های Grok می‌توانند با سرعت و دقت بالاتری آموزش ببینند و این موضوع برای ساخت مدل‌هایی با توانایی پاسخگویی بهتر به کاربران ضروری است. این خبر تغییر چندانی در قیمت سهام انویدیا
