به لطف پردازندههای قدرتمند AMD، سریعترین ابرکامپیوتر جهان یک مدل زبانی بزرگ و مشابه ChatGPT را تعلیم داد.
ابرکامپیوتر پرقدرت Frontier، تنها با استفاده از حدود ۳,۰۰۰ پردازنده AMD از ۳۷٬۸۸۸ پردازندهی گرافیکی خود یک مدل زبانی بزرگ (LLM) با نزدیک به یکتریلیون پارامتر را تعلیم داد.
بهگزارش سایت arXiv، محققان آزمایشگاه ملی Oak Ridge در آمریکا توانستند یک مدل زبانی بزرگ و در ابعاد GPT-4 را تنها با ۸ درصد از گرافیک AMD مدل MI250X موجود در ابرکامپیوتر Frontier آموزش دهند.
ابرکامپیوتر Frontier مجهز به ۹,۴۷۲ پردازندهی AMD مدل Epyc 7A53 و ۳۷٬۸۸۸ پردازندهی گرافیکی AMD مدل Radeon Instinct است.
گروه تحقیقاتی آزمایشگاه ملی Oak Ridge بهترتیب از ۳,۰۷۲ پردازندهی گرافیکی این ابرکامپیوتر برای آموزش یک مدل زبانی بزرگ با یکتریلیون پارامتر و از ۱,۰۲۷ پردازندهی گرافیکی برای آموزش یک مدل زبانی بزرگ دیگر با ۱۷۵ میلیارد پارامتر استفاده کردند.
ابرکامپیوتر Frontier در هنگام انجام آزمایش، در بهرهوری مقیاسگذاری ضعیف، امتیاز کامل ۱۰۰ درصد را بهدست آورد. این مقیاس بدینمعنی است که با افزایش حجم کاری، تعداد پردازندههای بیشتری عملکرد بهینه خواهند داشت.