《電子技術(shù)應用》
您所在的位置:首頁 > 人工智能 > 業(yè)界動態(tài) > AMD Instinct MI300X 加速器開始出貨

AMD Instinct MI300X 加速器開始出貨

2024-01-23
來源:IT之家

AMD 近日開始量產(chǎn)其最新一代人工智能和高性能計算(HPC)加速器 Instinct MI300X,并率先交付合作伙伴 LaminiAI 使用。LaminiAI 將采用 MI300X 加速器運行大型語言模型(LLM),以滿足企業(yè)用戶的需求。

1.png

LaminiAI 與 AMD 已有多年合作,因此優(yōu)先獲得 MI300X 的供貨并不意外。該公司 CEO Sharon Zhou 在社交媒體上宣布了這一消息,LaminiAI 已經(jīng)收到了多臺配備 8 個 Instinct MI300X 加速器的機器,Sharon Zhou 表示:“首批 AMD MI300X 已經(jīng)投入生產(chǎn),LaminiAI 的下一批 LLM 集群即將上線。”

據(jù)了解,MI300X 是 AMD Instinct MI300 系列的高性能版本,主打 AI 和 HPC 計算,其放棄了 x86 CPU 內(nèi)核,而是搭載更多的 CDNA 3 計算單元,總數(shù)達到 304 個,遠高于 MI300A 的 228 個。此外,MI300X 還配備了 192GB HBM3 高速內(nèi)存,峰值帶寬高達 5.3 TB / s。

根據(jù) AMD 官方性能測試,MI300X 的表現(xiàn)優(yōu)于市面上已有的 Nvidia H100 80GB,甚至有可能對即將上市的 H200 141GB 構(gòu)成威脅。目前,Meta 和微軟等巨頭客戶已采購了大量 AMD Instinct MI300 系列產(chǎn)品,LaminiAI 則是首家公開使用 MI300X 的公司。

weidian.jpg

本站內(nèi)容除特別聲明的原創(chuàng)文章之外,轉(zhuǎn)載內(nèi)容只為傳遞更多信息,并不代表本網(wǎng)站贊同其觀點。轉(zhuǎn)載的所有的文章、圖片、音/視頻文件等資料的版權(quán)歸版權(quán)所有權(quán)人所有。本站采用的非本站原創(chuàng)文章及圖片等內(nèi)容無法一一聯(lián)系確認版權(quán)者。如涉及作品內(nèi)容、版權(quán)和其它問題,請及時通過電子郵件或電話通知我們,以便迅速采取適當措施,避免給雙方造成不必要的經(jīng)濟損失。聯(lián)系電話:010-82306118;郵箱:aet@chinaaet.com。