7 月 24 日消息，英偉達公司昨日（7 月 23 日）發(fā)布新聞稿，正式推出“NVIDIA AI Foundry”代工服務和“NVIDIA NIM”推理微服務。
“NVIDIA AI Foundry”代工服務
英偉達表示客戶可以使用 Meta 的 Llama 3.1 AI 模型，以及英偉達的軟件、計算和專業(yè)知識，為特定領域定制構建“超級模型”。
客戶可以利用專有數據、由 Llama 3.1 405B 和英偉達 Nemotron Reward 模型生成的合成數據來訓練這些“超級模型”。
NVIDIA AI Foundry 由 NVIDIA DGX? Cloud AI 平臺提供支持，該平臺與世界領先的公共云共同設計，為企業(yè)提供大量計算資源，并可根據 AI 需求的變化輕松擴展。
NVIDIA AI Foundry 包括 Nemotron 和 Edify 等英偉達創(chuàng)建的 AI 模型、流行的開放式基礎模型、用于定制模型的 NVIDIA NeMo? 軟件，以及 NVIDIA DGX? Cloud 上的專用容量（由 NVIDIA AI 專家構建并提供支持）。
輸出結果由 NVIDIA NIM（一個推理微服務，其中包括定制模型、優(yōu)化引擎和標準 API）負責，可以部署到任何地方。
NVIDIA NIM 推理微服務
注：NVIDIA NIM 是一套加速推理微服務，允許企業(yè)在云計算、數據中心、工作站和 PC 等任何地方的 NVIDIA GPU 上運行 AI 模型。
本站內容除特別聲明的原創(chuàng)文章之外，轉載內容只為傳遞更多信息，并不代表本網站贊同其觀點。轉載的所有的文章、圖片、音/視頻文件等資料的版權歸版權所有權人所有。本站采用的非本站原創(chuàng)文章及圖片等內容無法一一聯系確認版權者。如涉及作品內容、版權和其它問題，請及時通過電子郵件或電話通知我們，以便迅速采取適當措施，避免給雙方造成不必要的經濟損失。聯系電話：010-82306118；郵箱：aet@chinaaet.com。