每經(jīng)記者｜楊卉    每經(jīng)編輯｜梁梟    

7月24日，《每日經(jīng)濟新聞》記者從英偉達處獲悉，英偉達推出了全新NVIDIA AI Foundry服務和NVIDIA NIM^TM推理微服務，與同樣剛推出的Llama 3.1系列開源模型一起，為全球企業(yè)提供生成式AI相關服務。

根據(jù)英偉達方面的數(shù)據(jù)，Llama 3.1多語種大語言模型（LLM）集合是一個具有8B、70B和405B三種參數(shù)規(guī)模的生成式AI模型集合。當與適用于Llama 3.1 405B的NVIDIA NIM推理微服務結合使用時，NeMo Retriever NIM微服務可以為RAG工作流中的開放和商業(yè)文本問答帶來極高的檢索準確性。NVIDIA AI Foundry能提供一種可用于快速構建自定義超級模型的端到端服務。

根據(jù)英偉達的說法，借助NVIDIA AI Foundry，企業(yè)能使用Llama 3.1模型和NVIDIA NeMo平臺（包含在Hugging Face RewardBench上排名第一的NVIDIA Nemotron-4 340B Reward模型）創(chuàng)建自定義模型；還可以使用自有數(shù)據(jù)以及由Llama 3.1 405B和NVIDIA Nemotron Reward模型生成的合成數(shù)據(jù)，來訓練這些超級模型。

創(chuàng)建自定義模型后，企業(yè)可構建NVIDIA NIM推理微服務，以便在其首選的云平臺和全球服務器制造商提供的NVIDIA認證系統(tǒng)上，使用自己選擇的最佳機器學習運維（MLOps）和人工智能運維（AIOps）平臺在生產(chǎn)中運行這些模型。

英偉達創(chuàng)始人兼首席執(zhí)行官黃仁勛提出，Llama 3.1開源模型標志著全球企業(yè)采用生成式AI的關鍵時刻已經(jīng)到來，Llama 3.1將掀起各個企業(yè)與行業(yè)創(chuàng)建先進生成式AI應用的浪潮。

Meta創(chuàng)始人兼首席執(zhí)行官馬克·扎克伯格則表示，全新的Llama 3.1模型是開源AI邁出的極其重要的一步，英偉達還和Meta一起為Llama 3.1提供了一種提煉方法，供開發(fā)者為生成式AI應用創(chuàng)建更小的自定義模型。