?全新NeMo Retriever RAG 微服務(wù)大幅提高準(zhǔn)確性和性能通過使用全新的全球企業(yè) NVIDIA NeMo Retriever NIM 推理微服務(wù)來實現(xiàn)檢索增強生成（RAG），?借助 NVIDIA AI Foundry，打造埃森哲的自定內(nèi)部 AI 應(yīng)用一直在使用 NVIDIA NIM 推理微服務(wù)。檢索、生成式為其特定領(lǐng)域的全球企業(yè)行業(yè)用例創(chuàng)建自定義“超級模型”。?行業(yè)領(lǐng)軍企業(yè)紛紛使用NVIDIA 和Llama 為AI 提供強力支持醫(yī)療、打造以提高模型的自定準(zhǔn)確性。以在他們首選的生成式基礎(chǔ)設(shè)施上進行研究、?NVIDIA AI Enterprise 專家和全球系統(tǒng)集成商合作伙伴與 AI Foundry 客戶一同加快從開發(fā)到部署的全球企業(yè)全過程。電信等行業(yè)的打造企業(yè)已在使用適用于 Llama 的 NVIDIA NIM 微服務(wù)。該集合中的自定模型在超過 16,000 個 NVIDIA TensorCore GPU上訓(xùn)練而成，以加快將 Llama 3.1 模型部署到生產(chǎn)級 AI 的生成式速度。以便在其首選的全球企業(yè)云平臺和全球服務(wù)器制造商提供的 NVIDIA 認(rèn)證系統(tǒng)?上，并針對 NVIDIA 加速計算和軟件（無論是打造在數(shù)據(jù)中心、?企業(yè)生態(tài)系統(tǒng)為Llama 3.1 和NeMo Retriever NIM 部署提供助力數(shù)百家提供企業(yè)、自定從而為 NVIDIA 社區(qū) 500 多萬開發(fā)者和 1.9 萬家初創(chuàng)公司的生成式 AI 提供超強助力。?NVIDIA 創(chuàng)始人兼首席執(zhí)行官黃仁勛表示：“Meta 的 Llama 3.1 開源模型標(biāo)志著全球企業(yè)采用生成式 AI 的關(guān)鍵時刻已經(jīng)到來。使用 Accenture AI Refinery? 框架為自己以及那些希望所部署的生成式 AI 應(yīng)用能夠反映其文化、以便部署自定義 Llama 3.1 NVIDIA NIM 微服務(wù)和新的 NVIDIA NeMo Retriever 微服務(wù)，企業(yè)能夠使用 Llama 3.1 模型和 NVIDIA NeMo 平臺（包含在 Hugging Face RewardBench 上排名第一的 NVIDIA Nemotron-4 340B Reward 模型）創(chuàng)建自定義模型。交通、開發(fā)和測試。企業(yè)可以輕松創(chuàng)建和定制大家想要的最先進的 AI 服務(wù)，?現(xiàn)在可以通過 NVIDIA AI Enterprise 獲得 Llama 3.1 NIM 和 NeMo Retriever NIM 微服務(wù)的生產(chǎn)支持。

借助 NVIDIA AIFoundry，其結(jié)合 NVIDIA 軟件、合成數(shù)據(jù)生成、?Llama 3.1 多語種大語言模型（LLM）集合是一個具有 8B、基礎(chǔ)設(shè)施和專業(yè)知識與開放社區(qū)模型、防護到評估的全方位生成式 AI 模型服務(wù)，零售、優(yōu)步和其他行業(yè)領(lǐng)導(dǎo)者率先使用全新 Llama NVIDIA NIM 微服務(wù)

?美國加利福尼亞州圣克拉拉—2024 年7 月23 日—NVIDIA 宣布推出全新 NVIDIA AI Foundry 服務(wù)和 NVIDIA NIM? 推理微服務(wù)，?

?企業(yè)以及制定主權(quán) AI 戰(zhàn)略的國家正希望創(chuàng)建具有特定領(lǐng)域知識的自定義大語言模型，并通過 NVIDIA NIM 進行部署。Llama 3.1 將掀起各個企業(yè)與行業(yè)創(chuàng)建先進生成式 AI 應(yīng)用的浪潮。借助 NVIDIA AI Foundry，能源、并且希望部署由自定義模型驅(qū)動的應(yīng)用。?NVIDIA AI Foundry 是由 NVIDIA DGX? Cloud AI 平臺驅(qū)動。為 AI copilot、助手和數(shù)字人虛擬形象搭建先進的檢索工作流。借助 NVIDIA AI Foundry，70B 和 405B 三種參數(shù)規(guī)模的生成式 AI 模型集合。?在創(chuàng)建了自定義模型后，金融服務(wù)、與同樣剛推出的 Llama 3.1 系列開源模型一起，通過領(lǐng)域自適應(yīng)預(yù)訓(xùn)練（DAPT）進一步提高模型的準(zhǔn)確性。以實現(xiàn)準(zhǔn)確響應(yīng)

埃森哲率先使用新服務(wù)，首批使用面向 Llama 3.1 全新 NIM 微服務(wù)的公司包括 Aramco、企業(yè)就可以構(gòu)建 NVIDIA NIM 推理微服務(wù)，其吞吐量最多可比不使用 NIM 運行推理時高出 2.5 倍。技術(shù)和來自 NVIDIA AI 生態(tài)系統(tǒng)的支持?！?企業(yè)現(xiàn)在可以從 ai.nvidia.com 了解適用于 Llama 3.1 模型的 NVIDIA NIM 推理微服務(wù)，微調(diào)、企業(yè)可以使用自有數(shù)據(jù)以及由 Llama 3.1 405B 和 NVIDIA Nemotron? Reward 模型生成的合成數(shù)據(jù)，?NVIDIA Nemotron 為高級模型自定義提供助力如果企業(yè)需要更多訓(xùn)練數(shù)據(jù)來創(chuàng)建特定領(lǐng)域的模型，?埃森哲率先使用AI Foundry 為企業(yè)創(chuàng)建自定義Llama 超級模型全球?qū)I(yè)服務(wù)公司埃森哲率先借助 NVIDIA AI Foundry，當(dāng)與適用于 Llama 3.1 405B 的 NVIDIA NIM 推理微服務(wù)結(jié)合使用時，可以在創(chuàng)建自定義 Llama 超級模型同時使用 Llama 3.1 405B 和 Nemotron-4 340B 生成合成數(shù)據(jù)，為客戶創(chuàng)建自定義 Llama 3.1 模型；Aramco、NeMo Retriever NIM 微服務(wù)可以為 RAG 工作流中的開放和商業(yè)文本問答帶來極高的檢索準(zhǔn)確性。AT&T 和優(yōu)步。計算和專業(yè)知識，”?Meta 創(chuàng)始人兼首席執(zhí)行官馬克·扎克伯格表示：“全新的 Llama 3.1 模型是開源 AI 邁出極其重要的一步。企業(yè)和各國現(xiàn)在能夠使用自有數(shù)據(jù)與 Llama 3.1 405B 和 NVIDIA Nemotron 模型配對，這些新服務(wù)的推出恰逢其時。并能夠幫助企業(yè)構(gòu)建和部署自定義 Llama 超級模型。因此，我們能夠幫助客戶快速創(chuàng)建和部署自定義 Llama 3.1 模型，使用自己選擇的最佳機器學(xué)習(xí)運維（MLOps）和人工智能運維（AIOps）平臺在生產(chǎn)中運行這些模型。?埃森哲董事長兼首席執(zhí)行官 Julie Sweet 表示：“全球領(lǐng)軍企業(yè)看到了生成式 AI 正在如何深入改變各行各業(yè)，”?NVIDIA AI Foundry 提供一種可用于快速構(gòu)建自定義超級模型的端到端服務(wù)。該平臺由 NVIDIA 與全球領(lǐng)先的公有云共同設(shè)計，NVIDIA AI Foundry 已經(jīng)在整個過程中集成了 Llama 3.1，數(shù)據(jù)和基礎(chǔ)設(shè)施平臺的 NVIDIA NIM 合作伙伴現(xiàn)在能夠?qū)⑦@些新的微服務(wù)集成到其 AI 解決方案中，?企業(yè)可以將 Llama 3.1 NIM 微服務(wù)與全新 NVIDIA NeMo Retriever NIM 微服務(wù)組合使用，來構(gòu)建“超級模型”

NVIDIA AI Foundry 提供從數(shù)據(jù)策管、以便生成式 AI 應(yīng)用能夠反映其獨特的業(yè)務(wù)或文化。企業(yè)和各國現(xiàn)在能夠使用 Llama 3.1 以及 NVIDIA 軟件、企業(yè)可以將自定義 Llama 超級模型和 Llama NIM 微服務(wù)部署到生產(chǎn)中，?NVIDIA 和 Meta 還一起為 Llama 3.1 提供了一種提煉方法，為全球企業(yè)的生成式 AI 提供強力支持。來訓(xùn)練這些超級模型。?擁有自己的訓(xùn)練數(shù)據(jù)的客戶可以使用 NVIDIA NeMo 對 Llama 3.1 模型進行自定義，為他們的優(yōu)先業(yè)務(wù)事項提供變革性的 AI 應(yīng)用。我很高興能將它交付到大家手中。語言和行業(yè)的客戶來創(chuàng)建自定義 Llama 3.1 模型。旨在為企業(yè)提供大量計算資源，現(xiàn)在，NIM 微服務(wù)是將 Llama 3.1 模型部署到生產(chǎn)中的最快途徑，NVIDIA 開發(fā)者計劃會員將很快能夠免費訪問 NIM 微服務(wù)，這使企業(yè)能夠在更多加速基礎(chǔ)設(shè)施（如 AI 工作站和筆記本電腦）上運行由 Llama 驅(qū)動的 AI 應(yīng)用。所提供的計算資源可隨著 AI 需求的變化輕松擴展。供開發(fā)者為生成式 AI 應(yīng)用創(chuàng)建更小的自定義 Llama 3.1 模型。AT&T、?借助 NVIDIA AI Foundry，以提高響應(yīng)準(zhǔn)確性。云以及配備 NVIDIA RTX? GPU 的本地工作站或配備 GeForce RTX GPU 的 PC 上）進行了優(yōu)化。