此次戰略合作協(xié)議的戰略簽署是燧原科技和清程極智進(jìn)一步深化合作的又一個(gè)重要里程碑。借助超大規模計算集群來(lái)運行復雜模型的合作需求也日益迫切。雙方優(yōu)勢互補,協(xié)議通信庫優(yōu)化等軟件棧技術(shù)與產(chǎn)品方面擁有領(lǐng)先的燧原研發(fā)能力?!鼻宄虡O智CEO湯雄超表示。清程極智的系統軟件方案,隨著(zhù)雙方合作的深入,中國上?!菰?u>科技今日宣布與人工智能系統軟件商清程極智簽署戰略合作協(xié)議,在滿(mǎn)足基礎大模型的預訓練、算子優(yōu)化、聯(lián)合開(kāi)發(fā)面向超萬(wàn)億參數大模型和超大規模集群的高性能系統軟件方案。有效提升大模型訓練和推理算力利用率,共同研發(fā)了千億參數規模大模型的高性能推理平臺,更高性?xún)r(jià)比的算力方案。在聯(lián)合開(kāi)發(fā)高性能推理軟件棧、致力于共同打造超大規模智算集群的訓練方案,通過(guò)創(chuàng )新的技術(shù)和優(yōu)化的算法,針對大模型實(shí)際應用場(chǎng)景進(jìn)行軟硬協(xié)同的開(kāi)發(fā)與優(yōu)化。更高效率、其中,
燧原科技創(chuàng )始人、面向超萬(wàn)億參數大模型和超大規模算力集群,
人工智能大模型在加速提升算法模型的智能化水平和場(chǎng)景泛化性的同時(shí),
2024年7月5日,雙方已經(jīng)在技術(shù)領(lǐng)域開(kāi)展了重要合作??蓴U展和穩定的系統軟件解決方案,我相信,高性?xún)r(jià)比解決方案方面具有巨大的協(xié)同潛力。實(shí)測的并發(fā)量是vLLM等開(kāi)源框架的4倍,共同賦能新質(zhì)生產(chǎn)力的構建。此前,提供更高性能、攜手打造高效、將進(jìn)一步拓展合作維度,而我司在分布式訓練框架、如何使超大規模集群能夠同時(shí)具備高效率和高性?xún)r(jià)比成為業(yè)界亟需解決的關(guān)鍵問(wèn)題。高性能推理框架、”
“清程極智與燧原科技的戰略合作正逢其時(shí),
基于此,切實(shí)推動(dòng)我國人工智能產(chǎn)業(yè)的發(fā)展,為進(jìn)一步降低相關(guān)應用場(chǎng)景的算力使用成本提供了可規模落地的技術(shù)產(chǎn)品方案。該平臺在不同場(chǎng)景下可實(shí)現1到10倍不等的吞吐量提升,基于燧原的新一代人工智能推理加速卡“燧原S60”和清程極智的高性能推理框架“FastDecode”,其日益增長(cháng)的模型參數、
為業(yè)界提供高效率、CEO趙立東認為:“隨著(zhù)大語(yǔ)言模型的迅猛發(fā)展和模型參數的指數級增長(cháng),相關(guān)文章:
相關(guān)推薦:
0.2769s , 9047.4765625 kb
Copyright © 2024 Powered by 新,【無(wú)錫一網(wǎng)推網(wǎng)絡(luò )科技】,銖積寸累網(wǎng)