12月15日,在商湯科技發(fā)布行業(yè)首個(gè)多劇集生成智能體Seko2.0當(dāng)天,寒武紀(jì)已完成對(duì)商湯自研日日新Seko系列模型的適配。
今年10月,寒武紀(jì)與商湯科技已達(dá)成戰(zhàn)略合作,重點(diǎn)推進(jìn)軟硬件的聯(lián)合優(yōu)化,并共同構(gòu)建開放共贏的產(chǎn)業(yè)生態(tài)。隨著大模型技術(shù)的深入發(fā)展,用戶對(duì)于多模態(tài)生成模型的需求也在爆發(fā)。近年來,寒武紀(jì)持續(xù)開展底層軟硬件的深度攻關(guān),實(shí)現(xiàn)了對(duì)多模態(tài)生成模型的高效適配。此次與商湯科技在多模態(tài)生成模型的適配,是國產(chǎn)算力底座與國產(chǎn)大模型協(xié)同創(chuàng)新的重要實(shí)踐,讓更多開發(fā)者和企業(yè)能夠以更低成本使用多模態(tài)AI能力。
適配完成后,寒武紀(jì)及商湯科技還將在多個(gè)方向共同進(jìn)一步展開深度優(yōu)化:
持續(xù)優(yōu)化模型核心能力:雙方將圍繞長(zhǎng)序列處理、低比特計(jì)算等,在保證模型效果的前提下,進(jìn)一步提升多模態(tài)生成的效率與響應(yīng)速度。
提升算力利用率與成本效率:通過算子融合、算子自動(dòng)調(diào)優(yōu)等,推進(jìn)更高效的計(jì)算與存儲(chǔ)方式,降低模型運(yùn)行所需的資源占用,讓更多企業(yè)能夠以更低成本獲得高性能的多模態(tài)能力。
強(qiáng)化大規(guī)模并行處理能力:基于計(jì)算與通信并行等優(yōu)化技術(shù),優(yōu)化跨硬件的調(diào)度與通信策略,提升復(fù)雜任務(wù)在大規(guī)模集群中的運(yùn)行效率與穩(wěn)定性。
構(gòu)建更靈活的資源管理機(jī)制:探索分層調(diào)度與異構(gòu)資源協(xié)同技術(shù),在保證性能的同時(shí)有效降低顯存壓力,使模型能夠在更廣泛的環(huán)境中穩(wěn)定運(yùn)行。
通過雙方的深入?yún)f(xié)同優(yōu)化,將全面提升模型效率、顯著增強(qiáng)算力與資源利用率并優(yōu)化跨硬件環(huán)境的協(xié)同適配,進(jìn)一步降低多模態(tài)AI的使用門檻并提升整體體驗(yàn)。
寒武紀(jì)與商湯科技將共同推動(dòng)國產(chǎn)AI應(yīng)用生態(tài)的繁榮與發(fā)展,打磨更高效、更易用的階梯式產(chǎn)品體系,并面向廣大開發(fā)者構(gòu)建更開放、友好的工具與生態(tài),激發(fā)前沿應(yīng)用的創(chuàng)新活力。
轉(zhuǎn)自:中金在線
【版權(quán)及免責(zé)聲明】凡本網(wǎng)所屬版權(quán)作品,轉(zhuǎn)載時(shí)須獲得授權(quán)并注明來源“中國產(chǎn)業(yè)經(jīng)濟(jì)信息網(wǎng)”,違者本網(wǎng)將保留追究其相關(guān)法律責(zé)任的權(quán)力。凡轉(zhuǎn)載文章及企業(yè)宣傳資訊,僅代表作者個(gè)人觀點(diǎn),不代表本網(wǎng)觀點(diǎn)和立場(chǎng)。版權(quán)事宜請(qǐng)聯(lián)系:010-65363056。
延伸閱讀

版權(quán)所有:中國產(chǎn)業(yè)經(jīng)濟(jì)信息網(wǎng)京ICP備11041399號(hào)-2京公網(wǎng)安備11010502035964