中文字幕 另类精品,亚洲欧美一区二区蜜桃,日本在线精品视频免费,孩交精品乱子片免费

<sup id="3hn2b"></sup>

    1. <sub id="3hn2b"><ol id="3hn2b"></ol></sub><legend id="3hn2b"></legend>

      1. <xmp id="3hn2b"></xmp>

      2. 新聞中心

        EEPW首頁(yè) > 智能計(jì)算 > 設(shè)計(jì)應(yīng)用 > 英特爾Gaudi 2D AI加速器為DeepSeek Janus Pro模型提供加速

        英特爾Gaudi 2D AI加速器為DeepSeek Janus Pro模型提供加速

        作者: 時(shí)間:2025-02-07 來(lái)源:EEPW 收藏

        近日,發(fā)布模型,其超強(qiáng)性能和高精度引起業(yè)界關(guān)注。? 現(xiàn)已針對(duì)該模型進(jìn)行優(yōu)化,這使得AI開發(fā)者能夠以更低成本、更高效率實(shí)現(xiàn)復(fù)雜任務(wù)的部署與優(yōu)化,有效滿足行業(yè)應(yīng)用對(duì)于推理算力的需求,為AI應(yīng)用的落地和規(guī)?;l(fā)展提供強(qiáng)有力的支持。

        本文引用地址:http://www.antipu.com.cn/article/202502/466723.htm

        image.png

        作為一款創(chuàng)新性的 AIGC模型, Janus模型集成了多模態(tài)理解和生成功能。該模型首次采用統(tǒng)一的Transformer架構(gòu),突破了傳統(tǒng)AIGC模型依賴多路徑視覺編碼的限制,實(shí)現(xiàn)了理解與生成任務(wù)的一體化支持。在此基礎(chǔ)上,通過優(yōu)化訓(xùn)練策略和擴(kuò)展模型規(guī)模,顯著提升了文生圖等功能的性能與穩(wěn)定性,并提供了10億參數(shù)和70億參數(shù)兩個(gè)版本,在性能與精度上展現(xiàn)了較強(qiáng)的競(jìng)爭(zhēng)力。

        1738932426867939.png

        統(tǒng)一的Transformer架構(gòu)下,文生圖模型的吞吐量高低已經(jīng)從依賴加速器的高算力向充分利用HBM內(nèi)存高帶寬和大容量轉(zhuǎn)換。? 憑借 2.45TB/秒的高帶寬和 96GB HBM 大容量?jī)?nèi)存,為 Janus Pro 模型提供了強(qiáng)大的計(jì)算支持,使其在生圖批處理任務(wù)中,隨著批量大?。˙atch Size)的增加,吞吐性能得到顯著提升,大幅縮短任務(wù)處理時(shí)間。

        與此同時(shí),結(jié)合Optimum-Habana 框架的優(yōu)化,英特爾? 顯著提升了文生圖任務(wù)的吞吐性能和推理效率,僅需約 10 秒即可生成16張高質(zhì)量的圖片,性能表現(xiàn)卓越。而且,開發(fā)者僅需調(diào)整數(shù)行代碼,即可實(shí)現(xiàn)這一結(jié)果,極大降低了開發(fā)門檻和遷移成本,為 AI 應(yīng)用的高效部署提供便利。

        1738932447820536.png

        圖片來(lái)源:利用英特爾Gaudi 2D 運(yùn)行 Janus-Pro-7B模型生成

        此外,DeepSeek的蒸餾模型在至強(qiáng)和Gaudi平臺(tái)上也得到了支持,能夠?yàn)榭蛻魟?chuàng)造更好的總體擁有成本(TCO),推動(dòng)AI的普惠。

        一直以來(lái),英特爾始終秉承開放的態(tài)度,并通過軟硬件相結(jié)合的方式推動(dòng)AI應(yīng)用落地。目前,英特爾豐富的AI產(chǎn)品組合,包括英特爾?至強(qiáng)?處理器、英特爾?酷睿? Ultra處理器和英特爾銳炫?顯卡等,已經(jīng)針對(duì)業(yè)界超過500個(gè)開源AI模型提供支持,廣泛涵蓋DeepSeek、Llama 3.1和通義千問等。同時(shí),英特爾深耕開放生態(tài),不僅以開放生態(tài)系統(tǒng)軟件實(shí)現(xiàn)針對(duì)性優(yōu)化,也通過打造企業(yè)AI開放平臺(tái)(OPEA)為這些模型提供支持。



        評(píng)論


        相關(guān)推薦

        技術(shù)專區(qū)

        關(guān)閉