ai gpu mi300 文章進(jìn)入ai gpu mi300技術(shù)社區(qū)

SmartDV借助AI新動(dòng)能以定制IP和生態(tài)合作推動(dòng)AI SoC等全新智能芯片的研發(fā)及產(chǎn)業(yè)化

作為長(zhǎng)期植根中國(guó)的全球領(lǐng)先的集成電路知識(shí)產(chǎn)權(quán)（IP）提供商，SmartDV一直在跟蹤人工智能（AI）技術(shù)以及它對(duì)各個(gè)細(xì)分芯片領(lǐng)域的推動(dòng)作用，同時(shí)也在不斷地推出新的諸如IP、驗(yàn)證IP （VIP）和Chiplet這樣的產(chǎn)品和服務(wù)，支持客戶迅速開發(fā)AI SoC等新一代智能應(yīng)用芯片去把握AI技術(shù)帶來(lái)的新機(jī)遇。AI技術(shù)在龍年歲末金龍擺尾實(shí)現(xiàn)了諸多突破，例如在CES 2025大展上許多行業(yè)組織和標(biāo)準(zhǔn)組織推出了新的協(xié)議和標(biāo)準(zhǔn)以滿足AI應(yīng)用的帶寬需求；而DeepSeek把訓(xùn)練成本大幅下降之后，給更多的智能端側(cè)設(shè)備帶來(lái)了添
關(guān)鍵字： SmartDV 定制IP AI SoC

DeepSeek超越150萬(wàn)模型：成全球最受歡迎開源大模型

2月24日消息，今天凌晨3點(diǎn)，全球最大開源平臺(tái)之一huggingface聯(lián)合創(chuàng)始人兼首席執(zhí)行官Clement Delangue發(fā)布了最新數(shù)據(jù)：中國(guó)開源大模型DeepSeek-R1在150萬(wàn)模型中，成為該平臺(tái)最受歡迎的開源大模型，點(diǎn)贊超過(guò)1萬(wàn)。前不久，Clement還特意發(fā)文恭喜DeepSeek-R1的下載量超過(guò)1000萬(wàn)次，同樣創(chuàng)造了huggingface平臺(tái)有史以來(lái)最受歡迎的模型。DeepSeek在春節(jié)期間爆火，不光在國(guó)內(nèi)人盡皆知，在海外也非常受關(guān)注，甚至美國(guó)訪問(wèn)量一度登頂。不光是接口方面使用量巨大，甚
關(guān)鍵字： deepseek 開源大模型 AI

外媒：DeepSeek省了訓(xùn)練費(fèi)，但推理模型應(yīng)用成"燒錢黑洞"

2月24日消息，盡管投資者曾一度產(chǎn)生疑慮，但來(lái)自大型科技企業(yè)、各國(guó)政府以及風(fēng)投機(jī)構(gòu)的巨額資金正以前所未有的速度流入人工智能領(lǐng)域。要理解這一現(xiàn)象背后的原因，關(guān)鍵在于洞察人工智能技術(shù)本身的演進(jìn)趨勢(shì)。當(dāng)前，人工智能技術(shù)正從傳統(tǒng)的大語(yǔ)言模型向推理模型和AI代理轉(zhuǎn)變。傳統(tǒng)的大語(yǔ)言模型，即多數(shù)免費(fèi)人工智能聊天機(jī)器人所使用的模型，其訓(xùn)練過(guò)程需要消耗龐大的電力和計(jì)算時(shí)間。然而，隨著技術(shù)的進(jìn)步，我們正在迅速找到方法，在用戶調(diào)用這些模型時(shí)減少其運(yùn)行所需的資源。與之不同，基于大型語(yǔ)言模型的推理模型，其實(shí)際運(yùn)行過(guò)程消耗的計(jì)算和電
關(guān)鍵字： DeepSeek 人工智能 AI

意法半導(dǎo)體攜手亞馬遜，推出AI數(shù)據(jù)中心光子芯片

2月20日，意法半導(dǎo)體（STMicroelectronics）表示，將推出一款新的計(jì)算機(jī)芯片，瞄準(zhǔn)蓬勃發(fā)展的AI數(shù)據(jù)中心設(shè)備市場(chǎng)，該芯片是與亞馬遜云端運(yùn)算服務(wù)部門（AWS）合作開發(fā)。作為“星際之門”（Stargate）計(jì)劃一部分，隨著美國(guó)頂尖軟件公司計(jì)劃投資5,000億美元建設(shè)AI基礎(chǔ)設(shè)施，這不僅增加對(duì)NVIDIA運(yùn)算芯片的需求，對(duì)用于存儲(chǔ)器、電源和通訊應(yīng)用的芯片需求也在成長(zhǎng)。意法半導(dǎo)體以“光子芯片”（photonics chip）瞄準(zhǔn)通訊市場(chǎng)，以提高收發(fā)器的速度，并降低收發(fā)器轉(zhuǎn)換器的功耗，先進(jìn)的AI數(shù)據(jù)
關(guān)鍵字：意法半導(dǎo)體亞馬遜 AI 數(shù)據(jù)中心光子芯片

2025 年的疲軟開局

WSTS 在 4 年報(bào)道了全球半導(dǎo)體市場(chǎng)th2024 年季度為 1,709 億美元，同比增長(zhǎng) 17%，比 3 增長(zhǎng) 3%RD2024 年季度。2024 年全年市場(chǎng)規(guī)模為 6280 億美元，比 2023 年增長(zhǎng) 19.1%。我們 Semiconductor Intelligence 為今年最準(zhǔn)確的半導(dǎo)體市場(chǎng)預(yù)測(cè)頒發(fā)了一個(gè)虛擬獎(jiǎng)項(xiàng)。這些標(biāo)準(zhǔn)是在去年 10 月和 3 月初發(fā)布 WSTS 1 月數(shù)據(jù)之間發(fā)布的公開預(yù)測(cè)。對(duì)于 2024 年，我們打成平手。IDC 在 2023 年 11 月預(yù)測(cè) 2024 年將增長(zhǎng) 2
關(guān)鍵字：半導(dǎo)體預(yù)測(cè) AI 服務(wù)器

降價(jià)了！RTX 5070 Ti國(guó)行建議售價(jià)公布：6299元起

2月19日消息，NVIDIA RTX 5070 Ti顯卡海外價(jià)格早已公布，但在中國(guó)的售價(jià)一直未公布，不過(guò)隨著上市日期的臨近，NVIDIA終于公布國(guó)內(nèi)建議零售價(jià)。NVIDIA官網(wǎng)顯示，RTX 5070 Ti建議零售價(jià)為6299元起，將于2月20日上市。作為對(duì)比，RTX 5070 Ti海外建議零售價(jià)是749美元（約5454元人民幣），RTX 4070 Ti的建議零售價(jià)則是6499元起。不過(guò)想要以6299元的價(jià)格買到RTX 5070 Ti估計(jì)可能性不大，根據(jù)博板堂透露的信息，RTX 5070 Ti的首批貨源直供
關(guān)鍵字：英偉達(dá) GPU 5070

租比買劃算，英偉達(dá)GPU價(jià)格飆漲

日經(jīng)新聞18日?qǐng)?bào)道，英偉達(dá)GPU價(jià)格飆漲，2年來(lái)上漲超過(guò)2成，主因生成式AI普及、需求強(qiáng)勁，持續(xù)陷入短缺。而因價(jià)格上漲，租比買劃算，越來(lái)越多用戶使用租借產(chǎn)品。某家日本企業(yè)表示，現(xiàn)行主力的H100 NVL采購(gòu)價(jià)格在2024年末時(shí)約440萬(wàn)日元，較2年前上漲25%，而現(xiàn)階段的售價(jià)約520萬(wàn)日元。預(yù)計(jì)將在近期開始大量出貨的次世代系列「Blackwell」的「B200」售價(jià)傳出達(dá)750萬(wàn)日元以上。從事GPU租借服務(wù)的GDEP Solutions表示，要購(gòu)買搭載4顆H100的服務(wù)器需花費(fèi)約2,6
關(guān)鍵字：英偉達(dá) GPU

DeepSeek發(fā)布NSA 加速推理降低成本

2月19日消息，2月18日，DeepSeek官宣推出NSA（Native Sparse Attention）。DeepSeek稱，NSA是一種與硬件一致且本機(jī)可訓(xùn)練的稀疏注意力機(jī)制，用于超快速的長(zhǎng)上下文訓(xùn)練和推理。通過(guò)針對(duì)現(xiàn)代硬件的優(yōu)化設(shè)計(jì)，NSA加快了推理速度，同時(shí)降低了預(yù)訓(xùn)練成本，而不會(huì)影響性能。在一般基準(zhǔn)測(cè)試、長(zhǎng)上下文任務(wù)和基于指令的推理上，它的表現(xiàn)與完全注意力模型相當(dāng)甚至更好。NSA的核心組件包括：動(dòng)態(tài)分層稀疏策略；粗粒度token壓縮；細(xì)粒度token選擇。
關(guān)鍵字： deepseek NSA AI

無(wú)愧地表最強(qiáng)AI！Grok 3“思維鏈 × DeepSearch”雙刃劍來(lái)襲

快科技2月18日消息，今日午間，馬斯克旗下的人工智能初創(chuàng)公司xAI震撼發(fā)布了其新一代聊天機(jī)器人——Grok 3。在此之前，馬斯克已將Grok 3譽(yù)為“地球上最聰慧的人工智能”。在今日的發(fā)布會(huì)上，馬斯克對(duì)Grok 3的贊美之情依然溢于言表。他強(qiáng)調(diào)，Grok 3在極短的時(shí)間內(nèi)便實(shí)現(xiàn)了對(duì)上一代產(chǎn)品Grok 2的超越，“我們堅(jiān)信，它在能力上較Grok 2有了一個(gè)數(shù)量級(jí)的飛躍”。xAI公司的工程師現(xiàn)場(chǎng)解釋稱，Grok 3的訓(xùn)練量是Grok 2的整整10倍。馬斯克還高度評(píng)價(jià)道：“Grok 3展現(xiàn)出了極強(qiáng)的推理能力，在
關(guān)鍵字：馬斯克 AI 人工智能

馬斯克正式發(fā)布Grok3，現(xiàn)場(chǎng)演示"最強(qiáng)AI"

2月18日消息，馬斯克旗下AI初創(chuàng)企業(yè)xAI正式發(fā)布Grok 3，并同步進(jìn)行現(xiàn)場(chǎng)演示。馬斯克稱Grok 3為 “地球上最聰明的人工智能”，強(qiáng)調(diào)其推理能力將超越包括ChatGPT和DeepSeek在內(nèi)的其他領(lǐng)先AI模型。據(jù)悉，為確保Grok 3以最佳狀態(tài)面世，馬斯克透露，整個(gè)周末他都將與團(tuán)隊(duì)成員并肩作戰(zhàn)，全身心投入到產(chǎn)品的打磨工作中。
關(guān)鍵字：馬斯克 Grok3 AI

英偉達(dá)被曝研發(fā) SOCAMM 內(nèi)存：694 個(gè) I/O 端口突破 AI 計(jì)算瓶頸

2 月 18 日消息，科技媒體 WccFTech 昨日（2 月 17 日）發(fā)布博文，報(bào)道稱英偉達(dá)正積極研發(fā)名為“SOCAMM”的全新內(nèi)存模塊，主要用于 Project DIGITS 等個(gè)人 AI 超級(jí)計(jì)算機(jī)，可在性能方面帶來(lái)巨大飛躍。該模塊不僅體積小巧，而且功耗更低，性能更強(qiáng)，有望成為內(nèi)存市場(chǎng)的新增長(zhǎng)點(diǎn)。目前正與三星電子、SK 海力士和美光等內(nèi)存廠商進(jìn)行 SOCAMM 原型機(jī)的性能測(cè)試，預(yù)計(jì)最快將于今年年底實(shí)現(xiàn)量產(chǎn)。援引博文介紹，SOCAMM 擁有最多 694 個(gè) I/O 端口，遠(yuǎn)超 PC DRAM 和
關(guān)鍵字：英偉達(dá) SOCAMM 內(nèi)存 AI 計(jì)算

美銀：DeepSeek可能加速中國(guó)車企自動(dòng)駕駛技術(shù)研發(fā)

快科技2月17日消息，據(jù)報(bào)道，美銀證券的分析師在一份研究報(bào)告中寫道，DeepSeek可能會(huì)加速中國(guó)汽車生產(chǎn)商自動(dòng)駕駛技術(shù)的開發(fā)。他們表示，DeepSeek的開發(fā)邏輯與自動(dòng)駕駛有一定相似之處，可能對(duì)未來(lái)自動(dòng)駕駛技術(shù)的開發(fā)產(chǎn)生影響。DeepSeek的方法可以增強(qiáng)自動(dòng)駕駛解決方案公司的多模態(tài)能力，幫助這些公司更好地理解道路場(chǎng)景，并在復(fù)雜的道路條件下提供更強(qiáng)大的性能。分析師指出，這在處理復(fù)雜場(chǎng)景時(shí)，所需的額外計(jì)算能力投入也減少了。一些大型汽車生產(chǎn)商已將DeepSeek納入自身的自動(dòng)駕駛模型，規(guī)模較小的公司未來(lái)也可
關(guān)鍵字： DeepSeek AI 大語(yǔ)言模型人工智能自動(dòng)駕駛

攜手聯(lián)發(fā)科挑戰(zhàn)高通！NVIDIA被曝正開發(fā)AI手機(jī)芯片

快科技2月14日消息，據(jù)媒體報(bào)道，NVIDIA與聯(lián)發(fā)科的合作正在進(jìn)一步深化，雙方不僅計(jì)劃于2025年下半年推出一款A(yù)I PC芯片，還正在研發(fā)一款A(yù)I智能手機(jī)芯片，意圖在移動(dòng)市場(chǎng)分得一杯羹。在PC領(lǐng)域，NVIDIA與聯(lián)發(fā)科的合作AI PC芯片預(yù)計(jì)將采用臺(tái)積電3nm制程和Arm架構(gòu)，結(jié)合聯(lián)發(fā)科在定制芯片領(lǐng)域的專長(zhǎng)與NVIDIA強(qiáng)大的圖形計(jì)算能力，有望在2025年臺(tái)北國(guó)際電腦展期間發(fā)布。目前，包括聯(lián)想、戴爾、惠普、華碩等在內(nèi)的多家知名廠商已計(jì)劃采用該芯片。而在智能手機(jī)市場(chǎng)，NVIDIA與聯(lián)發(fā)科還可能發(fā)布一款A(yù)I
關(guān)鍵字：英偉達(dá) 臺(tái)積電 GPU 計(jì)算平臺(tái)

谷歌 DeepMind 發(fā)布 WebLI-100B：千億級(jí)數(shù)據(jù)集解鎖 AI 視覺語(yǔ)言模型的文化多樣性

2 月 14 日消息，科技媒體 marktechpost 昨日（2 月 13 日）發(fā)布博文，報(bào)道稱谷歌 DeepMind 團(tuán)隊(duì)發(fā)布了 WebLI-100B 千億級(jí)數(shù)據(jù)集，并通過(guò)增強(qiáng)文化多樣性和多語(yǔ)言性，以及減少子組之間的性能差異來(lái)提高包容性。目前挑戰(zhàn)注：機(jī)器通過(guò)學(xué)習(xí)大型數(shù)據(jù)集來(lái)連接圖像和文本，數(shù)據(jù)越多，模型識(shí)別模式和提高準(zhǔn)確性的能力就越強(qiáng)。視覺語(yǔ)言模型 (VLMs) 依賴這些數(shù)據(jù)集執(zhí)行圖像字幕和視覺問(wèn)答等任務(wù)。視覺語(yǔ)言模型目前依賴于 Conceptual Captions 和 LAION 等大型數(shù)據(jù)集，包
關(guān)鍵字： AI 智能計(jì)算大語(yǔ)言模型