2016 年，谷歌張量處理單元 TPU 的發(fā)明者喬納森·羅斯（Jonathan Ross），在美國加利福尼亞州山景城創(chuàng)建了一家名為 Groq 的 AI 芯片公司。

經(jīng)過幾年的發(fā)展，這家致力于生成式 AI 解決方案的企業(yè)，已經(jīng)構建了旨在大規(guī)模實現(xiàn)低延遲、節(jié)能和可重復推理性能的 LPU 推理引擎，并希望實現(xiàn)這樣一個使命，即創(chuàng)建 AI 經(jīng)濟，以讓任何有絕妙創(chuàng)意的人都能使用并負擔得起。

過去幾天，這家長期以來一直處于隱身狀態(tài)的公司，在互聯(lián)網(wǎng)上引發(fā)較大的轟動。

Groq 基于自研 LPU 推理引擎，讓 Mixtral 8x7B 等開源大語言模型能夠以幾乎每秒 500 個 token 的速度運行，并在大多數(shù)基準測試中擊敗了以每秒 40 個 token 的速度運行的 GPT-3.5。（編者注：token 指的是 AI 訓練過程中處理文本的最小單元。）

顯而易見，如果推理速度像 LPU 這樣快的芯片在今后變得越來越普遍，那么用戶等待生成式 AI 緩慢輸出內容的日子會逐漸消失。與此同時，Groq 的發(fā)展也將不可避免地為 GPU 芯片的霸主英偉達帶來威脅。

（來源：Groq 官網(wǎng)）

日前，該公司收購了一家位于美國加利福尼亞州帕洛阿托的初創(chuàng)公司 Definitive Intelligence，收購金額尚未公開。

據(jù)了解，Definitive Intelligence 由桑尼·馬德拉（Sunny Madra）和加文·雪利（Gavin Sherry）于 2022 年共同創(chuàng)立，前者為該公司的聯(lián)合創(chuàng)始人兼 CEO，后者為聯(lián)合創(chuàng)始人兼 CTO。

Definitive Intelligence 主要推出與生成式 AI 有關的產品，包括開發(fā)大語言模型所需的開源庫集合 OpenAssistants，和連接到企業(yè)與公共數(shù)據(jù)庫的可視化生成器 Advisor。

Pioneer 是該公司的主要工具之一，作為一種“自主數(shù)據(jù)科學代理”，能夠實現(xiàn)對任何數(shù)據(jù)分析任務的處理，比如預測建模等。

據(jù)悉，在 Groq 收購 Definitive Intelligence 之前，后者籌集的風險投資達到 2550 萬美元[1]。

在本次收購之后，馬德拉將領導 GroqCloud 業(yè)務部門，主要利用他在服務企業(yè)客戶方面積累的專業(yè)知識和豐富經(jīng)驗，通過 GroqCloud 來廣泛地拓展用戶對 LPU 推理引擎的訪問。

對此，羅斯在公司發(fā)布的新聞稿中表示：“我們很歡迎來自 Definitive Intelligence 的馬德拉和他的團隊幫助我們實現(xiàn)公司使命。

該團隊擁有 AI 解決方案和進入市場策略方面的專業(yè)知識，并且致力于與社區(qū)分享知識。他們是領導我們 GroqCloud 業(yè)務部門的完美人選。”

需要說明的是，GroqCloud 云平臺是 Groq 圍繞開發(fā)人員打造的一個新平臺，已經(jīng)具有該公司完全集成的文檔、代碼示例和自助服務訪問權限（用戶能通過**** https://console.groq.com/ 訪問）。

那么，GroqCloud 業(yè)務部門的工作重點都有哪些呢？

具體來說，GroqCloud 不僅能夠幫助用戶通過自助服務平臺輕松訪問 LPU 推理引擎，還能為客戶部署新的生成式 AI 應用程序，并為這些程序提供只有 Groq 才擁有的超快運行速度。

公開資料顯示，GroqCloud 自 2024 年 2 月 19 日試運行以來，已經(jīng)吸引了大量開發(fā)人員，其中數(shù)千人對于 Groq API 的使用持非常積極的態(tài)度。

而馬德拉和該平臺的業(yè)務團隊計劃最初將工作重點集中在擴大容量、提高效率、建立合作伙伴關系以及構建開發(fā)者平臺。

“世界現(xiàn)在才意識到高速推理對生成人工智能的重要性。在 Groq，我們?yōu)殚_發(fā)人員提供了實現(xiàn)生成式 AI 承諾所需的速度、低延遲和效率?！瘪R德拉在一封電子郵件聲明中說。

同時，他也在該聲明中表示：“自從 2016 年第一次見到羅斯以來，我一直是 Groq 的忠實粉絲，我很高興能加入他的行列，Groq 團隊力求將最快的推理引擎推向世界。”

事實上，除了 GroqCloud 業(yè)務部門，Definitive Intelligence 擁有的工程資源還幫助 Groq 正式組建了 Groq Systems 業(yè)務部門。

該部門在聚焦創(chuàng)新的同時，還會為需要將 Groq 芯片用于其 AI 計算中心的公共部門和客戶提供服務。

對于 Groq 為何選擇將 GroqCloud 和 Groq Systems 分成兩個部門，羅斯解釋說：“這將使 Groq 能夠繼續(xù)快速創(chuàng)新、加速推理并引領 AI 芯片競賽，而傳統(tǒng)提供商和其他 AI 領域的知名企業(yè)仍然在嘗試構建一款可以與我們的 LPU 競爭的芯片。”

其實，Definitive Intelligence 并非是 Groq 收購的第一家公司。在此之前，該公司曾于 2022 年完成對高性能計算和 AI 基礎設施解決方案公司 Maxeler Technologies 的收購。

面臨如今定制 AI 芯片市場的競爭如此激烈的當下，這或許不會是 Groq 的最后一次收購行動，畢竟該公司顯然打算先于競爭對手站穩(wěn)腳跟。