(資料圖片)
《科創板日報》7 月 4 日訊(編輯 宋子喬)英偉達 AI 生態系統再次泛起一陣漣漪。根據近期爆料,英偉達在 2 月秘密收購了 AI 初創企業 OmniML。
OmniML 成立僅兩年,創始人是三位華人,其主要產品是 Omnimizer,一個旨在快速、輕松地大規模進行 AI 優化的平臺,可以壓縮機器學習模型的大小,以便大模型在更小的設備上運行,而非依賴于云端算力。
簡言之,OmniML 的平臺可視作大模型與終端設備的橋梁,旨在幫助大模型部署在手機、平板電腦、智能音箱、無人機、汽車等硬件上。這也是谷歌、華為、高通等公司都在進行的嘗試——實現 AI 大模型在終端的輕量化部署,將 AI 與更多智能硬件融合。
科技媒體 the information 表示,這項收購可能意味著英偉達想要改進其專門用于汽車、工業機器人和無人機的人工智能芯片。
目前,英偉達主要有 3 個邊緣產品:用于企業邊緣計算的 NVIDIA EGX 平臺,用于工業應用的 IGX 平臺,以及用于自主機器和嵌入式邊緣案例的 Jetson。該公司還優化了 NVIDIA 軟件,使其可以在這些設備上運行,其客戶也可以使用 Fleet command 平臺來指揮他們的邊緣設備。
OmniML 此前表示,其能夠使機器學習任務在不同邊緣設備上的速度提高 10 倍,而工程工作量僅為 1/10,不僅大幅提高模型性能,而且顯著降低企業成本。
隨著大模型在智能設備中的滲透率提升,對于邊緣側模型推理的需求將快速釋放,科技公司爭相布局,大量資本也開始涌入這個賽道。
OmniML 成立以來得到了許多老牌風險投資公司的支持,包括 GGV Capital、Qualcomm Ventures、Foothill Ventures 等。在被收購前一個月,OmniML 還宣布與英特爾建立合作伙伴關系。
產品端,華為 P60 系列和 Mate X3 手機上,基于多模態大模型技術在端側輕量化應用,手機上第一次有了自然語言圖片搜索能力;谷歌發布 PaLM2 大模型,其中 Gecko 可以在移動端運行;百度即將發布 AI+ 智能手機的消息印證了手機的入口價值;高通中國發布了全球首個運行在 Android 手機上的 Stable Diffusion 終端側演示。
可以預見的,科技巨頭和資本的推動下,大模型的入口將從主流的 PC 和手機端,不斷向更廣泛的智能設備擴散。
標簽: