为特定工作负载选择合适的处理器始终至关重要。但就人工智能（尤其是人工智能推理）而言，单个芯片的选择远不如整个系统的架构重要。d-Matrix 今日收购 GigaIO 的数据中心业务，以及英伟达本周早些时候对 Marvell 的 20 亿美元投资，都印证了这一点。
d-Matrix最初凭借其开发的创新型数字内存计算 (DMIC) 技术而声名鹊起，该技术以芯片组的形式直接插入 PCI 总线。其最新的内存计算产品 Corsair采用了三维数字内存计算(3DMIC) 技术，将处理器直接集成到连接到 PCIe Gen5 的 SRAM 模块中。Corsair 专为使用大型语言模型的 AI 推理而开发，可提供 150 TB/s 的内存带宽，这有助于 AI 模型更快地连接数据并生成更佳结果。
这家位于加州圣克拉拉的公司d-Matrix今天宣布了其首笔收购。该公司去年11月完成了C轮融资，筹集了2.75亿美元，自2022年成立以来累计融资4.5亿美元。d-Matrix将收购位于加州卡尔斯巴德的GigaIO公司的数据中心业务。GigaIO开发了一种名为FabreX的可组合基础设施，该基础设施使用PCI和CXL标准连接GPU、FPGA和其他XPU。GigaIO在其SuperNODE平台上使用FabreX，该平台可将多达32个XPU连接到单个节点。
此次收购表明，d-Matrix 深知人工智能推理需要的不仅仅是一颗速度快的芯片。“推理的规模远超任何一颗芯片，”d-Matrix 的创始人兼首席执行官 Sid Sheth 表示，“它现在是一个系统性问题。”
Sheth表示，未来人工智能要想取得成功，就必须将工作负载分解成更小的任务，这些任务可以在各种不同的处理器类型上运行，包括CPU、GPU和推理加速器。
“这意味着数据必须实时高效地在芯片、节点、机架乃至整个数据中心之间传输，”他说道。“此次收购将加速我们交付适应这种新形势的基础设施的能力，在这种形势下，低延迟、效率和规模都至关重要。”
GigaIO计划继续作为一家专注于边缘计算的独立公司运营。该公司近期发布了Gryf，并将其定位为一款可放入喷气式客机头顶行李舱的“便携式超级计算机”。
英伟达的业务范围也已超越芯片领域。凭借其强大的GPU，这家绿色巨头一跃成为全球市值最高的公司。自OpenAI在2022年底发布ChatGPT引发当前人工智能热潮以来，英伟达的GPU一直供不应求。其产品路线图显示，英伟达将推出性能更强大的GPU，目前的Blackwell将于2026年被Rubin取代，随后在2028年推出Feynman GPU。
但就连英伟达也承认，单靠一个GPU并不能打造出色的AI。在其近期举办的GPU技术大会上，英伟达发布了大量关于其他类型芯片的消息，包括其新款Vera CPU和Groq语言处理单元（LPU），后者是英伟达在去年12月斥资200亿美元收购的知识产权。首席执行官黄仁勋坚称，成功的AI需要英伟达全部七款芯片的支持，这些芯片现在统称为Vera Rubin平台。
黄仁勋在三月份的GPC大会上与媒体进行问答时表示：“大多数人忘记了英伟达的业务远不止是一家芯片公司。原因在于我们是全栈式公司，我们可以帮助人们在任何地方构建人工智能工厂。”
本周，英伟达进一步加大了对Marvell的投入，宣布将向这家总部位于圣克拉拉、市值80亿美元的定制芯片制造商投资20亿美元。Marvell开发各种定制芯片，包括用于人工智能加速器、交换机、存储控制器、游戏主机和硅光子器件的专用集成电路（ASIC）。该公司曾与亚马逊云服务（AWS）合作开发用于人工智能模型训练的Trainium XPU。此外，Marvell还与微软Azure、谷歌云和甲骨文云基础设施（Oracle Cloud Infrastructure）开展过合作。
英伟达斥资20亿美元，旨在提升Marvell与NVLink Fusion的集成度。NVLink Fusion是英伟达围绕其专有的NVLink互连技术构建开放生态系统的计划。据英伟达称，Marvell将提供定制的XPU和兼容NVLink Fusion的横向扩展网络组件。与此同时，英伟达将提供堆栈的重置部分，包括Vera CPU、ConnectX网卡、BlueField DPU、NVLink互连技术和Spectrum-X交换机，以及“AI计算”（即GPU）。
Marvell董事长兼首席执行官Matt Murphy表示：“我们与Nvidia扩大合作，体现了高速连接、光互连和加速基础设施在扩展人工智能方面日益增长的重要性。通过NVLink Fusion，我们将Marvell在高性能模拟、光DSP、硅光子学和定制芯片领域的领先优势与Nvidia不断扩展的人工智能生态系统连接起来，从而帮助客户构建可扩展、高效的人工智能基础设施。”
去年12月，Marvell斥资32.5亿美元收购了Celestial AI，后者当时正在开发一种可扩展的光互连技术。Celestial AI正在构建光子结构（Photonic Fabric），这是一种可扩展的光互连技术，能够提供高达16太比特/秒的带宽。Marvell原本计划将Celestial AI的互连技术整合到其对UALink的支持中。但现在，Marvell正在与Nvidia及其NVLink Fusion互连架构合作，UALink的未来发展方向值得关注。
无论是 UALink、NVLink Fusion 还是 Ultra Ethernet 成为突破内存壁垒的工具，很明显，如今要突破 AI 推理的极限，需要一种超越任何单个芯片能力的全系统方法。
官方微信
官方微博
