GPU金融家为何转向推理芯片：4亿美元交易首开先河

人工智能推理云初创公司General Compute从科技投资公司Upper90获得4亿美元贷款。这可能是首笔以推理专用芯片作为抵押品的交易——这些芯片专为快速高效运行已训练好的AI模型而设计，而非用于最初构建模型的更昂贵的芯片。 这笔融资是市场回应对AI工具和代币价格担忧的最新信号，通过转向运行开源模型的基础设施，这些模型比前沿实验室的最新大语言模型成本更低。 由首席执行官Finn Puklowski和首席技术官Jason Goodison创立的General Compute，于5月完成了1500万美元的种子轮融资，旨在围绕英特尔支持的芯片制造商SambaNova的芯片构建推理新云。（新云是专门为AI工作负载而构建的，不同于AWS或Azure等传统超大规模云服务商提供的通用基础设施。） 该公司的SN50芯片专为推理设计。它们能效高，不需要昂贵的水冷系统，这意味着它们可以比GPU更快地部署到更多种类的数据中心。General Compute表示，新芯片的推理速度将比基于GPU的云快16倍。 挑战在于获取大量这些芯片，尤其当你是一家全新的公司时。 Upper90联合创始人兼首席执行官Billy Libby曾是高盛量化交易员，他对此有一套策略：2021年，他的公司为专注于能源的数据中心初创公司Crusoe的GPU采购提供了融资，他认为这是首笔以先进芯片价值为抵押的贷款。 当时，传统贷款机构因GPU折旧的风险和不确定性而回避此类交易。但随着CoreWeave将芯片抵押贷款变成一种商业模式，并成为轰动一时的IPO的基础，这类融资已变得普遍。 “当我们作为首批团队为英伟达GPU融资时，市场效率低下，”Libby告诉TechCrunch。“作为早期参与者，我们确实可以有所作为，并从风险中获得补偿。” 如今GPU相对被充分理解，或许已过度采购，Upper90转向像General Compute这样的公司，以驾驭AI浪潮的下一波。“我们认为开源模型将变得重要，去年我们寻找了一个从事推理的参与者，”Libby说。“并非每个人都需要超级计算机，但他们确实需要推理和AI。” 这一论点日益强劲：提供开源模型访问的公司，如OpenRouter和Fireworks，以高估值完成新一轮融资。Kimi的K3等新模型在编程基准测试中已证明能与Anthropic和OpenAI的最新版本竞争。Groq和Cerebras等新芯片制造商也引起了收购方和公开市场的兴趣。 General Compute能够获取英伟达生态系统之外的芯片同样重要。另一家AI基础设施公司TensorWave也在与AMD合作押注类似方向。随着更多替代英伟达的方案涌现，不受英伟达协议约束的计算提供商可能在提供高性价比推理方面具有优势。 “有许多芯片开始规模化，它们具有惊人的总拥有成本，或者运行速度远超英伟达，但买家不多，”Puklowski说。“与Upper90合作，这不仅仅是一个酷炫的初创公司获得资金购买计算资源。这是资本自我组织并打破英伟达垄断统治的第一个信号。”