Looking to break NVIDIA's monopoly! Startup company TensorWave's cloud service only uses AMD chips

华尔街见闻
2024.10.08 16:51
portai
I'm PortAI, I can summarize articles.

TensorWave 的首席执行官兼联合创始人 Darrick Horton 认为该公司竞争优势明显,因为 AMD MI300X 的价格比当前最受欢迎的英伟达 GPU H100 便宜得多,而且 MI300X 在运行(但不是训练)AI 模型方面优于 H100。该公司估值已达 1 亿美元,预计年底经常性收入将达到 2500 万美元,增长 8 倍。

AI 热潮方兴未艾,让英伟达成为当仁不让的霸主,该公司的 GPU 已成为各种规模的 AI 公司首选的芯片。然而,媒体报道,成立于去年年底的公司 TensorWave 正在逆流而上,推出了一个仅提供英伟达竞争对手 AMD 硬件的云服务,处理 AI 工作负载。

TensorWave 的首席执行官兼联合创始人 Darrick Horton 在接受 TechCrunch 采访时表示:

“我们意识到这是一个不健康的垄断现象,这是一个导致最终用户无法获得计算资源并抑制 AI 领域创新的现象。出于我们希望 AI 大众化的愿望,我们决定提供一个可行的替代方案,恢复竞争和选择权。”

落户赌城

根据报道,Horton 与 TensorWave 的其他两位联合创始人 Jeff Tatarchuk 和 Piotr Tomasik 是通过 Pickleball 运动认识的,随后就 GPU 算力的垄断导致供应限制的问题达成共识,最终促使 TensorWave。

TensorWave 总部位于拉斯维加斯,对于一家云基础设施初创公司来说,这是一个不寻常的选择。但 Horton 表示,团队看中了这个机会。“我们认为拉斯维加斯有潜力成为一个蓬勃发展的技术和初创公司生态系统。”

这个预测并非完全脱离现实。根据 Dealroom.co 的数据,拉斯维加斯拥有 600 多家初创公司,雇佣了 11,000 多名员工,并在 2022 年吸引了超过 40 亿美元的投资。

与许多美国主要城市相比,拉斯维加斯的能源成本和运营费用也较低。此外,Tomasik 和 Tatarchuk 与当地的风险投资社区有着紧密的联系。

Tomasik 之前曾是总部位于拉斯维加斯的种子基金 1864 Fund 的普通合伙人,现在与非营利加速器 StartUp Vegas 和 Vegas Tech Ventures 合作。Tatarchuk 是孵化器机构 Fruition Lab 的天使投资人。

这些联系帮助 TensorWave 成为了市场上首批提供 AMD Instinct MI300X 实例处理 AI 工作负载的云服务之一。TensorWave 提供按小时租用 GPU 计算资源的服务,并要求至少六个月的合同期限。

以 AMD 为中心

媒体报道,目前低成本、按需服务的 GPU 云市场正在蓬勃发展。而 Horton 表示,TensorWave 的竞争优势明显。

首先是价格。Horton 指出,AMD MI300X 的价格比当前最受欢迎的英伟达 GPU H100 便宜得多,这使得 TensorWave 能够将节省的成本传递给客户。他没有透露 TensorWave 的具体实例定价,但如果想要打败 H100,定价必须低于 2.50 美元/小时。

其次是性能。Horton 引用了基准测试数据,显示 MI300X 在运行(但不是训练)AI 模型方面优于 H100,尤其是在像 Meta 的 Llama 2 这样的文本生成模型上。

除了 TensorWave,其他押注 AMD AI 芯片的公司包括初创公司 Lamini 和 Nscale,以及更大型、根基更深厚的云供应商,如 Azure 和 Oracle。

分析认为,当前对 AMD 芯片使用者的有利因素是英伟达 GPU 持续短缺,以及英伟达即将推出的 Blackwell 芯片的延迟。不过,随着关键芯片组件(特别是内存)的制造加速,短缺可能很快会缓解。这将使英伟达能够加大 H200 的出货量,这款新品的性能得到了显著提升。

对于依赖 AMD 硬件的新兴云服务商来说,另一个存在的挑战是如何跨越英伟达围绕 AI 芯片构建的竞争壁垒。业界普遍认为,英伟达的开发软件更为成熟且更易于使用,并且已被广泛部署。甚至 AMD 首席执行官苏姿丰也承认,采用 AMD 芯片 “需要付出努力”。

更远的前景来看,随着超大规模公司增加对定制硬件的投资,专注于价格竞争的挑战可能会日益艰难。例如,Google 提供其 TPU;微软最近推出了两个定制芯片 Azure Maia 和 Azure Cobalt;而亚马逊 AWS 拥有 Trainium、Inferentia 和 Graviton。

但 Horton 表示:

“随着开发人员寻求能够有效处理其 AI 工作负载的替代方案,尤其是在内存和性能需求增加的情况下,加上生产问题导致的延误,AMD 将在未来更长时间内保持领先地位,并在 AI 时代的计算大众化中发挥关键作用。”

预计年底经常性收入增长 8 倍 估值已达 1 亿美元

TensorWave 目前已有 300 万美元的年经常性收入。Horton 表示,一旦 TensorWave 将其 MI300X 的容量提高到 20000 个,预计到经常性收入年底将达到 2500 万美元,增长 8 倍。

假设每个 GPU 的成本为 15000 美元,那么 20000 个 MI300X 将意味着一笔 3 亿美元的投资,然而 Horton 声称,TensorWave 的资金消耗率 “完全在可持续水平内”。TensorWave 此前曾表示,将使用其 GPU 作为大规模债务融资的抵押品,这是其他数据中心运营商采用的一种方法,Horton 表示这仍然是该公司计划的一部分。

他继续说道:

“这反映了我们强劲的财务健康状况。我们通过在最需要的地方提供价值,战略性地定位自己,以应对潜在的逆风。”

不过,当被问道 TensorWave 目前有多少客户时,Horton 由于 “保密原因” 拒绝回答,但强调了 TensorWave 已公开宣布的与网络骨干供应商 Edgecore Networks 和由前 Neuralink 工程师创立的 AI 推理初创公司 MK1 的合作伙伴关系。

Horton 表示,该公司正在迅速扩大算力,以满足日益增长的需求。他还补充道,TensorWave 计划在今年年底开始使用的 AMD 可能在四季度推出的下一代 MI325X GPU。

投资者对 TensorWave 的增长轨迹表示满意。Nexus VP 在周三透露,该机构领投了一轮 4300 万美元的融资,参与者还包括 Maverick Capital、StartupNV、Translink Capital 和 AMD Ventures。这是 TensorWave 的第一轮融资,融资后该公司的估值达到 1 亿美元。