聪明的东西
编译 |龚宇文
编辑 |程倩
智东3月5日报道，昨日，美国AI软件创业公司Baseten宣布获得4000万美元B轮投资，据知情人士透露，Baseten的估值超过2亿美元。
本轮融资由全球知名风险投资公司IVP和Spark Capital领投，现有投资者包括美国知名风险投资公司Greylock、新成立的风险投资公司Conviction Partners和天使投资人Lachy Groom。
在看到聊天机器人 ChatGPT 等工具的爆炸式增长后，Baseten 将其业务重点放在了 AI 推理上，去年收入飙升至数百万美元以上，吸引了几家大公司和数以万计的开发人员。
目前，推理正逐渐主导AI市场，许多公司已经将重心从花费数十亿美元训练AI模型转移到AI的实际应用上。 英伟达首席执行官黄仁勋（Jensen Huang）也指出，推理占其去年计算收入的40%。
根据该博客，这家初创公司将继续专注于推理业务，帮助客户将经过训练的人工智能模型部署到应用程序中。
Baseten 联合创始人 Amir Haghighat、Tuhin Srivast**a、Philip Howes 和 Pankaj Gupta。 （从左到右）。
Baseten 成立于 2019 年，总部位于美国旧金山，最初成立时专注于机器学习。 自成立以来的三年里，Baseten 的商业软件使企业更容易构建 AI 驱动的应用程序。 Baseten 的首席执行官 Tuhin Srivast**a 与 Amir Haghighat、Philip Howes 和 Pankaj Gupta 共同创立了这家公司，但起初他们并没有得到太多帮助。 斯里瓦斯塔瓦告诉《福布斯》，他们用努力换取的收入“基本上为零”。
在大型模型快速增长和消费者大量采用聊天机器人ChatGPT、文生图Midjourney等产品的背景下，Baseten开始探索最高性能、可扩展性最强、最可靠的机器学习工作负载方式。
在过去的 12 个月里，我们正处于一波开源模型变得非常好的浪潮中。 斯里瓦斯塔瓦在接受采访时说。 2023年是Baseten抓住机遇的关键时刻。 “2023 年让我们意识到推理实际上是这里最大的市场，所以我们基本上削减了一切，重新专注于推理，”Srivastava 说。 ”
具体来说，他指的是去年 ChatGPT 围绕 OpenAI 产生的巨大反响。 “ChatGPT 之所以如此出色，是因为它不会让人感到笨拙。 原来，这是因为Openal内部有十几几个人研究推理“，这使得ChatGPT的响应速度更快，消除了可能停机的风险。
Baseten 帮助客户将其经过训练的开源或自定义 AI 模型发布到应用程序中以供公众使用。 客户可以将模型部署到 Baseten 的云中，而无需构建所需的 AI 基础设施。
Baseten 的软件会根据 AI 模型在特定时间的流量自动调整公司支付的计算资源量。 它还可以帮助客户在需要时获得稀缺的 GPU。 在全流程安全方案（SoC、HIPAA）的保障下，Baseten的自动扩容和冷启动能力可以有效控制成本，原生工作流可以服务于生产中的大型模型，因此用户无需担心版本管理、上线和可观测性。
该公司为企业和开发人员提供核心机器学习工作负载，例如 Descript、Picnic Health、Writer、Patreon、Loop 和 Robust Intelligence。 Srivastava 提到，在 2023 年，Baseten 已经将推理负载扩展了数百倍，“没有一分钟的停机时间”。 未来，该公司将进一步推出新功能，例如多云支持以及与Tensorrt等一流运行时的集成。
Baseten从ChatGPT背后的大模型的快速发展中观察了市场的发展趋势，专注于推理市场，业务增长迅速，收入一举跃升至百万美元。 风险投资公司IVP的合伙人Somesh Dash和Shr**An Narayen告诉《福布斯》，在看到公司在没有销售和营销团队的情况下如此迅速地发展后，他们迫切希望进行投资。
Srivastava表示，部分融资金额将用于建立销售和营销团队。 他预计，到今年年底，Baseten的规模将比目前的25家增加近一倍。 部分新资金还将用于购买更多GPU，以及升级和优化公司的软件。
他说，大约20家大公司和数以万计的开发人员已经在为Baseten的产品付费，该产品是根据使用的计算能力计费的。 例如，Patreon是一个基于会员制的平台，消费者向创作者支付访问独家**和其他内容的费用，它使用Baseten的产品来管理OpenAI的开源语音识别模型Whisper的部署，该模型可以自动生成字幕。
然而，目前人工智能推理的繁荣也可能在未来晚些时候带来风险。 Baseten的产品依赖于客户选择使用自定义的开源模型，尽管管理基础设施需要额外的工作。
如果 OpenAI 的 GPT、Anthropic 的 Claude 或 Google 的 Gemini 等闭源模型主导市场，Baseten 将在很大程度上失去其相关性。 但 Srivastava 认为，未来，开发人员将同时使用开源和闭源模型。 他说，虽然闭源**服务可能具有更好的性能，但成本、速度和数据隐私等因素可能会吸引初创公司使用开源服务。
另一个风险来自人工智能基础设施提供商之间日益激烈的竞争。 美国知名风险投资公司Spark Capital的普通合伙人威尔·里德（Will Reed）加入了董事会的筹款活动，他告诉《福布斯》，根据他的观察，Basethen正在赢得“令人难以置信的不成比例的份额”客户，尽管这不是最便宜的选择。
Baseten 的竞争对手之一是 Descript，这是一家由 Reed 支持的初创公司，为 ** 和播客编辑应用程序提供所有机器学习功能。 Srivastava 打赌，客户会选择 Baseten 而不是竞争对手 Descript，因为它具有良好的性能——而且它在 2023 年支持的 AI 应用程序不会停机。
如前所述，推理占其去年计算收入的 40%。 英伟达首席执行官黄仁勋最近在接受《连线》杂志采访时表示，如果如此多的计算能力用于推理，那就意味着“人工智能终于成功了”。
市场上的投资者越来越多地支持专注于人工智能推理的公司：在云上运行的Modal Labs已经获得了Redpoint和Amplify Partners的资助; Fireworks AI 为开发者构建 AI 制作平台，由 Benchmark 和 Sequoia 提供支持; 去年，Replicate 从投资者那里筹集了 4000 万美元，其中包括 Andreessen Horowitz，该公司旨在为用户简化和个性化开源 AI 模型。
与此同时，专注于生成式人工智能平台的Together AI和专注于分布式机器学习的Anyscale等独角兽初创公司也正在进入这一领域。 Srivastava预计亚马逊或Microsoft可能是下一个进入该领域的企业，“实际上，你也必须考虑超大规模企业，因为我认为他们确实看到了这是一个竞争非常激烈的市场。 ”
越来越多的大型模型行业参与者开始关注AI的应用和实现，涌现出更丰富的行业应用案例，同时对AI推理的需求迅速扩大。
在此背景下，以巴腾为代表的企业，在前期产品和技术积累的基础上，看到了市场发展的显著趋势，赢得了市场机遇。 可以看出，大型模型产业的阶段性转型发展，仍将为初创企业的发展带来新的机遇。
*：forbes