Hosted.ai这家给AI基础设施提升效率的公司,最近搞了笔1900万美元的融资。主要就是为了在同一GPU上跑多个任务,把那些闲着的算力给盘活。HostedAI Inc.表示,这次把钱砸进去,就是想把AI计算资源池搞得更高效。他们是专门做软件平台和市场的,专门解决GPU资源浪费的问题。 之前的GPU租赁模式太死板,按卡、服务器甚至机架级别租给客户。但大部分客户其实只用一点点容量。结果就是GPU资源大量闲置,平均有60%的时间都浪费在那。CEO迪特莱夫·布雷达尔吐槽说,现在的GPU基础设施简直就是个浪费大户。客户被逼着把GPU当静态资源租,因为这是运营商卖东西的唯一方式。 但是从硬件层看,其实还能压榨出更高的使用效率。这就意味着运营商能从数据中心和服务器的投资里赚到更多钱。不过对新的云提供商来说,这可不是好事,闲置的资源会让他们赔不少钱。 HostedAI说他们还要帮客户接触到更多样化的供应商,现在市场上基本上就是那几个美国大玩家在垄断。那些想保持数据主权或者讲究区域效率的欧洲公司和公共部门组织,就能找个更便宜的替代方案了。 这个平台本质上就是个联合GPU市场,既能发布自己闲置的容量,又能去别的平台订阅资源扩大覆盖面。开发者们不用再去租整台服务器了,而是用基于消费的模式访问系统,成本低多了。 现在这行竞争挺激烈的,有Together Computer Inc.、Runpod Inc.和Vast.ai Inc.这些对手在那里拼杀。不过HostedAI的玩法不一样,他们把商品定价和区域可用性结合在一起。这就瞄准了那些想要低延迟、又要生产级可靠性、但不想花冤枉钱的中层开发者和企业。 最终效果就是给新云提供了一种灵活配置闲置GPU算力的方案。HostedAI觉得这是个双赢的买卖,既优化了基础设施又能把那些原本浪费的资源利用起来。布雷达尔还强调说:“GPU市场的问题是浪费太严重了,稀缺根本就不存在。” Creandum领投了这笔种子轮融资,People Ventures和Repeat VC也跟着投了钱。 问答环节:Q1:HostedAI是干什么的?解决啥问题?A:是提升GPU基础设施效率的平台和市场公司,主要解决GPU资源浪费问题,把同一GPU跑多个任务。Q2:这个技术有啥好处?A:对云运营商来说能提高五倍输出效率,多赚钱;对开发者和企业来说成本更低。Q3:跟别的平台有啥不同?A:别的平台要么搞大规模无服务器扩展,要么是非托管点对点硬件。HostedAI主打商品定价加区域可用性的模式。