Multicoin Capital:构建GPU互联网

火星财经
媒体专栏
热度: 21352

io.net是一个利用GPU处理工作负载的平台,为全球的图像生成开发人员提供计算资源。它可以实时推理并向网络贡献者支付费用,与传统云提供商竞争,提供更便宜的资源。用户可以通过注册访问io.net的资源,也可以贡献自己的GPU获得积分。该平台的优势在于保持轻资产并与市场的供需双方建立直接关系,解决全球计算短缺和物理制造过程的限制。

摘要由 Mars AI 生成
本摘要由 Mars AI 模型生成,其生成内容的准确性、完整性还处于迭代更新阶段。

原文标题:Building The Internet of GPUs

原文作者:SHAYON SENGUPTA

文来源:multicoin

编译:Kate, 火星财经

我们很高兴地宣布我们对io.net的投资,io.net是领先的人工智能工作负载分布式计算市场。我们领投种子轮并参与了A轮融资。总的来说,io.net已经从Multicoin、Hack VC、6th Man Ventures、Modular Capital和一群深度联系的天使投资人那里筹集了3000万美元,以实现按需生产就绪的计算市场。

我第一次见到io.net的创始人Ahmad Shadid是在2023年4月的Austin Solana Hacker House,并立即被他对ML工作负载计算资源访问民主化的独特关注所吸引。

从那以后,io.net团队一直在以光速执行这一理论。如今,该网络已经汇聚了数万个分布式GPU,为人工智能企业提供了超过57,000个计算小时。我们很高兴能与他们合作,因为他们将推动未来十年的人工智能复兴。

全球计算短缺

对人工智能计算的需求正以惊人的速度增长,需求是无法满足的。2023年,人工智能工作负载的数据中心收入超过1000亿美元,但即使在最保守的情况下,对人工智能的需求也超过了芯片供应。

在高利率和资本稀缺的时期,能够容纳这类硬件的新数据中心需要大量的前期投资。问题的关键在于NVidia A100和H100等先进芯片的生产限制。虽然GPU性能不断提高,成本稳步下降,但物理制造过程的加速速度不够快,原材料、零部件和生产能力的短缺限制了增长的步伐。

尽管人工智能前景光明,但它的物理足迹日益扩大,对空间、电力和尖端设备的需求使世界各地的预算紧张。物联网为我们的加速努力不受当前供应链限制的世界铺平了道路。

io.net是DePIN理论的经典实例:使用代币激励从结构上降低获取和保留供应方资源的成本,并最终降低最终消费者的成本。该网络将大量异构GPU汇集到一个共享池中,供人工智能开发人员和公司使用。如今,该网络由来自数据中心、矿场和消费级设备的数千个GPU提供支持。

尽管这些资源的聚合是有价值的,但AI工作负载不会自动从集中式的企业级硬件扩展到分布式网络。在加密货币的历史上,已经有过几次建立分布式计算网络的尝试,其中大多数都没有产生有意义的需求侧量。

跨异构硬件(具有不同的内存、带宽和存储配置)编排和调度工作负载的问题并不简单。我们相信io.net团队拥有当今市场上最实用的解决方案,可以使这种硬件聚合对终端客户有用,并且经济高效。

为集群铺平道路

在计算的历史中,软件框架和设计模式是围绕市场上可用的硬件配置来塑造自己的。大多数用于人工智能开发的框架和库严重依赖于中心化硬件资源,但在过去十年中,在跨地理分布硬件的离散实例分配这些工作负载方面取得了重大进展。

io.net利用世界上存在的潜在硬件,在它们上面部署定制的网络和编排层,使它们联机,创建一个超可扩展的GPU互联网。该网络利用Ray、Ludwig、Kubernetes和其他各种开源分布式计算框架,以允许机器学习工程和运营团队在GPU网络上进行最小的调整来扩展他们的工作负载。

ML团队可以通过按需启动集群来并行io.net GPU上的工作负载,并利用这些库来处理编排、调度、容错和扩展。例如,如果一组动态图形设计师将他们的家用GPU贡献给网络,io.net可以构建一个集群,周到地使世界上任何地方的图像扩散风格模型开发人员都可以访问集体计算资源。

BC8.ai,Stable Diffusion 的微调变体——完全在 io.net 硬件上训练——就说明了这一点。io.net 浏览器显示实时推理,并向网络贡献者支付费用。

网络

提示:地理上分布的人工智能超级计算机

每个推理都记录在链上以提供出处。这种特殊图像生成的代价是由6个RTX 4090组成的集群,这是用于游戏的消费级GPU。

今天,网络上有成千上万的设备,横跨矿场、未充分利用的数据中心和渲染网络消费者节点。除了创造新的GPU供应外,io.net还能够在成本上与传统云提供商竞争,通常提供更便宜的资源。

他们通过将GPU协调和开销外包给协议来实现这些成本节约。另一方面,云计算提供商对基础设施成本进行加价,因为他们有员工费用、硬件维护和数据中心开销。消费卡集群和矿场的机会成本大大低于超大规模者愿意接受的成本,因此存在结构性套利,io.net上的资源动态定价低于不断增长的云率。

构建GPU互联网

Io.net有一个独特的优势,那就是保持轻资产,并将服务任何给定客户的边际成本降低到几乎为零,同时与市场的供需双方都直接建立关系。他们处于有利地位,可以为成千上万的新企业提供服务,这些企业需要使用GPU来构建有竞争力的产品,以构建有朝一日每个人都会与之交互的竞争产品。

我们很高兴能与Ahmad和团队的其他成员合作,因为他们在全球范围内建立并加速了人工智能的发展。如果你正在构建计算密集型应用程序,你可以通过在这里注册来访问io.net的资源。如果你有潜在的GPU,你也可以把它们贡献给网络,这样做可以获得积分。

声明:本文为入驻“MarsBit 专栏”作者作品,不代表MarsBit官方立场。
转载请联系网页底部:内容合作栏目,邮件进行授权。授权后转载时请注明出处、作者和本文链接。未经许可擅自转载本站文章,将追究相关法律责任,侵权必究。
提示:投资有风险,入市须谨慎,本资讯不作为投资理财建议。
免责声明:本文不构成投资建议,用户应考虑本文中的任何意见、观点或结论是否符合其特定状况,及遵守所在国家和地区的相关法律法规。