发布日期:2024-07-23 10:15 点击次数:105
不知络续往旧金山城里跑的小伙伴,有莫得在路边见过这么的告白:
" 按周、天或小时租用 H100 芯片。
3.2TB/s InfiniBand 高速网罗,k8s / Slurm 开源系统,等于这种东西。"
底下还写了一瞥官网地址给你 " 撕 "。
当作全寰宇生成式东说念主工智能的火热据点,旧金山街说念遍布的种种 AI 告白早已成为它的 " 城市特质 "。可即便如斯, 这个 " 出租算力 " 的看法仍然很酷,况且是把至高无上的英伟达 H100 变得如斯接地气,在 AI 圈内引起了一阵小海浪。
半年多昔日,这家作念算力生意的初创公司「San Francisco Compute」从名不见经传的 "Underdog" 来到台前。上周,Sam Altman 亲弟弟 Jack Altman 主理的 Alt Capital 领投其 1200 万好意思元种子轮融资,让它的估值来到约 5 亿东说念主民币(7000 万好意思元)。
AI 算力市集的 "Airbnb"
咱们知说念,能否实时获取足量计较资源可能会决定一家 AI 初创公司的成败。而平时唯有限度最大、资金最弥散、关系最广的大公司武艺确保取得所需算力。高性能 AI 芯片不仅资本昂贵,还需要订立历久契约,这对资金有限、业务需求多变的中小企业组成了巨大收敛。
SF Compute 等于为了措置这个远程而生。它专注于为早期公司提供经济实惠、短期生动的超等计较资源拜访权限,匡助它们更高效、更经济地开采和西宾 AI 模子。有点近似 Airbnb 在住宿边界的作念法:通过分享和按需租出,让用户以较低资本获取所需资源,短时候内使用雄伟计较武艺。
具体是通过以下两种做事模式:
1. 短期计较资源租出
与需要订立历久契约(平时为 1-3 年)的传统提供商不同,SF Compute 提供按周、按天、甚而按小时计费的短期算力租出做事。同期具备可扩张的集群,让用户阐发骨子需求来动态更始其计较资源使用量,皆备完了 "GPU 定制解放 "。
你不错租 768 个 H100 使用一周,也不错借 8 个 H100 运行 2 小时。SF Compute 还为 512 - 4096 个 GPU 的大限度预订提供有竞争力的订价。举例租出 512 个 H100 两周只需 50 万好意思元,远低于在其它提供商那边一年 1200 万好意思元的消耗。
这种以实惠价钱 " 爆发式 " 拜访巨大算力的生动选项,尽头得当需要高性能计较但不思承担历久财务包袱的用户。包括资金有限、业务可能快速变化的 AI 初创公司,以及实验室或盘考员需要苍劲算力复古的短期神气等。
阐发 SF Compute 官网信息(下图):面前 GPU 使用价钱为 2.85 好意思元 / 小时,下一个可用时候段是 8 月 4 日。从当今到来岁 1 月 5 日的可用容量在自若增多,到年底达到 912 个 H100 GPU。
面前三个人人算力集群部署中:Angel Island 集群有 192 个 H100 GPU,于客岁 11 月上线。Bay Bridge 和 Coit Tower 分歧有 512 和 1024 个 H100 GPU,计算来岁春季上线。
2. 计较武艺交往平台
除租出做事外,SF Compute 还在开采一个计较武艺交往平台,以使用户更浮浅地按需交易计较资源,进一步裁汰算力获取难度和资本。通过允许袖珍 AI 公司与大企业竞争来民主化高性能计较的拜访。
据悉,公司还是取得了异常于 8000 个 H100 的资源来复古这一计算。刚筹集的 1200 万元资金也会参预平台诞生。
坐标旧金山脑谷,16 东说念主团队里三分之二当过首创东说念主
SF Compute 总部位于硅谷旧金山,办公室就设在 AI 公司扎堆密集、被称为 " 脑谷 " 的 Hayes Valley。2023 年由Alex Gajewski(右)和Evan Conrad(左)共同创立。
Alex Gajewski任公司 CEO,毕业于哥伦比亚大学数学系。在运转旧金山计较公司之前,Alex 曾创立 Metaphor,主导西宾了一个掩盖十亿页面的大型对比模子和一个神经搜索引擎。他还在公司加快器 AI Grant 第一批神气中发扬了重要作用。奇迹糊口致力于于减少创建最先进 AI 模子的收敛和促进种种化的公司生态系统。
Evan Conrad在科技行业领有丰富的奇迹糊口。曾在 OpenAI 的 ChatGPT Enterprise 部门良晌职责过,担任过八个月的 AI Grant 董事。之前阿谀创立了 Quirk 和 Moder LLC 并分歧职责近四年。他还担任过 Segment 软件工程师,有 Amazon 和 AppDetex 的实习经验。
两东说念主创立 SF Compute 的渊源也很有真谛。
因成为合租室友而默契后,Alex 和 Evan 蓝本是盘算成立一家 AI 音乐初创公司。为了扩张音乐生成模子并向潜在投资者展示效果,他们探究了其时的每一家 GPU 提供商,以寻求 1 个月的算力拜访权限。截止被总共东说念主讲演最少购买期限是一年,用度 100 万好意思元起步,而他们压根就拿不出 100 万。
" 没东说念主惬心只卖一个月的使用权。这很好解析:如若你运营一个大型集群,最佳所以 1 到 3 年的契约出售并事前支付总共用度。这么风险更小,利润更高。为什么要把集群卖给 Junelark 这种确凿莫得资金的两东说念主音乐初创公司,况且他们可能在契约收尾前就倒闭了?" Evan 说," 晦气的是,场外配资咱们等于 Junelark。咱们的一又友也大多数是这种情况。"
" 如若你不是那些‘圣洁的少数’之一,骨子上就被市集订价摒除在外。 莫得要紧资金复古,你压根没得选拔。"
寻求 GPU 受挫的两东说念主于是尝试探究其他相通需要计较武艺的首创东说念主,觉得如若有十几家初创公司一说念加入,他们就能共同包袱得起一份年度契约。
没思到短短几周内,就招引来 170 家 AI 公司签约。看到这个宏大的市集需求后,两东说念主毅力袪除了 AI 音乐梦思,决定成为一个特意为大限度西宾任务提供超等计较资源生动拜访的 GPU 云供应商。
不仅是 " 淋过雨后方知给他东说念主撑伞 ",在算力民主化、资源分享、补助袖珍实体与大企业竞争这些备受硅谷科技社区珍摄的理念背后,SF Compute 也正中雄伟 AI 公司首创东说念主苦于拿不到算力推动项探究痛点。
五个月前 Evan Conrad 在一次演讲中暗意,SF Compute 每个月都在把算力卖给学术实验室、盘考东说念主员、初创公司,这是其他东说念主历久不会醉心的客户。
其时他们的运谋利润约为 100 万好意思元,预测在两个新集群上线后将增多 10 倍,达到每年 1000 万好意思元。公司的早期客户中还包括哈佛大学和普林斯顿大学的盘考实验室,以及 PlayHT Inc.、Phind 和 Liquid AI Inc. 等初创公司。
面前 SF Compute 在 LinkedIn 的关联职工为 16 个东说念主。Evan 在 X 发文显现,其中有 10 名职工都是前首创东说念主。他们也正在招聘中枢基础纰谬工程师、机器学习系统工程师和家具工程师职位(有趣味的不错温雅一下)。
公司格调颇有《硅谷》电视剧里的嗅觉。职工们编程累了,就会解物理题目来 " 缓慢 "。
也用著作开始那种朴实无华的口头打了很多腹地硬广。
再看几个,比如路边公告牌:
候车大厅:
以及底下这条," 为你的下一个 H100 账单立省 2000 万好意思元。"
用户 Micheal Black 说," 唯在旧金山有这么的 sense。作念告白的纰谬是了解你的客户。我在思,是的,我确乎思在 H100 上省 2000 万!"
硅谷这片科技热土,历来盛产充满冒险精神的创业者和思创业的东说念主们。平时当今一场前沿 AI 活动的不雅众里,一半以上都是东说念主工智能探究公司首创东说念主。
这些东说念主对拜访雄伟高性能 AI 计较资源有着进犯的渴求,却总被财大气粗的老到企业挤到一边,可高东说念掌握出色的思法、本领却无法到施行寰宇考证和呈现。而今 San Francisco Compute 的出现,让两边得以相互设立。
市集竞争与改日发展
天然,SF Compute 并不是独逐个家提供部分计较武艺拜访的公司,在市齐集也面临几家颇为苍劲的同业敌手。
举例 Lambda Inc,领先是一家面部识别公司,自后转向为包括英特尔公司和国防部在内的顶尖机构提供按需的 GPU 职责站、做事器和云计较资源。更知名些的有 " 英伟达小弟 "CoreWeave,最先是一家加密货币挖矿公司,也转型成 GPU 加快云计较做事供应商,专注于复古生成式 AI 和其他需要高性能计较的任务。最近它完成了 11 亿好意思元融资,估值已达 190 亿好意思元。另外还有提供低资本算力租出做事的 Vast.ai 公司,和领有全球散布 GPU 云及无做事器端点的 RunPod 公司等。
天然竞争热烈,但 SF Compute 在短至小时的租出时候和集群使用量上的生动度、更具竞争力的价钱和专注中小企业甚而个东说念主等方面,如故拉拢了属于我方的特定客户群体。而改日行将推出的计较资源交往平台,也将成为它下一大制胜上风。
SF Compute 称,接下来会把团队主要工程东说念主员翻倍至 30 东说念主,进一步增强做事武艺,进步市集面位。
当作投资东说念主,Jack Altman 预测会有越来越多的用例出现:" 风险投资公司和其他锁定历久 GPU 交往的公司都不错欺诈这个平台来交易拜访权。很多群体可能成为客户。"Jack Altman 说,"San Francisco Compute 还是伸开了很多和谐洽谈,我觉得这是一个相当值得看好的地方。"
来源:硅星东说念主
公司旧金山算力硅谷Evan发布于:江西省声明:该文不雅点仅代表作家本东说念主,搜狐号系信息发布平台,搜狐仅提供信息存储空间做事。