绿茶婊

200 亿美元收购成果落地:英伟达 Groq 3 LPX 机架全面量产,今年上线_我的网站

对话

一 |      8 月 25 日消息,英伟达当地时间周一宣布,Groq 3 LPX 机架已进入全面量产阶段,这标志着该公司史上最大规模收购所获得的技术正式实现商业化。    

新华社美国新泽西7月19日电 在19日进行的美加墨世界杯决赛中,西班牙队通过加时赛以1:0战胜卫冕冠军阿根廷队,继2010年南非世界杯后,队史第二次夺冠。西班牙队主教练德拉富恩特赛后说:“我由衷为这一代球员感到自豪。英伟达高级总监迪翁 · 哈里斯(Dion Harris)告诉记者,Groq 机架将与 Vera 中央处理器和 Rubin 图形处理器一起部署在新型云服务商 Nebius 的平台,并将于今年晚些时候上线。

二 | 英伟达正在加速生产 Groq 芯片并向客户提供该产品,这凸显出低延迟推理的重要性日益提升。他们为我们诠释了何为团队、何为家庭。

三 | 低延迟推理对于让人工智能智能体能够快速响应、避免用户遭遇长时间等待至关重要,尤其是在编程场景中。这群球员天赋卓绝,能一路陪伴他们走完这段征程对我而言是莫大的荣幸。

四 | 回首过往,我心绪万千。英伟达表示,云计算公司可以针对这类 Token 收取更高的费用。

五 | 我们和球员们深入交流过很多次,我们斩获了所有能拿的荣誉,这一切太过美好。他们是足以让整个西班牙为之骄傲的一代球员。团结一心,我们便会强大。”下半场补时阶段,恩佐·费尔南德斯吃到第二张黄牌被红牌罚下,阿根廷队只能以十人应战。

六 | 哈里斯表示:“对于那些提供 Token 服务的人来说,这让他们能够为那些真正要求对延迟高度敏感的服务协议的用户和客户,提供高级服务等级。”去年 12 月,英伟达以 200 亿美元(注:现汇率约合 1,347.74 亿元人民币)收购了芯片初创公司 Groq 的相关资产,这是该公司有史以来规模最大的一笔收购。阿根廷队门将埃米利亚诺·马丁内斯在比赛中屡屡贡献精彩扑救,帮助阿根廷队将比赛拖入加时赛。“我觉得这场比赛本可以早早分出胜负,马丁内斯数次‘神扑’,让我们没能更快锁定胜局。Groq 的架构在芯片裸片本身集成了 500MB 高速 SRAM,以减少与内存相关的瓶颈。Groq 芯片由三星制造,而英伟达的 GPU 则由台积电生产。英伟达将 256 颗独立的 Groq 3 芯片封装到其 LPX 机架中。英伟达表示,根据 Artificial Analysis 的一项基准测试,其 Groq 3 LPX 机架能够达到每秒 3,400 个 Token 的处理速度。这是一个竞争激烈的领域。

七 | 今年早些时候,AMD 宣布,将把其机架级系统与 Cerebras 的芯片进行整合。但这是世界杯决赛,即便最后阶段对手只剩十人作战,(我们)也会遇到困难。”65岁的德拉富恩特补充道。

八 | Cerebras 最近上市,并将低延迟推理作为重点。

九 | 带队夺冠后,德拉富恩特成为世界杯历史上年龄最大的冠军主教练,超越2010年率西班牙队夺冠时年满59岁零200天的博斯克。7月19日,西班牙队主教练德拉富恩特在比赛补水时间指导球员。新华社记者 徐子鉴 摄

。OpenAI 新近宣布的“Ultrafast”模式目前承诺可达到每秒 750 个 Token,并由 Cerebras 提供支持。

十 | 低延迟芯片并不会取代 GPU,后者仍然是 AI 芯片领域的主力。GPU 既可以执行训练,也可以执行推理,同时具备足够的灵活性,能够适应新技术和新模型。

十一 | Groq 这类低延迟芯片主要专注于模型服务过程中的一个环节,即所谓的“解码”(decode)阶段。哈里斯表示:“这并不是要取代 GPU,而是要针对工作负载的不同部分,使用价格合适、处理能力合适的处理器。”目前,英伟达正在逐步增加 Vera Rubin 系统的出货量,该系统已于今年早些时候开始生产。在 3 月份发布 Vera Rubin 和 Groq 3 LPX 时,英伟达首席执行官黄仁勋预计,到 2027 年,当前一代 Blackwell 芯片与全新 Vera Rubin 系统的累计销售额将达到 1 万亿美元(现汇率约合 6.74 万亿元人民币)。

十二 | 黄仁勋当时表示,他计划将数据中心中用于编程应用的空间的四分之一分配给 Groq 芯片。黄仁勋说:“我的数据中心其余部分将全部采用 Vera Rubin。”英伟达计划于当地时间周三公布财报。

十三 |

Current article:http://b9p.xuanliaruamibinmilangca.shop/s5hq/61e.html

Published on:17:25:35


我的网站最近更新

我的网站热门资讯