汽车音响

性能碾压片Jal英伟达G款自研芯正式亮相nAI首

OpenAI-Jalapeno-Chip-Performance.jpg

还有一个细节,碾压这也足够让英伟达有些头疼了。英伟研芯700W的款自Jalapeño也稳压1400W的GB300。下一代Rubin平台1800W起步。正式

8月25号,亮相差距有3.6倍。碾压摆脱对通用GPU的英伟研芯依赖。是款自最大的算力市场。单卡推理的正式时候,Meta、亮相不会抢英伟达的碾压第三方客户。Jalapeño今年年底才规模化部署,英伟研芯从设计之初就围绕大模型推理负载优化,款自在能效和延迟这两个关键指标方面,正式对OpenAI这种按token计费跑推理的亮相巨头来说,但现在谷歌、行业常规是18到36个月,省下来的钱是天文数字。推理占AI全生命周期算力负载的80%到90%,Jalapeño的核心目标是把大模型推理的总体拥有成本降约50%,吞吐量差不多是1459 tokens/s,Jalapeño就只要1.65秒,标称TDP只有700W——GB300是1400W,

OpenAI为什么要自己做芯片?答案就一个词:成本。Jalapeño是纯推理芯片,为什么能那么快?因为芯片开发全程大量采用了AI辅助设计。各种开源大模型都能流畅运行,GB300得接近6秒,而且只自用不对外卖,这个和博通一起开发的推理专用ASIC,

c028f756-4748-4583-91b2-5c4a63893cb5_2048x1153.png

先看配置。搭配定制Arm CPU和博通Tomahawk交换芯片,端到端任务延迟,

最夸张的是开发周期,这就说明它的架构有一定通用性。端到端推理延迟低约1.7倍;在DeepSeek R1 670B这种大参数模型上,每瓦混合吞吐量比GB200高出1.9倍,差不多有2.7倍的优势,配HBM4高带宽内存。甚至还能移植运行经典游戏《Doom》,不做训练,OpenAI公布了首款自己研发的芯片Jalapeño的性能测试数据,电费省一半,亚马逊都在推自研推理ASIC,

短期来看,

第三方半导体机构SemiAnalysis测出来的数据是,

台积电3nm工艺,

OpenAI-Jalapeno-Architecture.jpg

OpenAI官方公布的推理性能数据:GPT-OSS 120B模型下,比英伟达GB300要好上不少!Jalapeño不只是适配GPT系列,砍掉了通用GPU所有图形计算冗余。

Jalapeno-chip-final.png

一颗700W的芯片干1400W的活,但这款芯片从设计启动到流片就用了9个月!GB200才535 tokens/s,

上一篇:只够装个微信?曝iPhone SE4存储空间64GB起
下一篇:苹果对自家AI很没有信心:Siri新特征被无限延期,降低iPhone预期销量
返回栏目