揭秘!英特尔AI芯片如何做到比H100训练快40%、推理快50%

薪科技快评 2024-04-12 09:11:31

英特尔,开始正面硬刚英伟达了。

深夜时分,英特尔CEO帕特·基辛格激动展示全新AI芯片Gaudi 3,引领未来科技潮流,开启智能新篇章。

他为什么开心到现场直接蹦迪?

看下Gaudi 3的性能结果,就一目了然了:

训练大模型:比英伟达H100快40%推理大模型:比英伟达H100快50%

不仅如此,虽然基辛格没有在现场给出直接的数据,但他还表示:

Gaudi 3的性能将与英伟达H200相当,在某些领域的性能甚至会更好。

如此直面对标英伟达,到底效果如何,我们继续往下看。

硬刚英伟达的Gaudi 3

英特尔透露,Gaudi 3已在Llama上完成测试,展现出卓越性能,能够高效训练与部署AI大模型。其支持的文生图Stable Diffusion与语音识别Whisper等应用,均展现了强大的实力,为AI技术的发展注入了新动力。

基辛格现场展示集成最新英特尔芯片的AI PC,多任务处理能力卓越,如邮件处理迅疾如风,展现强大技术实力。

再如语音处理:

以及图像渲染:

英特尔演示操作的同事还非常调皮地展示了用AI PC生成的卡通版基辛格:

Gaudi 3采用先进的5纳米工艺,相较于历代Gaudi,性能显著提升,具体对比详见下表,展现其卓越性能。

英特尔宣布,备受瞩目的Gaudi 3芯片将于今年第三季度大规模供货,戴尔、惠普及超微电脑等业界巨头均将采用此芯片,共同开启新一轮计算革命。

至于具体的价格,目前英特尔方面还并未透露。

令人惊讶的是,Gaudi 3仅是英特尔Vision活动中发布的众多精彩产品之一,其创新实力不容小觑,更多精彩值得期待!

Xeon,步入第六代

没错,去年年底英特尔刚刚上市第五代Xeon,仅时隔数个月,第六代Xeon又来了!

(英特尔这次还真没有挤牙膏)

在现场,基辛格还亲切地叫它“little baby”:

第六代Xeon惊艳登场,融汇Sierra Forest与Granite Rapids两大先进架构,引领计算新纪元,性能卓越,值得期待!

Sierra Forest精巧融入英特尔更小、低功耗的E-cores,呈现卓越能效;而Granite Rapids则汇聚强大性能的P-cores,构筑顶尖算力。两大架构相辅相成,为高效能与强性能树立新标杆。

基辛格在现场称二者像双胞胎:

英特尔Xeon 6处理器采用Sierra Forest架构,实现了机架密度的显著跃升,高达2.7倍的提升,为数据处理能力带来质的飞跃。

客户能以近3:1的比例替换旧系统,大幅降低能耗,帮助其实现可持续发展目标。

英特尔Xeon 6处理器搭载Sierra Forest架构,独具匠心,支持MXFP4数据格式软件,为数据处理带来前所未有的速度与效率。

相比使用FP16的第四代Xeon处理器,新方案可将token延迟时间缩短至原来的六分之一,轻松驾驭700亿参数的Llama-2模型,实现高效运算,引领技术新风尚。

至于英特尔Xeon 6处理大模型的速度到底有多快,基辛格做了更加直接的对比。

他将第四代、第五代和最新的第六代Xeon放到了一起,来了一个现场速度的大比拼。

从直观的生成速度来看,第六代Xeon明显要比“前任们”快上许多。

具体到精确的延时数值,第六代Xeon运行Llama 2 70B只有82ms。

同等条件下,第六代Xeon与“前任们”的延时数值对比如下:

备受瞩目的Sierra Forest架构第六代Xeon处理器,已定于今年第二季度惊艳登场,引领行业革新潮流。

网友揭秘英特尔“秘方”

这场硬刚英伟达的发布会,同样也激起了不少网友们的热议。

例如Gaudi 3封装的一处细节,即使用HBM2e存储芯片,有网友对此表示惊讶:

他们使用的是HBM2e,这是英伟达A100在2020年使用的。

英特尔原计划采用最先进的HBM3e技术,然而受限于供应短缺,遗憾错失充足订单,错失此次技术革新的良机。

对此,这位网友进一步表示:

这是英特尔的秘方之一。

他们总能靠旧技术赶上/超越新技术,直到当前的技术在生产、获取和集成上变得更容易。

英特尔作为半导体产业的先驱,其制造优势在业界独树一帜,几乎囊括了芯片产业的全部资源和核心能力,是其在半导体领域保持领先地位的关键所在。

但何时能够和英伟达全面一较高下?这也是不少网友关注的问题:

英特尔强势挑战H100/H200,我们翘首以盼,究竟何时能与英伟达顶级“核弹”B200一较高下?期待这场巅峰对决!

或许答案只有交给时间来回答。

英特尔此次发布,无疑为AIGC时代的算力注入了新的活力,提供了更加高效、优质且经济的选择,是“快好省”的绝佳选项。

-对此,您有什么看法见解?-

-欢迎在评论区留言探讨和分享。-

0 阅读:15

薪科技快评

简介:薪科技评说,发现技术的点滴,记录科学的飞跃!