首页> 财经> 正文

一代更比一代强,AI 时代的至强如何为云服务保驾护航?

熔财经 发布时间: 2023-12-27 18:18:14 评论数 0 阅读量: 2.86w

1

技术创新解决三大维度需求

CPU 继续扮演 AI 时代

基础设施关键角色

相比上一代产品,第五代至强® 可扩展处理器的核心数量增加至 64 个,拥有更高的单核性能和内存带宽,三级缓存容量提升近 3 倍。其每个内核都具备 AI 加速功能,内置的英特尔® AVX-512 及英特尔® AMX,能使机器学习、深度学习和大模型应用的性能大幅提升。第五代至强® 可扩展处理器还能通过英特尔® SGX/TDX 为使用中的云端数据提供端到端硬件级防护能力。与上一代至强® 可扩展处理器相比,五代至强® 在相同功耗下的平均性能提升了 21%,而 AI 推理和训练性能的提升更是高达 42% 和 29%。

取得如此显著的 AI 推理能力进步,秘诀在于第五代至强® 可扩展处理器搭载的英特尔® AMX 加速引擎。其可以将 INT8 低精度矩阵运算速度提升一个数量级,再结合第五代至强® 可扩展处理器更高的内存带宽与更强的多核心互联能力,使 AI 推理性能相较上一代显著提升。在 11.11 大促中,第五代至强® 可扩展处理器和英特尔® AMX 的组合在京东云承载的 AI 推理应用服务中大展身手,助力用户访问峰值同比提升 170%,智能客服咨询服务量超 14 亿次,且并未增加能耗,也将京东云基础设施的运维成本维护在之前的水平内。

3

英特尔® TDX 赋能可信计算环境

为阿里云客户构筑端到端数据安全城墙

对于云计算厂商而言,要让更多行业和组织信任云服务,就必须提供有足够说服力的安全隐私保障,所以云厂商迫切需要更高水准的硬件级安全城墙。

对于云环境中使用状态中的数据,机密计算是实现其有效保护的良策,其为客户敏感数据提供了基于硬件设备的可信执行环境(Trusted Execution Environment, TEE),通过隔离保护的方式来防止未经授权的入侵者访问或修改处理中的数据。作为机密计算技术的重要引领者,英特尔® 软件防护扩展(英特尔® SGX)技术提供了应用层面的隔离能力;而在和阿里云的合作中,则由英特尔® TDX 技术与阿里云新实例搭载的可信平台模块(TPM)相配合,结合阿里云自研的加密计算隔离环境 enclave,为阿里云第八代企业级 ECS 实例 g8i 构建了一个基于虚拟化的硬件可信环境,即为整个虚拟化实例(包括虚拟机、容器)都构建出可信的边界,由此为客户提供了可信边界更大、更易部署的安全云环境。

英特尔® TDX 使 TEE 环境的可信边界获得了有效扩展,从而让 IaaS、PaaS 等环境中的云工作负载都能整体纳入机密计算的数据保护之下,能够有效抵御恶意威胁,加强云端数据隔离。

如今,火山引擎正在构建百万核心级别弹性资源池,为业务的流量增长、体验创新与安全性增强提供海量算力保障。

第五代至强® 可扩展处理器提供澎湃的算力的同时,还与上一代处理器兼容,共享架构与平台,大大减少测试和验证工作,其更高的性能、更好的安全性、更高的成本效益,已经在头部云服务提供商中得到全面验证。

5

软硬结合

打通 AI 创新底层瓶颈

除硬件方面的诸多创新,第五代至强® 可扩展处理器在软件层面也搭建了良好的生态环境。例如,英特尔已经在 Pytorch、Tensorflow 和 OpenVINO™ 工具套件等行业标准框架中提供了针对第五代至强® 可扩展处理器的优化,使得云厂商和用户能够以较低的门槛,快速利用如英特尔® AMX 等处理器功能,打通 AI 应用的算力瓶颈。英特尔® Trust Authority 鉴证服务则能充分验证 TEE 的有效性,发挥英特尔® SGX/TDX 技术的优势。

如果说数据中心是一台巨型计算机,那么 CPU 就是它的超级大脑,第五代英特尔® 至强® 可扩展处理器将一如既往地扮演核心角色。它与网络、GPU、软件技术栈等其他英特尔创新技术一起共同构筑了上层 AI 应用的根基。而这样的根基虽然能力强大,但并不需要用户为此投入大量精力学习或增加运维投入。由此,企业就能将主要精力投入在业务创新中,并在 AI 浪潮中紧紧把握住市场机遇,开启新的增长路径。

特别声明:以上内容为新媒体平台“驱动号”用户上传并发布,该内容观点仅代表作者本人,驱动号仅提供信息存储空间服务。

全部评论 {{total}}

295 文章数量

1387.9w+ 阅读量