高通Cloud AI 100、AMD EPYC™ 7003系列处理器和技嘉服务器解决方案共同推动AI推理突破每秒千万亿次运算

2024-12-03 03:00:42 admin

AI无疑已经成为推动下一代用户体验的高通共同驱动力。无论是™系快速浏览喜爱的社交应用，还是列处理器基于数万次AI推理提供的在线购物推荐，几乎每一项移动终端体验都与AI密不可分。和技目前，嘉服解决这些平台每天承载着数百万的推动推理突破用户量，这又意味着什么呢？它们需要海量性能出众的每秒高密度服务器，来提供满足上述平台持续运行所需的千万AI推理性能。

目前，亿次运算通过与AMD最新的高通共同EPYC™ 7003系列处理器和技嘉科技的最新G292-Z43服务器解决方案相配合，高通技术公司正助力性能出众的™系机架式服务器满足高性能需求。上述企业在硬件技术专长领域的列处理器结合，带来了顶级性能并为现代化数据中心树立全新标杆。和技高通技术公司尖端的嘉服解决Cloud AI 100能够与技嘉服务器系统完美适配，这将推动众多出色的推动推理突破AI用例在高速数据分析、个性化推荐、智慧城市和5G通信等领域的普及。

技嘉G292-Z43服务器将支持两台AMD EPYC™ 7003系列处理器用于处理负载，以及多个高通Cloud AI 100 PCI-E卡用于支持需要密集计算的应用来支持AI推理。高通Cloud AI 100推理加速器支持高达400 TOPS的算力，还拥有突破性的性能功耗比，并且仅通过单个高通Cloud AI 100 PCI-E卡即可实现。试想一下，如果每台技嘉服务器最多可搭载16个高通Cloud AI 100 PCI-E推理卡，即可提供高达每秒6.4千万亿次运算（400 TOPS x 16，1 POPS等于1000 TOPS）。这是首次基于高通技术公司AI技术的解决方案突破每秒千万亿次运算（POPS）大关。更值得注意的是，每个服务器机柜可管理超过19个上述服务器单元，从而轻松实现超过100 POPS的算力，这充分体现了高通技术公司在AI领域的强劲实力。欲了解相关参数，请参考以下信息图。

更具体来看，单个算力为400 TOPS的HHHL（半高，半长）高通Cloud AI 100 PCI-E推理卡每秒可以支持19,000张图像进行Resnet50模型分类推理，相当于一台服务器机柜每秒可处理超过600万张图像。如此强大的AI性能有望在全球市场增强并规模化扩展AI体验。我们衷心感谢AMD和技嘉科技为实现这一惊人成就所付出的努力。

高通Cloud AI 100 PCI-E卡和搭载AMD EPYC™ 7003系列处理器的技嘉服务器即将面市，请参考文末产品图获取更多信息。

高通Cloud AI 100、AMD EPYC™ 7003系列处理器和技嘉服务器解决方案共同推动AI推理突破每秒千万亿次运算