器件选型与工程师成长

安谋Neoverse CSS助微软Cobalt 200加速云与智能体AI

来源:海外媒体 2026-11-18 03:21 2 次阅读 约 2,714 字 · 预计阅读 7 分钟

由安谋Neoverse CSS V3支持的全新Azure Cobalt 200虚拟机(VM)在云原生负载中实现了显著性能提升,并为新兴的智能体AI时代奠定了坚实基础。

配图

智能体AI的兴起正在对云基础设施提出新的要求,推动对更高性能、效率和可扩展性的需求。正如安谋云AI业务部门执行副总裁Mohamed Awad所述,由安谋Neoverse计算子系统(CSS)V3平台支持的微软Cobalt 200虚拟机(VM)旨在应对这些挑战,并加速云和智能体AI性能。

在微软Azure Cobalt 100成功的基础上,微软第二代基于Arm架构的芯片Cobalt 200在数据库、Web基础设施和计算密集型应用中实现了显著的代际性能提升。Cobalt 200也凸显了Neoverse CSS在帮助云服务商加速定制芯片开发并更快将差异化基础设施推向市场方面的价值。

Cobalt 200:新一代基于Arm架构的Azure计算基础设施

基于安谋Neoverse CSS N2构建的Cobalt 100,为Azure中基于Arm架构的计算奠定了坚实基础,并在广泛部署的云原生负载中具备显著的性能和性价比优势。Databricks、OneTrust、Snowflake、Sprinklr等客户正在Cobalt 100上运行关键应用,并受益于显著的性价比优势。

通过采用Neoverse CSS V3,Cobalt 200为Azure带来了新一代计算性能。全新的Dpsv7、Dplsv7和Epsv7虚拟机系列旨在支持从分布式应用、数据库到新兴AI基础设施的广泛负载。凭借最高128个vCPU和512 GiB内存的配置,Cobalt 200为部署高要求云应用的企业提供了额外灵活性。

Elastic和GitHub等领先软件合作伙伴也在使用Cobalt 200的客户之列,并已报告显著的性能效率提升,正将这些收益传递给其终端客户。

Cobalt 200如何支持包括索引、查询执行和向量搜索在内的CPU密集型操作

基于Arm架构的Cobalt 200如何帮助加速GitHub Actions任务,并支持要求更高的开发工作流。

Cobalt 200在云原生负载中实现显著性能提升

为评估Cobalt 200的性能,安谋将常用部署负载与搭载AMD EPYC Turin实例的当代x86架构Azure实例进行了基准测试。

Cobalt 200上的通用负载性能提升(与AMD Turin v7实例Dasv7相比)

如上图所示,基于Arm架构的微软Cobalt 200相较x86实现了显著性能提升。这些提升包括:在支持智能体工具和后端服务的事务型数据库方面,MySQL性能较AMD EPYC Turin最高提升139%。在Web服务、安全网络和API前端方面,NGINX性能较AMD EPYC Turin提升56%。在内存缓存和数据检索方面,Redis性能较AMD EPYC Turin提升65%。在视频处理和压缩方面,x265 4K视频编码速度较AMD EPYC Turin最高提升56%。

综合来看,这些结果显示出显著的代际提升,以及在数据库、Web基础设施和计算密集型应用中的强劲竞争力。

Cobalt 200在智能体AI基准测试中的性能提升

基于Arm架构的微软Cobalt 200在AI推理、规划和智能体AI工作流方面也较AMD EPYC Turin展现出强劲性能。这些包括:在支持智能体AI应用的向量数据库检索和相似性搜索方面,Milvus HNSW向量搜索性能较AMD EPYC Turin最高提升56%。在词表示方面,fastText性能较AMD EPYC Turin最高提升57%。在144个并发工作线程下的端到端智能体软件工程工作流方面,SWE-bench任务完成性能较AMD EPYC Turin最高提升46%。

Cobalt 200上的智能体AI性能提升(与AMD EPYC Turin相比)

Cobalt 200在EDA负载中的性能

EDA工具用于仿真和验证数字设计。RTL仿真是功能验证的核心,当团队运行大型回归测试套件时,可能消耗大量计算资源。安谋的测试显示,如下方图形所示,在三类EDA仿真负载中,Cobalt 200平均比AMD EPYC Turin快1.48倍。

展示安谋在三类EDA仿真负载中进行RTL仿真测试的图形

智能体AI实践:Cobalt 200上的客户服务应用

为展示Cobalt 200如何支持新兴智能体AI应用,安谋开发了一个应用,展示在Cobalt 200虚拟机上运行的智能体工作流(如下方视频所示)。

该应用使用托管在Cobalt 200上的小型语言模型对客户请求进行分类,并将其路由给处理会议安排、客户投诉、产品咨询和退款的专用智能体。这些智能体结合基于CPU的推理、企业数据检索、外部模型API和工具执行,完成多步骤工作流,包括安排会议、生成个性化产品手册,以及通过企业系统启动退款处理。

随着各组织从实验阶段迈向智能体AI的生产部署,能够高效支持这些互连服务的基础设施将变得越来越重要。Cobalt 200为这些新兴应用提供了具有吸引力的基础。

借助微软DiskANN加速面向智能体AI的向量搜索

智能体AI的关键要求之一,是从大型数据集中高效检索相关信息。检索增强生成(RAG)、语义搜索和智能体记忆越来越依赖能够高效处理高维嵌入的向量搜索技术。微软的DiskANN技术为可扩展的近似最近邻搜索提供了基础,并支持多项微软数据服务中的向量检索能力。

安谋与微软一直在合作针对基于Arm架构的基础设施优化DiskANN,包括改进向量相似度计算。近期的工程工作为4位量化向量操作引入了安谋NEON和点积优化,加速了向量搜索中的一个重要计算组件。

与Cobalt 100相比,微软DiskANN在Cobalt 200上实现了1.45倍的几何平均向量搜索QPS。将DiskANN v0.61.0与v0.56.0对比,经安谋优化的软件平均将QPS提升8倍,在u4xu4平方L2负载中最高提升14倍。

展示采用安谋优化软件时DiskANN v0.61.0与v0.56.0对比的图形

这一合作展示了安谋的硬件架构和软件优化能力如何协同加速智能体AI基础设施的重要构建模块。

安谋亮相2026年微软Ignite大会

安谋将参加在旧金山举行的微软Ignite大会(展位6247R),通过现场演示展示Cobalt 200虚拟机的性能优势,以及安谋MCP服务器和安谋Performix的实际运行。

阅读全文,请访问:https://newsroom.arm.com/blog/arm-neoverse-based-microsoft-cobal-200-vms-cloud-agentic-ai-performance

来源: 海外媒体

更多选型与成长文章