ZStack&趋动科技发布提供AI算力资源池化功能的解决方法

发布时间：2021-11-10 13:59 所属栏目：53 来源：互联网

导读：近日，专注IaaS的产品化云厂商ZStack与领先的AI算力资源池化软件公司趋动科技（VirtAITech.com）宣布，推出提供AI算力资源池化功能的联合解决方案，该方案融合了ZStack Cloud云平台与趋动科技OrionX，双方产品优势互补，共同推动GPU资源池在私有云平台落地，

近日，专注IaaS的产品化云厂商ZStack与领先的AI算力资源池化软件公司趋动科技（VirtAITech.com）宣布，推出提供AI算力资源池化功能的联合解决方案，该方案融合了ZStack Cloud云平台与趋动科技OrionX，双方产品优势互补，共同推动GPU资源池在私有云平台落地，将新一代的算力云平台推向更广泛的市场！新基建浪潮下，AI、5G、大数据中心、工业互联网等一起构成了新基建的核心领域。AI将逐步渗透到各行业，变得越来越“基础设施化”，AI加速器市场及GPU服务器市场规模相应水涨船高，以GPU、FPGA 等为主的AI加速器市场将迅猛发展。IDC发布的《人工智能基础架构市场(2019下半年)跟踪》报告数据显示：到2024年，中国GPU 服务器市场规模将达到64亿美元。

GPU 资源池化技术难点
AI产业的快速发展对GPU资源池化技术提出了更高要求，用户希望获得灵活调度GPU资源的能力，希望AI应用与GPU服务器解耦，并且能够远程调用GPU的资源，通过资源池优化GPU的调度使用等。然而现阶段大部分用户使用GPU的方式仍然停留在简单的虚拟化阶段：将GPU卡做固定切分，按照2的N次方切分为多个vGPU。在此情况下，传统云平台上使用GPU将面临诸多技术问题，比如无法远程调用GPU卡、仅能整卡透传给虚机、多虚机无法共用单张GPU卡、GPU资源释放必须重启虚机等问题。

提供AI算力资源池化功能的解决方案
OrionX提供GPU资源池化功能，是ZStack Cloud在GPU调度上的功能补充，可以灵活调用虚拟GPU资源，使得用户可以在私有云和混合云的环境中灵活使用GPU资源，帮助用户数据中心中的所有硬件资源实现云化管理。

典型应用场景
大模型如训练场景，对算力资源需求量大，通常会使用一张或者多张GPU卡资源，构建AI算力资源池，提供AI算力资源池化功能的解决方案既可以支持单台服务器上的单卡，多卡训练，也可以支持跨设备的多卡训练。

小模型如推理、开发和教学实训等场景，对算力资源需求量小，通常不能占满一张GPU卡资源。提供AI算力资源池化功能的解决方案可以从算力和显存两个维度切分GPU，支持将多个小模型任务调度到一张卡，有效提高资源利用率。

具体表现为：通过“化零为整”功能支持训练等大模型场景，为用户的 AI 应用提供数据中心级的海量算力。通过“隔空取物”功能，支持推理、开发和教学实训等小模型场景。通过“随需应变”功能支持训练/推理等多场景实现 GPU 资源动态伸缩，极大提升了GPU 资源调度的灵活度。

提供AI算力资源池化功能的解决方案发布后，基于ZStack Cloud构建企业私有云的用户，可以畅享快速按需获取GPU、灵活弹性调度等功能，有效提高了GPU利用率并降低用户整体拥有成本。

ZStack 创始人&CEO张鑫表示：“GPU虚拟化是推动私有云落地AI场景的关键举措，未来双方将紧密合作，实现算力的平民化，推动AI计算无处不在。“

（编辑：ASP站长网）

ZStack&趋动科技发布 提供AI算力资源池化功能的解决方法

ZStack&趋动科技发布提供AI算力资源池化功能的解决方法