趋动中标!中国移动咪咕公司GPU虚拟调度系统
牛年到来之际,趋动科技(VirtAITech.com)中标“中国移动咪咕公司2020年灵犀云六期工程推理加速资源(GPU)虚拟调度系统”,中选份额100%。将为中国移动咪咕公司提供GPU资源池化的整体解决方案。包括建设弹性可伸缩的GPU资源池,支持GPU资源的灵活切分和随需扩展,并且可以通过图形界面进行管理、调度和监控,为中国移动咪咕公司不断提升GPU资源利用率,实现降本增效,高效支撑其战略业务的落地和开展。
注:VirtAITech和趋动科技均为维塔科技(北京)有限公司之注册商标
目前GPU卡的使用场景包括人脸识别等典型AI训练和推理、语音相关能力训练和推理、推荐算法的训练和推理、视频编解码、AI视频剪辑等。
在AI推理服务和算法人员开发用主机的应用场景下,推理加速资源(GPU)的综合利用率普遍不高。为了提升GPU的资源利用率,发挥GPU服务器的最大价值,可对GPU进行算力方面的拆分,支持多个容器共享一张GPU卡,也可以支持单个容器聚合调度多台服务器的多张GPU卡。
GPU虚拟调度系统兼容目前基于Docker+Kubernetes的容器云平台,同时支持基于Openstack规范的云环境,并支持按照组合的调度策略进行资源的调度使用。
本次中标中国移动咪咕公司的OrionX(猎户座)AI算力资源池化解决方案能够帮助客户构建数据中心级AI算力资源池,使用户应用无需修改就能透明地共享和使用数据中心内任何服务器之上的AI加速器。OrionX不但能够帮助用户提高AI算力资源利用率,而且可以极大便利用户AI应用的部署。
OrionX逻辑架构图
OrionX为用户提供基于Web的系统管理界面,具备统一的视觉风格,支持IE11及以上相关版本、Chrome、Safari等不同浏览器,确保页面的完整性和美观。支持快速浏览各个功能模块和大并发访问。OrionX由多个组件组成,支持灵活扩展,只需要将新增加的GPU服务器安装OrionX软件,即可实现GPU资源池的整体平滑扩展;OrionX支持Controller组件主备模式,保证系统不间断工作。
关于趋动科技
趋动科技于2019年成立于北京中关村高新技术园区,拥有专业的研发、运营和服务团队,被评为WISE2020「新基建创业榜」最具成长性创业公司TOP20。趋动科技致力于帮助客户构建高效的AI算力资源池,提升客户AI运维管理的效率和AI业务应用的效率。根据客户测算,OrionX猎户座软件可以每年提升50%AI算法工程师人效、提升AI资源利用率3-8倍以及让客户总体拥有成本下降80%。
趋动科技创始人兼CEO王鲲博士表示,凭借标准化、可复制的产品架构,OrionX猎户座软件得到了包括互联网、金融、电信运营商和高校等大量行业头部客户的认可,资本市场对于趋动科技的发展充满信心。