近日，业界领先的AI算力资源池化软件公司趋动科技（VirtAITech.com）与携程旅行网（以下简称“携程”）开展合作。趋动科技已协助携程部署OrionX猎户座GPU资源池化方案，实现了对AI算力的高效利用以及GPU资源的动态弹性分配。

携程是中国领先的综合性旅行服务公司，连续4年被评为中国第一旅游集团，成功整合了高科技产业与传统旅行业，向超过3亿会员提供集无线应用、酒店预订、机票预订、旅游度假、商旅管理及旅游资讯在内的全方位旅行服务，被誉为互联网和传统旅游无缝结合的典范。

随着深度学习技术的快速发展，互联网公司已普遍应用AI来提升运营效率和服务水平并降低成本。携程已经在智能客服平台、搜索排序、智能导览等多个应用场景中，运用AI领域的多种主流技术如计算机视觉、自然语言处理、机器翻译、语音识别和处理。此外，携程还通过自主研发的机器翻译技术为客户提供翻译服务，给全球用户带来极大便利，在携程推进国际化的进程发挥了重要作用。

在服务用户量不断增长的情况下，为了保证用户始终拥有最好的体验，携程不断优化AI算法和更新AI模型，使用的模型复杂度会不断提升，计算量持续增加，因此携程对GPU算力的需求在不断增长。与此同时，紧缺的GPU算力有时却又处在闲置状态，传统的GPU使用方式是算法工程师与GPU设备的1:1配比，算法工程师在编写代码、调整模型时，GPU也处于Standby状态，避免在需要执行运算时无法及时开始，浪费算法工程师宝贵时间。

因此在当前GPU算力昂贵，整体利用率却偏低的情况下，构建一个弹性、动态、灵活、高效的软件定义GPU算力资源池，成为携程节省硬件投入、提升业务并发能力、提高人员效率的必要方案。

趋动科技的OrionX猎户座AI算力资源池化软件能够帮助企业用户构建数据中心级AI加速器资源池，对用户的各类GPU资源进行统一管理、维护和调配。OrionX通过软件定义算力，颠覆了原有的AI应用直接调用物理GPU的架构，将AI应用与物理GPU解耦。AI应用调用OrionX vGPU（Virtual GPU，虚拟GPU），由OrionX将OrionX vGPU匹配到GPU资源池中的物理GPU，这样能够达到AI应用透明的共享GPU资源池内的所有GPU资源的目的。

OrionX可实现一键安装部署，并提供丰富的OrionXvGPU资源调度策略；基于标准restful API的接口方式也可与管理平台深度融合，根据用户业务的需求定制、优化，资源申请、调度策略按需配置后，实现资源的自动分配、管理和释放，大大提升了使用效率。

该技术既可以实现物理GPU的细粒度切分，也可以实现多机多卡物理GPU的聚合，其灵活与强大程度远远高于一般意义上的单卡GPU共享。

经过双方的紧密合作，携程通过OrionX的高级开发接口，对调度及监控完成二次开发，将OrionX vGPU技术无缝融合进原有Kubernetes AI训练产品体系。GPU的使用方式由以前一人一卡的静态分配，变为运行时根据任务负载动态秒级分配和回收，在不破坏算法工程师原有体验及效率的情况下，透明实现了GPU使用率提升4倍以上。

同时，携程也成功借助RDMA高速网络及OrionX池化技术构建了一个大规模的资源池，结合携程二次开发的精细化调度，实现了对GPU资源的动态超卖。通过RDMA构建的大规模资源池，相比于单机层面，提供了更大的超卖调度域，大大降低了超卖场景下局部热点峰值叠加的风险，进一步提升了利用率，并逐渐推广到推理服务场景。

“携程一直将技术创新视为企业的活力源泉，对新技术有很强的前瞻性，同时建立了一整套现代化服务系统。”趋动科技创始人兼CEO王鲲博士表示：“我们将加快在AI加速器资源池化的前进步伐，为我们的客户提供更加完善的解决方案。

关于趋动科技

趋动科技创立于2019年，拥有专业的研发、运营和服务团队。趋动科技荣登WISE2020「新基建创业榜」最具成长性创业公司TOP20,趋动科技的OrionX猎户座AI算力资源池化解决方案荣获“2020新基建与行业创新应用优秀解决方案”，“2020智慧高校解决方案卓越奖”和2020“金麒杯”年度金融行业最佳解决方案服务商。趋动科技致力于帮助客户构建高效的AI算力资源池，提升客户AI运维管理的效率和AI业务应用的效率。

凭借标准化、可复制的产品架构，OrionX猎户座软件得到了包括互联网、金融、电信运营商和高校等大量行业头部客户的认可，资本市场对于趋动科技的发展也充满信心。