视源电子

视源电子

案例简介

趋动科技OrionX GPU池化解决方案助力视源电子实现算力集群GPU统一调度管理

项目背景

广州视源电子科技股份有限公司(以下简称视源股份)成立于2005年12月。是一家以显示、交互控制和连接技术为核心的智能电子产品及解决方案提供商。视源电子为全国科技创新企业500强、中国制造业企业500强。也是国家制造业双创试点企业、国家技术创新示范企业、国家知识产权示范企业。作为一家科技型的公司,视源决定研发一个AI开发平台来作为内部开发工程师使用。


项目挑战

1.开发工程师需要独占GPU,导致GPU算力大大浪费。

2.以物理GPU交付给用户,无法监控用户的使用状态,同时回收资源困难。

3.开发人员对于GPU资源需求越来越多,难以快速分配满足开发人员的需求,跟不上开发业务的发展。


趋动解决方案

1. 使用OrionX vGPU的解决方案,可以令GPU资源动态分配申请和释放,防止了GPU资源的浪费。

2. 利用OrionX的统一监控平台,可以了解到各个用户使用的GPU资源状态,并可以自动回收资源。

3. 利用OrionX PU池化解决方案,可以快速分配vGPU资源给用户,满足开发业务的发展需求。


客户成功

通过OrionX GPU池化解决方案解决了客户在GPU资源的合理分配,管理和控制的问题,并大大提高了GPU的利用率,减少了物理GPU的采购数量,节省了成本。这个原来是基于物理GPU无法解决的问题。


用户反馈

原来视源电子在AI开发领域曾依赖于物理GPU卡。自从引入OrionX之后,视源发现,原先基于物理GPU卡开发的镜像无需进行任何改造,便能通过"GPU as Code"的便捷方式实现无缝切换。无论是进行小规模的开发,大规模的模型训练,还是适度的推理任务,OrionX都允许通过代码精确控制GPU分配,从而实现了一个流畅的DevOps流程。这一转变不仅避免了传统手动GPU分配、使用、监控和回收的繁琐流程。这样GPU的利用率原来<30% 上升到 60%以上,而且显著提高了开发效率。

——刘卓丨视源电子中央研究院