资讯详情

Information for details

加速A.I.研发与商用,趋动科技助力科大讯飞率先打造弹性A.I.加速器资源池

 

2020年6月22日,业界领先的A.I.加速器资源池化软件公司趋动科技VirtAITech.com)与亚太地区知名的智能语音和人工智能上市企业科大讯飞股份有限公司 (iFLYTEK) 宣布科大讯飞率先部署趋动科技OrionX猎户座A.I.加速器资源池化软件,高效弹性利用A.I.算力。“趋动科技的OrionX猎户座A.I.加速器资源池化解决方案帮助科大讯飞构建数据中心级A.I.加速器资源池,使应用无需修改就能透明地共享和使用数据中心内任何服务器之上的A.I.加速器,不但能够帮助我们提高资源利用率,而且可以极大便利应用的部署。


人工智能是对人的意识和思维过程的模拟,利用机器学习和数据分析方法赋予机器类人的能力。人工智能是计算机科学的一个分支,它企图了解智能的实质,并生产出一种新的能以人类智能相似的方式做出反应的智能机器,该领域的研究包括机器人、语言识别、图像识别、自然语言处理和专家系统等。 


作为人工智能国家队,科大讯飞一直坚持“顶天立地”的发展战略,积极践行“让机器能听会说,能理解会思考;用人工智能建设美好世界”的使命。科大讯飞长期从事语音及语言、自然语言理解、机器学习推理及自主学习等核心技术研究并保持了国际前沿技术水平;积极推动人工智能产品研发和行业应用落地。

 

趋动科技由多位具有世界500强中国研究院负责人背景并且具有共同远大理想的高科技人才创立,专注于为全球用户提供国际先进的数据中心级A.I.加速器资源池化和虚拟化软件及解决方案。趋动科技的OrionX A.I.加速器资源池化解决方案(猎户座A.I.加速器资源池化解决方案)可以在几乎零性能损失的情况下,提供对于物理A.I.加速器的细粒度、可远程、运行时动态可配置的虚拟化方案。通过高效的通讯机制,使得A.I.应用可以运行在云或者数据中心内任何一个物理机、容器或者VM内,而无需挂载物理A.I.加速器,同时为这些应用程序提供在A.I.加速器资源池中的硬件算力。

 

此次OrionX猎户座A.I.加速器资源池化解决方案部署在科大讯飞应用系统上的各项功能/数据指标,包括框架支持和版本支持,远程A.I.加速器调用和Kubernetes整合等。结果表明,通过OrionX构建A.I.加速器资源池,可以有效帮助科大讯飞的推理/训练集群,并逐步过渡到融合架构,契合科大讯飞技术发展路线。

 

传统的方式中,客户开发集群,使用VM挂载物理A.I.加速器方式。即使在程序员编写代码阶段,A.I.加速器未使用,资源也无法释放。现在通过使用OrionX方案,支持动态资源调度和回收,以及细颗粒度切分,让客户使用较少的物理A.I.加速器资源,就可以支持数据庞大的开发人员需求。数据表明,按照原有方式支持1000人研发团队,至少需要1000 张A.I.加速器卡;采用OrionX后,充分共享A.I.加速器资源,每个研发人员甚至还可以分配到多卡的资源做开发调试,而总体A.I.加速器数量,却下降到200块。结果大幅度降低了客户的成本。

 

随着OrionX与科大讯飞应用系统的部署落地,趋动科技的快速市场化战略再次迈出了关键性的一步。同时,这也标志着趋动科技在A.I.加速器资源池化领域的优势地位和产品落地得到了进一步的确立。


“趋动科技帮助讯飞不但提高了5GPU利用率,还让每一位算法工程师体验到独占”vGPU的快乐。更让95%的单机多卡的调研模型无需修改成多机多卡,直接跑起来,提高效率达到80%以上”。

 

“科大讯飞在智能语音和人工智能核心研究和产业化方面的突出成绩得到了社会各界和国内外的广泛认可,作为中科大的校友,我很高兴地看到双方的产品在这么短的时间就完成了联合部署。”趋动科技CEO王鲲表示:“我们将加快在A.I.加速器资源池化的前进步伐,为我们的客户提供更加完善的解决方案。