人工智能的快速发展和普及,正在催生一种新型的ai加速器虚拟化平台。
日前,国内虚拟化计算领域的技术领先者“趋动科技(virtai tech,https://virtai.tech/)”正式推出ai加速虚拟化平台——猎户座ai计算平台(orion ai计算平台)。该平台包括ai加速器虚拟化软件,以及异构加速器管理和调度软件等两大组件,可以帮助企业和开发者实现更高效的数据中心级gpu资源池化管理,有效提高gpu利用率,降低研发和运营成本。
对于ai领域的企业和开发者而言,orion ai计算平台可以说是目前市场上比较亲民的选择,它能够提供较为完整的虚拟化解决方案。目前,orion ai计算平台社区版v1.0已正式在github上线,支持gpu的虚拟化,可供ai、互联网和公有云等企业试用,开发者可免费通过https://github.com/virtaitech/orion下载和使用。
ai加速器虚拟化渐成“刚需”
得益于人工智能技术和应用的爆发,ai加速器被冠上了“机器学习心脏”这个高大上的名字。企业和开发者对于ai加速器的需求呈爆发式增长,越来越多开发者开始使用高性能的ai加速器,包括gpu、fpga和asic芯片等。
然而,目前市场上的ai加速器价格普遍偏高。以知名的英伟达v100 gpu为例,价格在8万元人民币左右,高性能fpga卡,价位也在5万元人民币。随着机器学习、深度学习的进一步发展,对gpu、fpga等专业计算芯片也提出了虚拟化的需求。越来越多的企业和开发者需要高效的ai加速器虚拟化软件,来提高加速器资源的利用率,以及高效的异构加速器管理和调度软件,来更好地利用多种不同的加速器。
传统的gpu虚拟化技术只能对本地物理机上的gpu进行虚拟切割,分配给不同的虚拟机使用,从而实现计算资源的灵活分配和利用。而趋动科技最新推出的orion ai计算平台,不仅可以支持本地gpu虚拟化,而且还能打破资源调度的物理边界,让用户的ai应用无需修改代码即可透明地使用其他物理机上的远程gpu资源,从而实现数据中心级的gpu资源池化管理和弹性调度,极大地提升了整个gpu资源池的利用率和管理灵活度。
虚拟化技术的目标之一,就是提供与工作人员在物理机上使用时一样的体验。orion ai计算平台可以帮助每个用户改进ai加速器资源分配,支持用户通过多个虚拟机或者容器,来共享本地以及远程gpu资源,并且更灵活地部署ai应用,实现更优的生产力、安全性和it可管理性。
orion ai助力实现更优化的计算资源分配
从产品功能上来说,整个orion ai计算平台,包括ai加速器虚拟化软件,和异构加速器管理和调度软件等两大组件。
其中,orion ai加速器虚拟化软件,不仅支持用户使用和共享本地加速器资源,而且支持应用透明地使用远程加速器资源,无需修改代码,从而打破资源调度的物理边界,构建更高效资源池。
异构加速器管理和调度软件,同样支持用户的应用无需修改代码,即可透明地运行在多种不同加速器之上。最终,帮助用户更好利用多种不同加速器的优势,构建更高效的异构资源池。
从产品应用上而言,orion ai主要覆盖三大典型场景:
第一,多个虚拟机或容器共享本地的gpu。
第二,多个虚拟机或容器共享远程的gpu。
第三,单个虚拟机或容器,使用跨越多台物理服务器上的gpu。
用户通过orion ai platform分配的gpu资源,无论是本地gpu资源,还是远程gpu资源,均是软件定义、按需分配。这些资源不同于通过硬件虚拟化技术得到的资源,它们的分配和释放都能在瞬间完成。而且,所有上述的资源分配和释放都不需要虚拟机重启。
值得一提的是,orion ai计算平台由国内虚拟化计算领域的技术领先者“趋动科技”研发,其核心团队均来自dell emc中国研究院,ibm中国研究院等顶级研究机构。凭借创始团队在虚拟化领域十几年的技术积累以及场景挖掘能力,趋动科技成功打造了这套较为完整的ai加速器虚拟化解决方案。
人工智能是第四次工业革命的引领技术,基于ai加速器的深度学习是人工智能发展的关键所在,无论之于国家还是企业,都应该通过技术创新,在这一次全世界范围内的浪潮中开启属于自己的一片天地。趋动科技通过打造orion ai计算平台,不仅能够帮助企业和开发者更好地实现ai加速器资源的管理和调度,同时也开创了“ai加速器虚拟化+异构加速器管理和调度”的新赛道。
【免责声明:csdn本栏目发布信息,目的在于传播更多信息,丰富网络文化,稿件仅代表作者个人观点,与csdn无关。其原创性以及中文陈述文字和文字内容未经本网证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本网不做任何保证或者承诺,请读者仅作参考,并请自行核实相关内容。凡注明为其他媒体来源的信息,均为转载自其他媒体,转载并不代表本网赞同其观点,也不代表本网对其真实性负责。您若对该稿件由任何怀疑或质疑,请即与csdn联系,我们将迅速给您回应并做处理。】