热门标签 | HotTags
当前位置:  开发笔记 > 程序员 > 正文

【优优工场云原生的GPU虚拟化AI平台产品XPU】通过亚马逊AWSMarketplace对外发布

AWSMarketplace是全球规模最大最成功的公有云生态产品和服务目录,它使客户能够轻松查找、测试、部署和管理他们在AWS全球范围内当前20个区域(AWS中国包括北京和宁夏两个

AWS Marketplace是全球规模最大最成功的公有云生态产品和服务目录,它使客户能够轻松查找、测试、部署和管理他们在AWS全球范围内当前20个区域(AWS 中国包括北京和宁夏两个区域)运行系统所需要的第三方软件和服务。借助AWS Marketplace,客户可以从这一应用软件商店查找和比较软件产品,并在登录其AWS账户后,几分钟内快速部署和使用预配置的软件产品。客户可以在AWS Marketplace全球官方网站(https://aws.amazon.com/market...)或 AWS Marketplace 中国官方网站(https://awsmarketplace.amazon...)。

优优工场(YOYOWORKS)作为Amazon AWS全球和亚马逊云科技(中国)的官方合作伙伴,帮助客户轻松实现的AI 计算云原生的GPU虚拟化方案。XPU是优优工场(YOYOWORKS)推出的容器GPU虚拟化产品。XPU核心思想是将GPU在内核层进行切分,向上模拟出统一的XPU设备供容器使用,即多个容器共享一张GPU卡。XPU实现了一套框架能够很好的屏蔽异构GPU和应用(TensorFlow,PyTorch等)之间的耦合,对GPU进行故障隔离,显存隔离,算力隔离,从而实现业务的安全隔离,提高GPU硬件资源的利用率并降低使用成本。

XPU 云原生AI平台解决方案,主要优势如下:

XPU采用零侵入式架构设计,通过kernel module,services及container runtime为容器提供虚拟的GPU设备,在保证性能的前提下隔离显存和算力,为充分利用GPU硬件资源进行训练和推理提供有效保障。


高性能



  • 采用本地使用GPU计算资源的架构,有天然的性能优势,相比于物理GPU,性能损耗几乎为零。

  • 支持将GPU切片为任意大小的XPU,从而允许多AI负载并行运行,提高物理GPU利用率。

  • 提高GPU综合利用率多达3-10倍,1张卡相当于起到N张卡的效果,真正做到昂贵算力平民化。


安全性



  • 完美支持GPU单卡和多卡的算力隔离,显存隔离及故障隔离。


兼容性



  • 零侵入设计: 最大的限度保证向后和向前兼容。用户零开销在 XPU 平台上运营现有AI应用,无缝兼容已有NGC等容器镜像。

  • 硬件兼容性: 完美支持包括NVIDIA Pascal及以后架构的系列 GPU(GeForce,Quadro/RTX,Tesla);支持裸金属和虚拟环境,支持物理GPU和vGPU。

  • 架构兼容性:依托实现在内核模块层的通用接口能力,XPU 完美支持CUDA8.0 及以后所有版本的框架和应用。

  • 生态兼容性:兼容业界标准的Kubernetes和NVIDIA Docker产品和方案。

AWS Marketplace 全球网站和AWS Marketplace中国网站是用户使用 AWS 云产品和服务的统一入口。 下面我一 AWS Marketplace 全球为例介绍用户使用优优工场 XPU 产品和方法(AWS Marketplace中国的方法非常类似,请通过其访问)AWS Marketplace官网支持英文关键词搜索。以下我们就向您展示如何通过AWS Marketplace官方网站订阅以及使用XPU。

第一步:通过AWS Marketplace官方网站搜索框,搜索“yoyoworks”或者“XPU”,点击产品并选择右侧“Continue to Subscribe”XPU

下拉查看详细信息:

 

 

 

 

 第二步:进入下一页阅读相关内容,以及条款说明后,点击“Continue to Configuration”按钮。

第三步:点击“Continue to Configuration”后进入产品配置软件步骤,您可以按需选择Delivery Method、Software Version、Region三个选项,然后点击“Continue to Launch”按钮

 第四步:在您接受软件相关条款确认订阅并确定区域和软件版本后,您进入“Launch this software”的界面,在此界面中您可以选择通过网站或者Amazon Elastic Compute Cloud (Amazon EC2)控制台启动Amazon系统映像(AMI)产品。“Launch from Website”选项使用软件供应商推荐的软件配置帮助客户通过几次点击就可以快速启动一个实例。如下图所示,在软件启动页面,您可以清楚看到“Launch from Website”选项。在您完成一些基本设置后,例如VPC、安全组、密钥对和Amazon EC2实例类型,您就可以直接启动软件。

如果需要更多的配置选项,您仍可以选择通过Amazon EC2控制台启动产品。所有在AWS Marketplace上面的产品都已经经过质量和安全验证并在 AWS基础设施上预配置了快速启动功能。

集中化软件管理
此次官网上线,AWS Marketplace还配合推出了AWS Marketplace订阅控制台以帮助您查看和管理所有您在AWS Marketplace上面的订阅。在这个控制台中,您可以查看每个产品的Amazon EC2实例状态,启动一个新实例,或者取消您的软件订阅。要访问这个控制台,您可以在登陆后,在网站的右上角您的用户名的下拉菜单中选择您的AWS Marketplace软件选项,或者您可以在Amazon EC2控制台的左侧查找服务中直接输入AWS Marketplace。如下图所示,AWS Marketplace订阅控制台包含所有您订阅过的产品列表,点击每项产品,你还可以看到产品概述以及相关管理选项。例如,您可以查看某一个产品正在运行的所有实例信息。

消息来源:优优工场(YOYOWORKS)

 

 

 

 

 


原文链接:https://www.cnblogs.com/yoyoworks/p/15434043.html



推荐阅读
  • 本文将详细介绍多个流行的 Android 视频处理开源框架,包括 ijkplayer、FFmpeg、Vitamio、ExoPlayer 等。每个框架都有其独特的优势和应用场景,帮助开发者更高效地进行视频处理和播放。 ... [详细]
  • yikesnews第11期:微软Office两个0day和一个提权0day
    点击阅读原文可点击链接根据法国大选被黑客干扰,发送了带漏洞的文档Trumps_Attack_on_Syria_English.docx而此漏洞与ESET&FireEy ... [详细]
  • 2017年人工智能领域的十大里程碑事件回顾
    随着2018年的临近,我们一同回顾过去一年中人工智能领域的重要进展。这一年,无论是政策层面的支持,还是技术上的突破,都显示了人工智能发展的迅猛势头。以下是精选的2017年人工智能领域最具影响力的事件。 ... [详细]
  • Ubuntu下系统负载与程序状态的监控方法
    本文介绍了在Ubuntu操作系统中,通过不同工具来监控系统负载及程序运行状态的方法。包括文本模式下的top和htop,图形界面下的gnome-system-monitor,以及针对NVIDIA Jetson开发板的jetson-stats工具。 ... [详细]
  • 本文介绍如何使用 Java 编程语言来判断一个给定的年份是否为闰年,并提供两种不同的实现方法。 ... [详细]
  • 在Win10上利用VS2015构建Caffe2环境
    本文详细介绍如何在Windows 10操作系统上通过Visual Studio 2015编译Caffe2深度学习框架的过程。包括必要的软件安装、环境配置以及常见问题的解决方法。 ... [详细]
  • 从Android 3.0 (API Level 11)起,Android的2D渲染管道得到了改进,以更好地支持硬件加速。本文介绍了如何启用和管理硬件加速,以及其对应用性能的影响。 ... [详细]
  • 随着技术的发展,黑客开始利用AI技术在暗网中创建用户的‘数字孪生’,这一现象引起了安全专家的高度关注。 ... [详细]
  • 本文详细介绍了如何在Windows环境下配置GPU支持,并使用Keras和TensorFlow实现YOLOv3模型进行图像目标检测。对于环境搭建的具体步骤,可参考外部链接提供的指南。 ... [详细]
  • 本文详细介绍了在使用FAPlayer的编译脚本时遇到的Ruby依赖问题,并提供了在Cygwin环境下安装Ruby的具体步骤。 ... [详细]
  • 浪潮AI服务器NF5488A5在MLPerf基准测试中刷新多项纪录
    近日,国际权威AI基准测试平台MLPerf发布了最新的推理测试结果,浪潮AI服务器NF5488A5在此次测试中创造了18项性能纪录,显著提升了数据中心AI推理性能。 ... [详细]
  • 近期尝试重构 GDI 并自定义图像处理函数时,发现自定义函数的图像复制性能显著低于 Windows 原生 GDI 函数。通过研究了解到,系统可能利用了 GPU 加速来提升这些函数的效率。 ... [详细]
  • LightningChart 是一款高性能的数据可视化工具,专为处理大规模实时数据设计,支持从2D到高级3D图表,包括极坐标图、史密斯图等。最新版本解决了在特定情况下导致应用程序崩溃的问题。 ... [详细]
  • 本文详细介绍了一种利用局域网环境将本地SQL Server数据库备份至另一台计算机的方法。主要步骤包括在目标机器上设置共享文件夹、配置SQL Server以支持备份任务,并通过定时任务实现自动化备份。 ... [详细]
  • 图像分类算法的优化策略与实践
    本文探讨了《Bag of Tricks for Image Classification with Convolutional Neural Networks》论文中的多项技术,旨在通过具体实例和实验验证,提高卷积神经网络在图像分类任务中的性能。文章详细介绍了从模型训练加速、网络结构调整到训练参数优化等多个方面的改进方法。 ... [详细]
author-avatar
昧凉生丶楚_139
这个家伙很懒,什么也没留下!
PHP1.CN | 中国最专业的PHP中文社区 | DevBox开发工具箱 | json解析格式化 |PHP资讯 | PHP教程 | 数据库技术 | 服务器技术 | 前端开发技术 | PHP框架 | 开发工具 | 在线工具
Copyright © 1998 - 2020 PHP1.CN. All Rights Reserved | 京公网安备 11010802041100号 | 京ICP备19059560号-4 | PHP1.CN 第一PHP社区 版权所有