阿里云服务器GPU计算型和GPU虚拟化型实例概述-[云淘科技_教程]

GPU虚拟化型实例规格族sgn7i-vws（共享CPU）

sgn7i-vws的特点如下：

• 依托第三代神龙架构，提供稳定可预期的超高性能。同时通过芯片快速路径加速手段，完成存储、网络性能以及计算稳定性的数量级提升，可以更快地存储数据和加载模型。

• 实例的CPU和网络资源采用共享模式提供，最大化利用底层资源。内存和GPU显存采用独享模式提供，为您提供数据隔离和性能保障。

  说明

  如果您需要独享的CPU资源，请选择vgn7i-vws。

• 已包含NVIDIA GRID vWS的软件License，可以为各类专业CAD软件提供认证过的图形加速驱动能力，满足专业级图形设计的需求，也可以作为轻量级GPU计算型实例使用，降低小规模AI推理过程的使用成本。

• 计算：

  • 采用NVIDIA A10 GPU卡

    • 创新的Ampere架构

    • 支持vGPU、RTX、TensorRT等常用加速功能，提供多种业务支撑

  • 处理器：2.9 GHz主频的Intel ^® Xeon ^® 可扩展处理器（Ice Lake），全核睿频3.5 GHz

• 存储：

  • I/O优化实例

  • 支持ESSD云盘和ESSD AutoPL云盘

• 网络：

  • 支持IPv6

  • 实例网络性能与计算规格对应（规格越高网络性能越强）

• 适用场景：

  • 配备高性能CPU、内存、GPU，可以处理更多并发AI推理任务，适用于图像识别、语音识别、行为识别业务。

  • 支持RTX功能，搭配高主频CPU，提供高性能的3D图形虚拟化能力，适用于远程图形设计、云游戏等高强度图形处理业务。

  • 使用Ice Lake处理器，在影视动漫制作、云游戏、机械设计等领域进行3D建模时，效果更加出色。

sgn7i-vws包括的实例规格及指标数据如下表所示。

说明

• 上表中的GPU列对应的指标包括GPU卡型号和GPU分片信息。其中，GPU分片表示1块GPU分成多片，每个实例上使用1片。例如：

  NVIDIA A10 * 1/12中的NVIDIA A10表示GPU卡型号；1/12表示GPU分片，即1块GPU分成12片，每个实例上使用1片。

• 您可以前往ECS实例可购买地域，查看实例在各地域的可购情况。

• 指标的含义请参见实例规格指标说明。由于业务场景的不同，网络收发包PPS会存在明显差异。因此，我们建议您进行业务压测以了解实例的性能表现，以便选择合适的实例规格。

GPU虚拟化型实例规格族vgn7i-vws

vgn7i-vws的特点如下：

• 依托第三代神龙架构，提供稳定可预期的超高性能。同时通过芯片快速路径加速手段，完成存储、网络性能以及计算稳定性的数量级提升，可以更快地存储数据和加载模型。

• 已包含NVIDIA GRID vWS的软件License，可以为各类专业CAD软件提供认证过的图形加速驱动能力，满足专业级图形设计的需求，也可以作为轻量级GPU计算型实例使用，降低小规模AI推理过程的使用成本。

• 计算：

  • 采用NVIDIA A10 GPU卡

    • 创新的Ampere架构

    • 支持vGPU、RTX、TensorRT等常用加速功能，提供多种业务支撑

  • 处理器：2.9 GHz主频的Intel ^® Xeon ^® 可扩展处理器（Ice Lake），全核睿频3.5 GHz

• 存储：

  • I/O优化实例

  • 支持ESSD云盘和ESSD AutoPL云盘

• 网络：

  • 支持IPv6

  • 实例网络性能与计算规格对应（规格越高网络性能越强）

• 适用场景：

  • 配备高性能CPU、内存、GPU，可以处理更多并发AI推理任务，适用于图像识别、语音识别、行为识别业务。

  • 支持RTX功能，搭配高主频CPU，提供高性能的3D图形虚拟化能力，适用于远程图形设计、云游戏等高强度图形处理业务。

  • 使用Ice Lake处理器，在影视动漫制作、云游戏、机械设计等领域进行3D建模时，效果更加出色。

vgn7i-vws包括的实例规格及指标数据如下表所示。

说明

• 上表中的GPU列对应的指标包括GPU卡型号和GPU分片信息。其中，GPU分片表示1块GPU分成多片，每个实例上使用1片。例如：

  NVIDIA A10 * 1/6中的NVIDIA A10表示GPU卡型号；1/6表示GPU的分片，即1块GPU分成6片，每个实例上使用1片。

• 您可以前往ECS实例可购买地域，查看实例在各地域的可购情况。

• 指标的含义请参见实例规格指标说明。由于业务场景的不同，网络收发包PPS会存在明显差异。因此，我们建议您进行业务压测以了解实例的性能表现，以便选择合适的实例规格。

GPU计算型实例规格族gn7e

gn7e的特点如下：

• 您可以根据需要选择不同卡数和不同CPU资源的规格，灵活适应其不同的AI业务需求。

• 依托第三代神龙架构，VPC和云盘网络带宽相比上一代平均提升一倍。

• 存储：

  • I/O优化实例

  • 支持ESSD云盘和ESSD AutoPL云盘

• 网络：

  • 支持IPv6

  • 实例网络性能与计算规格对应（规格越高网络性能越强）

• 适用场景：

  • 中小规模的AI训练业务

  • 使用CUDA进行加速的HPC业务

  • 对GPU处理能力或显存容量需求较高的AI推理业务

  • 深度学习，例如图像分类、无人驾驶、语音识别等人工智能算法的训练应用

  • 高GPU负载的科学计算，例如计算流体动力学、计算金融学、分子动力学、环境分析等

  重要

  在使用高通信负载的AI训练业务如Transformer等模型时，务必启用NVLink进行GPU间的数据通信，否则可能由于PCIe链路大规模数据传输引起非预期的故障，导致数据受损。如不确定您使用的训练通信链路拓扑，请提交工单由阿里云技术专家为您提供技术支持。

gn7e包括的实例规格及指标数据如下表所示。

说明

• 您可以前往ECS实例可购买地域，查看实例在各地域的可购情况。

• 指标的含义请参见实例规格指标说明。由于业务场景的不同，网络收发包PPS会存在明显差异。因此，我们建议您进行业务压测以了解实例的性能表现，以便选择合适的实例规格。

GPU计算型实例规格族gn7i

gn7i的特点如下：

• 依托第三代神龙架构，提供稳定可预期的超高性能。同时通过芯片快速路径加速手段，完成存储、网络性能以及计算稳定性的数量级提升。

• 计算：

  • 采用NVIDIA A10 GPU卡

    • 创新的Ampere架构

    • 支持RTX、TensorRT等常用加速功能

  • 处理器：2.9 GHz主频的Intel ^® Xeon ^® 可扩展处理器（Ice Lake），全核睿频3.5 GHz

  • 最大可提供752 GiB内存，相比gn6i大幅提升

• 存储：

  • I/O优化实例

  • 支持ESSD云盘和ESSD AutoPL云盘

• 网络：

  • 支持IPv6

  • 实例网络性能与计算规格对应（规格越高网络性能越强）

• 适用场景：

  • 配备高性能CPU、内存、GPU，可以处理更多并发AI推理任务，适用于图像识别、语音识别、行为识别业务

  • 支持RTX功能，搭配高主频CPU，提供高性能的3D图形虚拟化能力，适用于远程图形设计、云游戏等高强度图形处理业务

gn7i包括的实例规格及指标数据如下表所示。

说明

• 您可以前往ECS实例可购买地域，查看实例在各地域的可购情况。

• 指标的含义请参见实例规格指标说明。由于业务场景的不同，网络收发包PPS会存在明显差异。因此，我们建议您进行业务压测以了解实例的性能表现，以便选择合适的实例规格。

GPU计算型实例规格族gn7s

gn7s的特点如下：

• 采用全新的Intel IceLake处理器，同时搭载Nvidia Ampere架构的NVIDIA A30 GPU卡，您可以根据需要选择不同卡数和不同CPU资源的规格，灵活适应不同的AI业务需求。

• 基于阿里云全新的第三代神龙架构，VPC和云盘网络带宽相比上一代平均提升一倍。

• 计算：

  • 采用NVIDIA A30 GPU卡

    • 创新的Nvidia Ampere架构

    • 支持MIG（Multi-Instance GPU）功能、加速功能（基于第二代Tensor Cores加速），提供多种业务支持。

  • 处理器：2.9 GHz主频的Intel ^® Xeon ^® 可扩展处理器（Ice Lake），全核睿频3.5 GHz

  • 容量内存相比上一代实例规格族大幅提升

• 存储：支持ESSD云盘和ESSD AutoPL云盘

• 网络：

  • 支持IPv6

  • 实例网络性能与计算规格对应（规格越高网络性能越强）

• 适用场景：配备高性能CPU、内存、GPU，可以处理更多并发AI推理业务需求，适用于图像识别、语音识别、行为识别业务。

gn7s包括的实例规格及指标数据如下表所示：

说明

• 您可以前往ECS实例可购买地域，查看实例在各地域的可购情况。

• 指标的含义请参见实例规格指标说明。由于业务场景的不同，网络收发包PPS会存在明显差异。因此，我们建议您进行业务压测以了解实例的性能表现，以便选择合适的实例规格。

GPU计算型实例规格族gn7

gn7的特点如下：

• 存储：

  • I/O优化实例

  • 支持ESSD云盘和ESSD AutoPL云盘

• 网络：

  • 支持IPv6

  • 实例网络性能与计算规格对应（规格越高网络性能越强）

• 适用场景：

  • 深度学习，例如图像分类、无人驾驶、语音识别等人工智能算法的训练应用

  • 高GPU负载的科学计算，例如计算流体动力学、计算金融学、分子动力学、环境分析等

gn7包括的实例规格及指标数据如下表所示。

说明

• 您可以前往ECS实例可购买地域，查看实例在各地域的可购情况。

• 指标的含义请参见实例规格指标说明。由于业务场景的不同，网络收发包PPS会存在明显差异。因此，我们建议您进行业务压测以了解实例的性能表现，以便选择合适的实例规格。

GPU计算型实例规格族gn7r

该实例规格族正在公测中。

gn7r的特点如下：

• gn7r是阿里云推出的企业级ARM处理器+GPU的多功能规格族产品。以ARM架构为开发Android线上应用和云手机、云手游等业务，为其提供云原生底层资源平台。同时，其配备的NVIDIA A16 GPU具备多芯片硬件转码能力，可以作为高性价比的视频转码平台，将成本降低至ASIC类转码平台的水平。同时支持基于CUDA的计算架构，可在解码后直接在GPU上进行AI识别和分析。

• 基于第三代神龙架构，通过CIPU云处理器进行云端资源管理，提供稳定可预期的超高计算、存储和网络性能

• 采用NVIDIA A16 GPU计算加速器提供GPU加速能力，支持图形加速、硬件转码和AI业务

  说明

  每块NVIDIA A16卡包含4个GA 107处理芯片。

• 计算：

  • 处理器：3.0 GHz主频的Ampere ^® Altra ^® Max处理器，原生ARM计算平台为Android服务器提供高效的性能和优秀的App兼容性

• 存储：支持ESSD云盘和ESSD AutoPL云盘

• 网络：

  • 支持IPv4、IPv6

• 适用场景：基于Android提供APP远端服务，例如云业务在线待机、云手游和云手机、Android业务爬虫、视频业务转码和视频识别、审查、视频编辑等。

gn7r包括的实例规格及指标数据如下表所示：

说明

• 您可以前往ECS实例可购买地域，查看实例在各地域的可购情况。

• 指标的含义请参见实例规格指标说明。由于业务场景的不同，网络收发包PPS会存在明显差异。因此，我们建议您进行业务压测以了解实例的性能表现，以便选择合适的实例规格。

GPU虚拟化型实例规格族vgn6i/vgn6i-vws

vgn6i-vws规格族：

• 由于GRID驱动的升级，阿里云对原vgn6i规格族进行了升级，新规格族为vgn6i-vws。新规格族采用最新的GRID驱动，并赠送了GRID vws授权。因此您不再需要从云市场镜像购买收费镜像，而是直接使用云市场镜像中已经集成了最新驱动的免费镜像即可。创建实例时在云市场镜像中搜索GRID，可直接搜索到预装GRID驱动的免费镜像。

• 如果需要使用其他公共镜像或自定义镜像，由于这些镜像中未包含GRID驱动，请提交工单申请GRID驱动文件单独安装，阿里云不对GRID驱动额外收取License费用。

vgn6i规格族：

• 如果您仍需要继续使用vgn6i（不包含vgn6i-vws）实例：

  • Windows镜像：创建实例时在云市场镜像中搜索关键词GRID，并选用预装GRID驱动的收费镜像。这些收费镜像带有已经激活License的GRID驱动，不用再手动安装GRID驱动。关于如何选择云市场镜像，请参见创建配备GRID驱动的GPU实例（Windows）。

  • Linux镜像：阿里云不再提供技术支持，如您确需使用Linux镜像，请提交工单申请特殊技术支持。

• 计算：

  • 采用NVIDIA T4 GPU计算加速器

  • 实例包含分片虚拟化后的虚拟GPU

    • 计算能力支持NVIDIA Tesla T4的1/4和1/2

    • GPU显存支持4 GB和8 GB

  • 处理器与内存配比约为1:5

  • 处理器：2.5 GHz主频的Intel ^® Xeon ^® Platinum 8163（Skylake）

• 存储：

  • I/O优化实例

  • 仅支持SSD云盘和高效云盘

• 网络：

  • 支持IPv6

  • 实例网络性能与计算规格对应（规格越高网络性能越强）

• 适用场景：

  • 云游戏的云端实时渲染

  • AR和VR的云端实时渲染

  • AI（DL和ML）推理，适合弹性部署含有AI推理计算应用的互联网业务

  • 深度学习的教学练习环境

  • 深度学习的模型实验环境

vgn6i包括的实例规格及指标数据如下表所示。

说明

• 上表中的GPU列对应的指标包括GPU卡型号和GPU分片信息。其中，GPU分片表示1块GPU分成多片，每个实例上使用1片。例如：

  NVIDIA T4 * 1/4中的NVIDIA T4表示GPU卡型号；1/4表示GPU的分片，即1块GPU分成4片，每个实例上使用1片。

• 您可以前往ECS实例可购买地域，查看实例在各地域的可购情况。

• 指标的含义请参见实例规格指标说明。由于业务场景的不同，网络收发包PPS会存在明显差异。因此，我们建议您进行业务压测以了解实例的性能表现，以便选择合适的实例规格。

GPU计算型实例规格族gn6i

gn6i的特点如下：

• 计算：

  • GPU加速器：T4

    • 创新的Turing架构

    • 单GPU显存16 GB（GPU显存带宽320 GB/s）

    • 单GPU 2560个CUDA Cores

    • 单GPU多达320个Turing Tensor Cores

    • 可变精度Tensor Cores支持65 TFlops FP16、130 INT8 TOPS、260 INT4 TOPS

  • 处理器与内存配比约为1:4

  • 处理器：2.5 GHz主频的Intel ^® Xeon ^® Platinum 8163（Skylake）

• 存储：

  • I/O优化实例

  • 支持ESSD云盘、ESSD AutoPL云盘、SSD云盘和高效云盘

• 网络：

  • 支持IPv6

  • 实例网络性能与计算规格对应（规格越高网络性能越强）

• 适用场景：

  • AI（DL和ML）推理，适合计算机视觉、语音识别、语音合成、NLP、机器翻译、推荐系统

  • 云游戏云端实时渲染

  • AR和VR的云端实时渲染

  • 重载图形计算或图形工作站

  • GPU加速数据库

  • 高性能计算

gn6i包括的实例规格及指标数据如下表所示。

说明

• 您可以前往ECS实例可购买地域，查看实例在各地域的可购情况。

• 指标的含义请参见实例规格指标说明。由于业务场景的不同，网络收发包PPS会存在明显差异。因此，我们建议您进行业务压测以了解实例的性能表现，以便选择合适的实例规格。

GPU计算型实例规格族gn6e

gn6e的特点如下：

• 计算：

  • 采用NVIDIA V100（32 GB NVLink）GPU卡

  • GPU加速器：V100（SXM2封装）

    • 创新的Volta架构

    • 单GPU显存32 GB HBM2（GPU显存带宽900 GB/s）

    • 单GPU 5120个CUDA Cores

    • 单GPU 640个Tensor Cores

    • 单GPU支持6个NVLink链路（NVLink属于双向链路），单向链路的带宽为25 Git/s，总带宽为6×25×2=300 Git/s

  • 处理器与内存配比约为1:8

  • 处理器：2.5 GHz主频的Intel ^® Xeon ^® Platinum 8163（Skylake）

• 存储：

  • I/O优化实例

  • 支持ESSD云盘、ESSD AutoPL云盘、SSD云盘和高效云盘

• 网络：

  • 支持IPv6

  • 实例网络性能与计算规格对应（规格越高网络性能越强）

• 适用场景：

  • 深度学习，例如图像分类、无人驾驶、语音识别等人工智能算法的训练、推理应用

  • 科学计算，例如计算流体动力学、计算金融学、分子动力学、环境分析等

gn6e包括的实例规格及指标数据如下表所示。

说明

• 您可以前往ECS实例可购买地域，查看实例在各地域的可购情况。

• 指标的含义请参见实例规格指标说明。由于业务场景的不同，网络收发包PPS会存在明显差异。因此，我们建议您进行业务压测以了解实例的性能表现，以便选择合适的实例规格。

GPU计算型实例规格族gn6v

gn6v的特点如下：

• 计算：

  • 采用NVIDIA V100 GPU卡

  • GPU加速器：V100（SXM2封装）

    • 创新的Volta架构

    • 单GPU显存16 GB HBM2（GPU显存带宽900 GB/s）

    • 单GPU 5120个CUDA Cores

    • 单GPU 640个Tensor Cores

    • 单GPU支持6个NVLink链路（NVLink属于双向链路），单向链路的带宽为25 Git/s，总带宽为6×25×2=300 Git/s

  • 处理器与内存配比约为1:4

  • 处理器：2.5 GHz主频的Intel ^® Xeon ^® Platinum 8163（Skylake）

• 存储：

  • I/O优化实例

  • 支持ESSD云盘、ESSD AutoPL云盘、SSD云盘和高效云盘

• 网络：

  • 支持IPv6

  • 实例网络性能与计算规格对应（规格越高网络性能越强）

• 适用场景：

  • 深度学习，例如图像分类、无人驾驶、语音识别等人工智能算法的训练、推理应用

  • 科学计算，例如计算流体动力学、计算金融学、分子动力学、环境分析等

gn6v包括的实例规格及指标数据如下表所示。

说明

• 您可以前往ECS实例可购买地域，查看实例在各地域的可购情况。

• 指标的含义请参见实例规格指标说明。

GPU虚拟化型实例规格族vgn5i

vgn5i的特点如下：

• 如果您需要vgn5i实例支持OpenGL图形显示等图形功能，请使用NVIDIA vGPU相关软件，软件License的获取方式和实例镜像类型有关：

  • vgn5i实例（Windows镜像）：创建实例时在云市场镜像中搜索关键词GRID，并选用预装GRID驱动的收费镜像。这些收费镜像带有已经激活License的GRID驱动，不用再手动安装GRID驱动。关于如何选择云市场镜像，请参见创建配备GRID驱动的GPU实例（Windows）。

  • vgn5i实例（Linux镜像）：请提交工单申请GRID License，并创建未配备驱动的GPU实例。

• 计算：

  • 采用NVIDIA P4 GPU计算加速器

  • 实例包含分片虚拟化后的虚拟GPU

    • 计算能力支持NVIDIA Tesla P4的1/8、1/4、1/2和1:1

    • GPU显存支持1 GB、2 GB、4 GB和8 GB

  • 处理器与内存配比为1:3

  • 处理器：2.5 GHz主频的Intel ^® Xeon ^® E5-2682 v4（Broadwell）

• 存储：

  • I/O优化实例

  • 仅支持SSD云盘和高效云盘

• 网络：

  • 支持IPv6

  • 实例网络性能与计算规格对应（规格越高网络性能越强）

• 适用场景：

  • 云游戏的云端实时渲染

  • AR和VR的云端实时渲染

  • AI（DL和ML）推理，适合弹性部署含有AI推理计算应用的互联网业务

  • 深度学习的教学练习环境

  • 深度学习的模型实验环境

vgn5i包括的实例规格及指标数据如下表所示。

说明

• 上表中的GPU列对应的指标包括GPU卡型号和GPU分片信息。其中，GPU分片表示1块GPU分成多片，每个实例上使用1片。例如：

  NVIDIA P4 * 1/8中的NVIDIA P4表示GPU卡型号；1/8表示GPU的分片，即1块GPU分成8片，每个实例上使用1片。

• 您可以前往ECS实例可购买地域，查看实例在各地域的可购情况。

• 指标的含义请参见实例规格指标说明。由于业务场景的不同，网络收发包PPS会存在明显差异。因此，我们建议您进行业务压测以了解实例的性能表现，以便选择合适的实例规格。

GPU计算型实例规格族gn5

gn5的特点如下：

• 计算：

  • 采用NVIDIA P100 GPU卡

  • 多种处理器与内存配比

  • 处理器：2.5 GHz主频的Intel ^® Xeon ^® E5-2682 v4（Broadwell）

• 存储：

  • 配备高性能NVMe SSD本地盘

  • I/O优化实例

  • 仅支持SSD云盘和高效云盘

• 网络：

  • 实例网络性能与计算规格对应（规格越高网络性能越强）

• 适用场景：

  • 深度学习

  • 科学计算，例如计算流体动力学、计算金融学、基因组学研究、环境分析

  • 高性能计算、渲染、多媒体编解码及其他服务器端GPU计算工作负载

gn5包括的实例规格及指标数据如下表所示。

说明

• gn5优惠活动详情请参见异构计算GPU实例活动页。

• 您可以前往ECS实例可购买地域，查看实例在各地域的可购情况。

• 指标的含义请参见实例规格指标说明。由于业务场景的不同，网络收发包PPS会存在明显差异。因此，我们建议您进行业务压测以了解实例的性能表现，以便选择合适的实例规格。

GPU计算型实例规格族gn5i

gn5i的特点如下：

• 计算：

  • 采用NVIDIA P4 GPU卡

  • 处理器与内存配比为1:4

  • 处理器：2.5 GHz主频的Intel ^® Xeon ^® E5-2682 v4（Broadwell）

• 存储：

  • I/O优化实例

  • 仅支持SSD云盘和高效云盘

• 网络：

  • 支持IPv6

  • 实例网络性能与计算规格对应（规格越高网络性能越强）

• 适用场景：

  • 深度学习推理

  • 多媒体编解码等服务器端GPU计算工作负载

gn5i包括的实例规格及指标数据如下：

说明

• 您可以前往ECS实例可购买地域，查看实例在各地域的可购情况。

• 指标的含义请参见实例规格指标说明。由于业务场景的不同，网络收发包PPS会存在明显差异。因此，我们建议您进行业务压测以了解实例的性能表现，以便选择合适的实例规格。