Pricing

Comprehensive solutions to architect, deploy, optimize, and scale your AI initiatives

Reserved GPUs

As low as
$2.50 / GPU-hour
Contact Sales
Model
Fixed, committed capacity
Use Case
Production workloads, training pipelines
Commitment
Multi-month / year
Benefits
Guaranteed scale, stable cost
Fixed, committed capacity for production workloads
Long-term commitment (multi-month / yearly)
Guaranteed scale with stable, predictable cost
GPU availability
NVIDIA H200
NVIDIA GB200
NVIDIA B200

On-demand GPUs

Starting at
$4.39 / GPU-hour
Contact Sales
Model
Fixed, committed capacity
Use Case
Production workloads, training pipelines
Commitment
Multi-month / year
Benefits
Guaranteed scale, stable cost
Pay-as-you-go for fine-tuning and experimentation
Short-term flexibility (hourly / monthly)
Burstable capacity with maximum adaptability
GPU availability
NVIDIA H200
NVIDIA GB200
NVIDIA B200
Supercharge your GPUs

Inference Engine

GMI Cloud’s inference platform for deploying and scaling LLMs with minimal latency and maximum efficiency
Contact Sales
Supercharge your GPUs

Cluster Engine

A powerful orchestration layer for managing GPU workloads at scale
Contact Sales

方案与价格

按需 GPU 方案

开始于

4.39 美元 /GPU 小时
立即使用Contact Sales

GPU 配置:

8 × NVIDIA H100

处理器核心

2 x 英特尔 48 个内核

内存

2TB

系统硬盘

2 x 960GB NVMe 固态硬盘

数据硬盘

8 x 7.6TB NVMe 固态硬盘

GPU 计算网络

InfiniBand 400GB/s/GPU

以太网络

100 Gb/s

其他功能

集群引擎
AI 应用开发平台
按量计费
预留容量
基于成交量的定价

预留 GPU 方案

低至

2.50 美元 /GPU 小时
立即使用Contact Sales

GPU 配置

8 x NVIDIA H100

处理器核心

2 x 英特尔 48 个内核

内存

2TB

系统硬盘

2 x 960GB NVMe 固态硬盘

数据硬盘

8 x 7.6TB NVMe 固态硬盘

GPU 计算网络

InfiniBand 400GB/s/GPU

以太网络:

100 Gb/s

其他功能

集群引擎
AI 应用开发平台
即用即付
预留容量
批量采购优惠

常见问题

快速获取常见问题的解答

提供哪些类型的 GPU?

我们不仅提供 NVIDIA H100 GPU,配备 80 GB VRAM 和高算力,可用于各类 AI 和高性能计算工作负载;还提供 NVIDIA H200 GPU,作为首款配备 HBM3e 技术的 GPU,H200 可提供更大、更快的内存,从而加速大型语言模型 (LLM) 的开发,并在 HPC 工作负载的科学计算方面取得突破。查看 H100 报价H200 报价 详情,获取更多信息。

如何管理 GPU 集群和网络以进行分布式训练?

我们采用 NVIDIA NVLink 和 InfiniBand 网络技术,实现高速、低延迟的 GPU 集群计算,支持 Horovod 和 NCCL 等框架,让分布式训练更加流畅。了解更多,请访问 GPU 算力服务

支持哪些软件和深度学习框架,可定制吗?

我们支持 TensorFlow、PyTorch、Keras、Caffe、MXNet 和 ONNX,并提供高度定制化的环境,可通过 pip 和 conda 进行配置。

GPU 的价格方案如何?有提供成本优化功能吗?

我们提供按需、预留算力服务,并具备自动扩缩容功能以优化成本和性能,详情请查看报价