全球AI算力市场正在出现一种值得关注的变化:企业需要的不再只是能够临时调用的GPU计算资源,而是能够长期使用、独立控制,并且部署在指定地区的完整计算基础设施。
这种需求正在影响专业AI云服务商的产品设计。
2026年11月18日,印度AI云服务商Neysa宣布,已在孟买正式部署基于AMD Instinct MI350X加速卡的大规模GPU计算集群,并通过旗下Tytan平台向企业提供专属裸金属AI基础设施。
与仍处于规划或建设阶段的项目不同,Neysa确认此次集群已经投入运行,并且已有国际客户签订相关算力容量合同。该平台整合了AMD MI350X GPU、EPYC服务器处理器及ROCm开放软件生态,主要面向大语言模型训练、模型微调、生成式AI和高吞吐推理等业务。
但这条新闻真正值得关注的,不只是印度新增了一批高性能GPU服务器。
Neysa此次强调的关键词是专属硬件、容量保障、架构自主选择和区域部署能力。客户不仅能够使用GPU,还可以根据业务需求选择网络、存储、集群管理方式以及运行环境。
对于正在发展的AI服务器租赁行业而言,这反映出一个值得研究的方向:当AI应用从开发测试进入长期生产环境,企业为什么会开始重视能够独立控制的GPU硬件,而不只是按小时购买算力?
根据Neysa于11月18日发布的官方公告,此次GPU集群已在印度孟买一次性完成部署并上线运行,而不是分多个阶段逐步开放。
AMD也在11月17日发布了相关消息,确认Neysa Tytan平台已经具备实际运营能力,可为印度本地企业和国际客户提供专属AI计算资源。
此次部署主要涉及三个技术组成部分:
技术组成 | 主要作用 |
|---|---|
AMD Instinct MI350X GPU | 提供AI训练、模型微调及推理加速能力 |
AMD EPYC处理器 | 承担主机计算、数据处理与系统I/O任务 |
AMD ROCm软件生态 | 支持GPU计算框架、模型部署与相关软件优化 |
Neysa表示,Tytan能够根据客户需求定制加速器架构、网络设计、存储平台以及服务等级要求,并提供统一的集群部署与运维服务。
在运行环境方面,客户可以选择直接使用裸金属服务器,也可以在裸金属基础上部署Slurm或Kubernetes。
前者更常用于高性能计算和批量任务调度,后者则适合容器化应用、服务编排和部分AI推理平台。
Neysa还强调,客户可以在较大程度上自主定义运行环境和集群架构,而不只是使用云服务商预先设定的计算实例。
不过,官方公告并没有披露此次孟买集群的GPU总数量、服务器节点规模、实际网络速率、租赁价格及完整性能测试结果。
因此,目前能够确认的是MI350X集群已经上线,并有客户签约使用相关容量,而不能据此推算项目投资金额、GPU总规模或客户实际获得的性能。
A5数据分析,这次部署的不在于MI350X本身是一款全新GPU,而在于已有的高性能加速器开始以区域专属裸金属集群的形式投入商业运营。
AMD Instinct MI350X于2025年6月正式发布,采用第四代CDNA架构,主要面向数据中心AI与高性能计算市场。
根据AMD官方规格,MI350X的主要硬件参数如下:
硬件指标 | AMD Instinct MI350X |
|---|---|
GPU架构 | AMD CDNA 4 |
显存容量 | 288GB HBM3E |
显存带宽 | 8TB/s |
GPU计算单元 | 256 CU |
矩阵计算核心 | 1024 |
FP16矩阵理论性能 | 2.3 PFLOPS |
OCP FP8矩阵理论性能 | 4.6 PFLOPS |
MXFP4矩阵理论性能 | 9.2 PFLOPS |
主要软件生态 | AMD ROCm |
这些计算性能属于AMD公布的理论峰值指标,不应直接理解为真实模型在生产环境中可以持续达到相同性能。
其中,288GB HBM3E显存和8TB/s显存带宽,是MI350X比较值得关注的两项配置。
对于大型语言模型,显存不仅需要保存模型权重,还需要容纳KV Cache、计算过程中的临时数据以及推理框架使用的其他资源。
显存容量越大,在合适的软件和模型配置下,单颗GPU能够容纳的模型数据或上下文缓存通常也越多。
这对于长上下文推理、较大参数规模的模型,以及需要较高并发的AI服务具有实际意义。
AMD还提供基于8颗MI350X的标准加速平台,整体显存容量约2.3TB,能够为多GPU计算任务提供较大的显存资源。
但需要注意,2.3TB是八颗GPU显存容量的合计,并不意味着所有显存天然构成一个可以由单颗GPU任意访问的统一内存池。
运行大型模型时,仍然需要通过模型并行、GPU互联和相应的通信框架协调资源。
此外,Neysa没有公布此次集群中每个节点的GPU数量,所以不能直接认定其全部服务器都采用八卡MI350X配置。
对于企业而言,GPU规格固然重要,但模型是否能够获得预期性能,还需要结合软件兼容性、计算精度、GPU互联方式和实际推理负载进行测试。
这次Neysa特别强调Bare Metal,即裸金属计算资源。
裸金属服务器通常指客户能够直接使用物理服务器资源,而不是必须通过传统虚拟机来访问硬件。
对于GPU租赁业务,这种交付方式并不新鲜。许多独立服务器租赁商早已提供客户独享的GPU物理服务器。
不过,随着AI训练和大规模推理需求增长,裸金属开始从单台服务器租赁延伸到多节点计算集群。
两者在资源交付方式上存在一定区别。
传统共享云GPU服务,通常通过虚拟机、容器或GPU分区等机制向不同客户分配计算资源。用户可以按需求申请实例,但底层硬件配置和运行环境受到云平台产品设计约束。
裸金属GPU集群则可以让客户获得独占的物理计算节点,并在允许的范围内自行部署操作系统、驱动、计算框架和集群调度系统。
这并不意味着所有公有云GPU都是共享硬件。部分大型云服务商同样提供专属主机、裸金属实例和预留GPU集群。
真正需要比较的,是具体产品给予客户多少资源控制权,以及实际计算资源是否独占。
对于规模较大的AI项目,裸金属具有几个值得关注的特点。
首先,客户可以根据业务需求配置软件环境,而不是完全依赖预先制作的云平台镜像。
其次,独占节点能够减少不同租户之间的资源争用风险,便于开展重复性性能测试。
另外,企业可以选择适合自身任务的网络互联、存储和资源调度方式。
例如,大型模型训练需要频繁执行跨GPU通信。如果底层网络和GPU节点配置无法满足要求,即使单颗GPU具有很高的计算能力,实际训练效率也可能受到限制。
而在专属裸金属集群中,客户可以更有针对性地规划计算节点和网络资源。
但裸金属不等于性能必然更高。
如果云平台已经提供独占GPU、合理的高速网络和成熟的软件调度环境,那么相同硬件上的应用性能未必明显低于裸金属部署。
此外,裸金属可能要求客户承担更多驱动维护、软件升级、任务调度和故障处理工作。
因此,是否选择裸金属,应该取决于控制权、资源隔离、长期使用成本和运维能力,而不是简单地认为裸金属一定比云实例更快。
AI开发测试与生产环境,对GPU资源的要求存在明显差异。
在模型开发阶段,企业可能只需要临时租赁几张GPU,完成实验、微调或性能验证。
这类需求通常具有明显的阶段性,按小时计费的云GPU服务可以提供较好的灵活性。
但当AI模型正式进入生产环境,情况就会不同。
例如,面向大量用户的生成式AI服务可能需要长期运行,企业需要持续保证推理容量,并根据实际访问需求扩展计算资源。
对于训练大型模型的企业,一次训练任务可能需要大量GPU同时运行较长时间。如果其中部分计算节点无法按期提供,整个训练计划就可能受到影响。
在这种情况下,企业关注的重点开始从“有没有GPU可以使用”,转向“能否在指定时间获得稳定、可持续使用的GPU资源”。
Neysa此次公告特别强调容量保障和专属计算资源,也与这种需求变化有关。
其Tytan平台不只是销售GPU计算时间,还试图向客户提供明确的硬件容量、部署环境和运维责任。
A5数据分析,对于长期运行的企业AI项目,资源可预测性可能与GPU本身的性能同样重要。
如果某个项目需要持续使用大量GPU,频繁重新申请实例、调整计算环境或迁移训练任务,都可能增加运营复杂度。
通过长期预留或专属部署,企业有机会减少资源调度的不确定性。
不过,专属硬件也存在相应代价。
如果业务负载不够稳定,部分GPU长期处于低利用率状态,固定租赁成本就可能高于按需购买计算资源。
因此,专属裸金属更适合计算需求相对明确、资源利用率较高,或者对运行环境有特殊要求的项目。
对于短期测试、零散推理任务和需求变化较大的业务,灵活的按需GPU服务仍然具有明显优势。
从全球AI基础设施布局来看,Neysa此次选择印度孟买,并不只是为了增加服务器数量。
近年来,AI企业越来越重视计算资源的地理位置。
一个重要原因,是企业在不同地区开展业务时,可能受到数据管理、客户合同、行业监管和网络性能等条件影响。
对于部分金融、医疗、公共服务和企业内部数据处理场景,客户可能要求数据在指定地区保存或处理。
在这些业务中,即使海外数据中心能够提供性能更强或价格更低的GPU,企业也未必能够直接使用。
但数据驻留要求并不完全等于法律上的数据本地化义务。不同国家、行业及数据类型适用的规定可能不同,不能笼统地认为所有印度企业数据都必须保存在印度境内。
Neysa此次在孟买部署MI350X集群,为有印度本地部署需求的客户增加了新的算力选择。
第二个因素是网络连接。
对于需要频繁传输大量数据的AI业务,计算资源与数据源之间的网络距离可能影响数据迁移时间和访问延迟。
如果企业主要业务、数据集和应用系统都位于印度,选择当地GPU计算资源,可能减少部分跨境数据传输需求。
但这并不意味着部署在印度的GPU一定比其他国家的服务器延迟更低。
实际网络性能仍然取决于用户位置、运营商互联、路由路径、专线条件和数据中心网络架构。
对于主要服务北美或欧洲用户的应用,印度节点也不一定是最合适的选择。
第三个因素是区域算力供应的自主性。
当高性能GPU成为重要的计算资源时,企业不希望所有业务都依赖少数远距离数据中心。
通过在不同地区建设AI集群,云服务商可以向客户提供更多计算资源位置选择。
A5数据认为,这也是区域GPU市场未来值得关注的发展方向。
香港、新加坡、日本、韩国、印度等地区的AI基础设施,不一定只围绕谁的GPU型号更新来竞争,还可能围绕客户所在地、数据驻留要求、网络质量和专属部署能力形成差异化。
不过,区域需求是否足以长期支撑大规模GPU投资,仍然需要通过实际客户合同、设备利用率和运营成本来验证。
此次Neysa部署的另一个重要特点,是采用AMD ROCm软件生态。
GPU计算并不是只要安装硬件就能够运行所有AI应用。
实际部署通常需要驱动程序、计算运行时、数学库、深度学习框架和推理服务软件共同配合。
对于已经建立NVIDIA CUDA开发环境的企业而言,迁移至其他GPU平台时,可能需要调整软件依赖、编译环境、计算算子甚至部分模型推理代码。
ROCm是AMD面向GPU计算提供的软件平台,支持PyTorch等常用AI开发工具,并提供相关的计算库及开发组件。
对于企业来说,ROCm的价值在于提供了不同于CUDA的GPU计算技术路线。
这使企业在选择AI基础设施时,不必完全局限于单一GPU厂商。
不过,开放软件生态并不意味着迁移过程没有成本。
不同模型、框架和算子对ROCm的支持程度可能存在差异,部分软件还需要选择适配版本或进行额外优化。
例如,企业可能已经通过CUDA环境部署了特定版本的PyTorch、推理加速库和自定义GPU算子。
如果直接迁移到MI350X集群,就需要确认这些组件是否有相应的ROCm实现,并重新进行性能和稳定性测试。
此外,部分针对特定GPU架构高度优化的应用,不一定能在更换硬件后获得相同的计算效率。
因此,选择AMD GPU服务器时,除了比较显存、计算性能和租赁价格,还需要关注软件生态是否真正支持现有业务。
A5数据分析,专属裸金属与ROCm结合的意义,在于企业可以更加自主地选择计算环境,但前提是具备相应的开发和运维能力。
对于成熟的AI团队,这种灵活性可能具有吸引力;对于主要依赖标准化云接口的企业,完整托管服务反而可能更加省心。
随着不同厂商的高性能GPU进入区域AI云市场,企业能够选择的加速器产品有所增加。
但这是否会直接推动GPU服务器租金下降,目前还不能得出明确结论。
GPU租赁价格不仅由芯片采购成本决定,还受到服务器整机、机房供电、散热、网络、软件维护和设备折旧等因素影响。
特别是高密度MI350X集群,还需要配套高速GPU互联、服务器内存、NVMe存储以及稳定的机房基础设施。
如果采用专属裸金属模式,服务商通常还需要预留相应计算容量,确保客户在合同期内能够持续使用资源。
这类服务与随时申请、随时释放的共享云实例,在成本分摊方式上可能存在差异。
对于GPU租赁商来说,设备利用率是决定经营效率的重要因素。
假如某套GPU集群长期被客户稳定使用,服务商就更容易规划设备折旧、电力成本及维护支出。
相反,如果大量GPU处于闲置状态,即使硬件本身具有较高的理论算力,也无法自动转化为收入。
对于企业客户,则需要比较不同部署方式的总体计算成本。
比较项目 | 按需云GPU | 专属裸金属GPU |
|---|---|---|
资源使用方式 | 通常按需申请和释放 | 通常长期预留或独占 |
计费特点 | 按实际使用量或实例时长 | 可能采用固定周期或容量合同 |
环境控制权 | 取决于云产品及权限 | 通常具有较高的系统控制权 |
资源稳定性 | 受实例供应及预留条件影响 | 取决于专属容量和服务协议 |
运维责任 | 服务商通常承担较多平台管理 | 根据合同由客户与服务商分担 |
更适合的业务 | 弹性负载、临时任务、开发测试 | 持续训练、专属集群、长期生产负载 |
这是一种典型产品模式比较,实际云服务也可能同时提供裸金属、专属实例和容量预留,不能简单认为两类服务完全对立。
对于长期稳定运行的AI业务,如果专属裸金属能够提供有竞争力的合同价格,并保持较高资源利用率,就可能获得较好的成本表现。
但如果GPU负载波动很大,企业仍然需要支付固定的专属资源费用,那么按需云GPU可能更加经济。
截至此次公告,Neysa尚未公开MI350X集群的完整租赁价格,因此无法验证其实际成本是否低于其他GPU云服务商。
Neysa此次发布的消息还有一个值得IDC行业关注的特点:厂商并没有将GPU理论性能作为唯一的宣传重点。
公告更多强调的是部署完成、容量合同、客户控制权和集群运营能力。
原因并不难理解。
对于大规模AI项目,GPU硬件只是计算平台的起点。真正投入使用时,还需要高速网络、存储系统、软件环境、监控平台和持续运维能力。
如果服务商只能提供GPU服务器,却不能解决跨节点互联、故障处理和资源调度问题,那么客户仍然需要承担大量系统集成工作。
而专属GPU集群则可以将部分基础设施集成工作交由服务商完成。
Neysa的Tytan平台允许客户选择裸金属、Slurm或Kubernetes等运行方式,同时由Neysa承担集群部署与运维的统一服务责任。
这种模式说明,高端GPU租赁业务正在向更完整的基础设施交付服务发展。
但并不是所有GPU客户都需要这样的产品。
对于模型开发、图像生成、中小型推理和短期计算任务,传统的独立GPU服务器或按需云实例仍然具有实际价值。
真正需要专属集群的,通常是计算资源使用规模较大、运行时间较长,或者对网络、软件环境和交付保障有明确要求的客户。
A5数据认为,未来GPU服务器市场可能进一步形成分层。
基础市场继续围绕单卡或多卡GPU的价格、显存容量和部署便利性竞争。
中高端市场则更加关注完整计算节点的性能、网络互联和稳定性。
大型企业市场可能进一步要求专属GPU集群、区域部署、容量保障和长期运维服务。
这种分层不是简单的产品升级,而是不同客户对算力资源的使用方式正在产生差异。
AMD MI350X并不是2026年11月才出现的新产品,但Neysa此次正式部署,让这款加速器在印度区域AI基础设施市场获得了新的实际应用。
与单纯宣布采购计划相比,集群已经运行、国际客户已经签订容量合同,是此次新闻最重要的确认信息。
不过,现阶段仍然缺少GPU总数量、完整硬件配置、实际客户利用率和商业价格等数据,因此不能仅凭这次部署就判断印度AI算力市场已经形成新的价格优势,或者AMD平台能够全面替代其他GPU生态。
更准确地说,这次合作提供了一个值得观察的商业样本:专业AI云服务商正在尝试通过区域部署、专属硬件和开放软件生态,为企业提供不同于标准化GPU实例的计算资源选择。
对于印度本地企业,这意味着增加了在本地部署高性能AI计算任务的可能性;对于国际客户,则意味着可以根据数据位置、业务目标和资源需求,选择在印度建立专属AI计算环境。
而对于全球IDC及GPU服务器租赁行业,这条消息的意义还在于,竞争正在从拥有多少GPU,逐渐延伸到能否按照客户要求交付可持续运行的计算集群。
未来衡量一家GPU服务商的能力,除了加速卡型号和每小时租金,还可能需要关注网络拓扑、资源隔离、软件兼容性、机房基础设施以及长期服务保障。
GPU算力本身依然重要,但随着AI项目进入持续运营阶段,企业真正购买的可能不再只是计算性能,而是能够在指定地区、指定环境下长期使用的计算能力。
Neysa在孟买上线MI350X裸金属集群,正是这一市场变化的具体体现。