Atlas 800I A2 推理服務(wù)器采用8模組高效推理方式,提供強勁 AI 推理能力,在算力、內(nèi)存帶寬和互聯(lián)能力方面具有優(yōu)勢,可廣泛應(yīng)用于生成式大模型推理,例如智能客服、文案生成、知識沉淀等內(nèi)容生成類場景,支持NPU互聯(lián),提升大模型推理效率。
技術(shù)規(guī)格
產(chǎn)品 | Atlas 800I A2推理服務(wù)器 |
形態(tài) | 4U AI服務(wù)器 |
CPU | 4 * 鯤鵬920 |
內(nèi)存 | 32個DDR4內(nèi)存插槽,最高3200 MT/s 單根內(nèi)存條容量支持16/32/64 GB |
本地存儲 | 8 * 2.5 SATA+2 * 2.5 NVMe 4 * 2.5 SATA+6 * 2.5 NVMe |
RAID支持 | 支持 RAID 0/1/10/5/50/6/60 |
內(nèi)部網(wǎng)絡(luò) | 可選NPU全互聯(lián)機型,整機互聯(lián)帶寬392GB/s |
外部網(wǎng)絡(luò) | 8 * 200GE QSFP接口直出,RoCE協(xié)議 |
PCIe接口 | 最多支持3個PCIe 4.0擴展插槽 |
電源 | 4個熱插拔2.6kW電源模塊,支持2+2冗余 |
供電 | 200 ~ 240V AC 240V DC |
散熱方式 | 風冷 |
風扇 | 支持8個熱拔插風扇模組,支持N+1冗余 |
工作環(huán)境溫度 | 5℃~35℃(41℉~95℉) |
結(jié)構(gòu)尺寸 | 175mm(高) * 447mm(寬)* 790mm(深) |