NVIDIA H100 GPU, TSMC N4 işleme, HBM3 bellek, PCIe Gen5 ve 700W TDP özelliklerine sahiptir

NVIDIA H100 Cihaz Özellikleri

NVIDIA’nın yeni nesil AI hızlandırıcısıyla ilgili bazı ayrıntılar, duyurudan sadece bir saat önce sızdırıldı.

Hopper mimarisine dayalı NVIDIA H100’ün TSMC N5’i kullanacağına dair söylentilerin aksine, NVIDIA bugün en yeni hızlandırıcılarının özel TSMC N4 işleme teknolojisini kullanacağını duyurdu. Transistör sayısıyla ilgili söylentiler de yanlıştı. Bu tek GPU, 80 milyar transistör ile üretilmiştir. (Düşük kalitey) Hopper GPU’nun (CUDA) kesin özelliklerinden henüz bahsetmediğimiz yonga setleri. Bunlar için lütfen NVIDIA’nın tam mimari teknik incelemesini yayınlaması için yaklaşık bir saat bekleyin.

NVIDIA H100 Teknik Özellikleri, Kaynak: VideoCardz

NVIDIA H100, A100’den 1,5 kat daha fazla olan 3 TB / s bant genişliğine sahip HBM3 belleğe sahiptir. Performans açısından NVIDIA, FP64, TF32 ve FP16’da 3 kat, FP8’de A100’den 6 kat daha yüksek bilgi işlem gücü talep ediyor.

Hızlandırıcı, PCIE Gen5 veya SXM form faktörünü kullanacaktır. İkincisi, A100’den tam olarak 300W daha fazla olan 700W’lık bir TDP’ye sahip olacak.

NVIDIA Grace SuperChips Spesifikasyonları, Kaynak: VideoCardz

NVIDIA ayrıca bugün iki ARM tabanlı Grace CPU platformunu piyasaya sürüyor. Biri 600 GB belleğe sahip Hopper GPU ile entegre bir Grace CPU’ya sahipken, diğeri toplam 144 çekirdekli iki Grace CPU’ya sahip. LPDDR5X bellek ile donatılacaktır. Her iki Grace SuperChips de 2023’ün ilk yarısında satışa sunulacak.

Söylentiler NVIDIA Veri Merkezi GPU Özellikleri
VideoCardz.com	Nvidia H100	Nvidia A100	Nvidia Tesla V100	Nvidia Tesla P100
resim
GPU	GH100	GA100	GV100	GP100
transistörler	80 b	54.2	21.1	15.3 B
kalıp ölçüsü	TBC	828 mm²	815 mm²	610 mm²
bina	Huber	Amper	Volta	paskal
üretim düğümü	TSMC N4	TSMC N7	12 nm FFN	16nm FinFET +
GPU kümeleri	TBC	108	80	56
koda çekirdekleri	TBC	6912	5120	3584
L2 önbellek	48 megabayt	40 MB	6 megabayt	4 megabayt
tensör çekirdeği	TBC	432	320	–
bellek veriyolu	5120 bit	5120 bit	4096 bit	4096 bit
Hafıza boyutu	80 GB HBM3	40/80 GB HBM2e	16/32 HBM2	16 GB HBM2
TDP	700 watt	250 W / 300 W / 400 W	250 W / 300 W / 450 W	250W / 300W
Kullanıcı arayüzü	SXM / PCIe	SXM / PCIe	SXM / PCIe	SXM / PCIe
lansman yılı	2022	2020	2017	2016