---

■製品仕様　

---

 
■大容量で高速なメモリによる高いパフォーマンス
NVIDIA HopperアーキテクチャをベースとするNVIDIA H200は、4.8TB/sで141GBのHBM3eメモリを提供する初のGPUです。これは、NVIDIA H100 TensorコアGPUの約2倍の容量で、メモリ帯域幅は1.4倍です。H200の大容量かつ高速なメモリは、生成AIとLLMを加速し、エネルギー効率を向上させ、総所有コストを低減し、HPC ワークロードのための科学コンピューティングを前進させます。

■高性能なLLM推論でインサイトを引き出す
進化し続けるAIの世界では、企業はさまざまな推論のニーズに対応するためにLLMを利用しています。AI推論アクセラレータは、大規模なユーザーベース向けにデプロイする場合、最小のTCOで最高のスループットを実現する必要があります。 H200は、Llama2のような LLMを扱う場合、H100 GPUと比較して推論速度を最大2倍向上します。

■ハイパフォーマンスコンピューティングを強化
メモリ帯域幅は、より高速なデータ転送を実現することで、ボトルネックとなる複雑な処理を削減するため、ハイパフォーマンスコンピューティングアプリケーションにとって極めて重要です。シミュレーション、科学研究、人工知能のようなメモリを大量に使用するHPCアプリケーションでは、 H200の高いメモリ帯域幅が、データへのアクセスと操作を効率化し、CPUと比較して110倍の早さで結果を得ることができます。

■エネルギーとTCOの削減
H200の導入により、エネルギー効率とTCOが新たなレベルに到達します。この最先端のテクノロジは、すべてH100 TensorコアGPUと同じ電力プロファイル内で、かつてないパフォーマンスを提供します。AIファクトリーとスーパーコンピューティングシステムは、高速なだけでなく、環境にも優しく、AIと科学のコミュニティを推進する経済的優位性を提供します。

■エンタープライズ AI への対応は？
NVIDIA H200 Tensor Core GPUには、NVIDIA AI Enterpriseソフトウェアスイートのエンタープライズサポートを含む5年間のソフトウェアサブスクリプションが付属しており、非常に優れた性能によってAI活用を簡素化します。これにより、企業や組織は、AIチャットボット、レコメンデーションエンジン、ビジョンAIなど、H200で高速化するAIワークフローを構築するために必要なAIフレームワークおよびツールが活用できるようになります。

・NVIDIA AI Enterprise詳細はこちら
 

アーキテクチャ	Hopper
GPUメモリー	141GB
メモリー帯域	4.8TB/s
エラー修正コード(ECC)	対応
FP64	34TFLOPS
FP64 Tensor Core	67TFLOPS
FP32	67TFLOPS
TF32 Tensor Core	989TFOLPS*
BFLOAT16 Tensor core	1979TFLOPS*
FP16 Tensor Core	1979TFLOPS*
FP8 Tensor Core	3958TFLOPS*
INT8 Tensor Core	3958TFLOPS*
NVIDIA NVLINK	対応
デコーダー	7xNVDEC  7xJPEG
インターコネクト	PCIe5.0：128GB/s  NVLink：900GB/s
消費電力(TDP)	最大600W
冷却機構	パッシブ
フォームファクタ	PCIe  Dual Slot
マルチインスタンスGPU(MIG)	16.5GBのMIGが最大7個
付属ライセンス	NVIDIA AI Enterprise 5年Subscriptionライセンスが付属  ※NVIDIA出荷時から5年
同梱物	保証書　（補助電源ケーブルは付属しません）
保証	3年間

※仕様などは予告なしに変更されることがあります。
※NVLINK接続する場合はRTX用のNVLINKが3個必要です。
*sparsity有効時

詳細な仕様についてはメーカーサイトにてご確認ください。
国内正規代理店：菱洋エレクトロ株式会社取扱い品。

初期不良や故障に関しては国内正規輸入代理店：菱洋エレクトロ株式会社にご連絡下さい。
お問合せページ
https://www.ryoyo.co.jp/contact/form-nvidia-support/