NVIDIA、空きのクラウドGPU利用権を売り買いできる「DGX Cloud Lepton」。ソフトバンクも参加

NVIDIAのDGX H100、このDGXをクラウドベースで提供するのがDGX Cloud(2024年のGTC24で撮影)

　NVIDIAは、5月20日より展示がスタートする世界最大級のコンピュータ見本市COMPUTEX TAIPEI 2025に出展し、最新製品などを顧客などに説明している。イベントのスタートに先立って、5月19日にはNVIDIA CEO ジェンスン・フアン氏が基調講演を行ない、新製品を紹介。

　この中で、GPU製品をクラウド経由で提供しているサービスプロバイダーがその利用権をAI開発者や企業などに販売できる市場「DGX Cloud Lepton」のサービスを、開発者向けにアーリーアクセスプログラムを提供していくことを明らかにした。このプログラムには日本のソフトバンクも参加予定だ。

GPUの利用率に空きがある場合、世界中のAI開発者に貸し出すことができる仕組みになるDGX Cloud Lepton

B200を搭載したDGXの内部構造(2024年のGTC24で撮影)

　世界的に生成AIの普及が爆発的に進んだことで、世界規模でGPUへのニーズが爆発して、GPUの奪い合いというべき状況が発生している。たとえば、クラウドサービスプロバイダー(以下CSP)では、GPUの供給が追い付かず、新しいGPUリソースを提供すると右から左へと売れていくという状況が続いている。また、自社のデータセンターにGPUを導入したい大企業も、納期までの時間が長く、少しでも早くGPUを入手するために、国家レベルで取り組むことが増えているような状況だ。

　そうした中で、NVIDIAが発表したのがDGX Cloud Leptonだ。DGX Cloudというのは、データセンター向けサーバー「DGX」をクラウド経由で提供するサービス。CSPや通信事業者などが自社のデータセンターにDGXをインストールして、NVIDIAが提供するソフトウェアとセットで仮想的に顧客に提供する仕組みになっている。

　従来このDGX Cloudは、CSPなどが自社のサービスとして提供するものだったが、世界的なGPUの逼迫を受けて、通常契約しているCSPではGPUの利用枠がいっぱいで契約できないなどの状況が発生している。

　そこでDGX Cloud Leptonは、英語で言うとマーケットプレイス(日本では市場)として、世界中のCSPや通信事業者などが提供し、現在使われていないGPUリソースを利用することができる。

　AI開発者はDGX Cloud Leptonのソフトウェアを利用して、現在利用可能なGPUを見つけて、契約して利用するなどが可能。CSP側は、GPUに空きがあるときには貸し出して利用率を上げることで初期投資の回収を早めることができるし、AI開発者の側はGPUのリソースを確実にゲットできることがメリットになる。

　NVIDIAによれば、CoreWeave、Crusoe、Firmus、Foxconn、GMI Cloud、Lambda、Nscale、ソフトバンク、Yotta Data ServicesなどがこのDGX Cloud Leptonに参加する予定だということだ。