siennaxu’s blog

ここで通信分野と関連する記事を紹介していきます! よろしくお願いいたします。

Infiniband NDR OSFPソリューション

NVIDIA Quantum™-2 InfiniBandプラットフォームは、超高帯域幅、超低遅延、簡素化された運用と保守を提供し、人工知能と大規模クラウドデータセンターのための最高の選択肢として登場しました。Quantum™-2は、ポート速度が2倍、スイッチのポート密度が3倍、スイッチのシステム容量が5倍、スイッチのAIアクセラレーション能力が32倍となり、従来製品と比べて大きく飛躍しています。Dragonfly+トポロジーを活用することで、Quantum™-2ネットワークは、わずか3ホップ内で100万を超えるノードに対して400Gb/秒という驚異的な接続容量を達成することができ、AI開発者や研究者にグローバルな課題に取り組むための比類ないネットワーク性能を提供します。

NVIDIA Quantum™-2 InfiniBandスイッチ

NVIDIA Quantum™-2 InfiniBandスイッチは、MQM9790-NS2FMQM9700-NS2Fの2つの主要モデルで構成されます。これらの主な違いは管理方法にあり、NVIDIA QM9700は外部管理サポートインターフェースを備えています。両モデルとも、ポートの種類と速度は同じである。NVIDIA QM9700シリーズスイッチは、64個の400Gポートまたは128個の200Gポートを収容する柔軟なコンフィギュレーションをサポートしています。特に、NVIDIA QM9700は、32*OSFPポートのシングルパネルを備えた1U設計を採用しており、各OSFPポートは2X400Gの速度をサポートしています。

Quantum™-2は第3世代のNVIDIA SHARPテクノロジーを搭載しており、さまざまな規模のネットワークデータを集約するためのほぼ無限のスケーラビリティを保証します。第3世代のSHARPテクノロジーは、前世代の32倍という驚くべきAIアクセラレーション能力を備え、複数のテナントと並列アプリケーションをサポートし、最適なパフォーマンスを保証します。MPI_Alltoallアクセラレーション、MPIタグマッチングハードウェアエンジン、高度な輻輳制御、ダイナミックルーティング、自己回復型ネットワークなどの主要機能は、ハイパフォーマンスコンピューティング(HPC)やAIクラスタの大幅な強化に貢献します。

ConnectX®-7 InfiniBandカード

NVIDIA ConnectX®-7 InfiniBandネットワークカード (HCA) ASICは、PCIe 5.0またはPCIe 4.0ホストインターフェースの16レーンをサポートし、400Gb/秒という驚異的なデータスループットを実現します。1レーンあたり100Gb/秒の先進的なSerDesテクノロジーを活用した400Gb/秒のInfiniBandは、スイッチとHCAの両ポートのOSFPコネクタで実現されます。スイッチのOSFPコネクタは、2つの400Gb/秒InfiniBandポートまたは200Gb/秒InfiniBandポートをサポートし、ネットワークカードHCAは1つの400Gb/秒InfiniBandポートを備えています。製品ラインアップには、アクティブおよびパッシブ・カッパー・ケーブル、トランシーバー、MPOファイバ・ケーブルが含まれます。特に、どちらもOSFPパッケージを採用しているにもかかわらず、物理的な寸法に違いがあり、スイッチ側のOSFPモジュールには冷却用のヒートフィンが装備されています。

NDR光接続ソリューション

NDR光接続の課題に対応するため、NDRスイッチポートは、1インタフェースあたり8チャネルのOSFPを利用し、それぞれ100Gb/秒のSerDesを採用しています。これにより、3つの主流接続速度オプションが可能になります: 800Gから800G、800Gから2X400G、800Gから4X200Gです。さらに、各チャンネルは100Gb/秒から50Gb/秒へのダウングレードをサポートし、旧世代のHDRバイスとの相互運用性を促進します。400G NDRシリーズのケーブルとトランシーバーは、AIコンピューティングシステムを加速させる最大500メートルのデータセンター長を中心に、ネットワークスイッチとアダプターシステムを構成するための多様な製品選択肢を提供する。パッシブ銅ケーブル(DAC)、アクティブ光ケーブル(AOC)、ジャンパー付き光モジュールなど、さまざまなコネクタータイプは、さまざまな伝送距離と帯域幅の要件に対応し、高帯域幅のAIおよびアクセラレーテッド・コンピューティング・アプリケーション向けに低遅延と極めて低いビットエラーレートを保証します。

OSFP-SR8-800G InfiniBandトランシーバー技術の概要

FS OSFP-SR8-800Gは、100G-PAM4変調を採用した2x400Gb/sデュアルポート・マルチモード・パラレル8チャネル・トランシーバとして傑出しています。この革新的な技術は、2つの4チャネル・マルチモードMPO-12/APCファイバ・ジャンパーを利用し、最大伝送距離を50メートルに延長します。このデュアルポート2xSR4トランシーバーの重要な特徴は、2つの内部トランシーバーエンジンを内蔵していることで、32*OSFPポートを備えたQuantum™-2スイッチで64個の400Gb/秒ポートを実現することができます。

モジュール導入シナリオ

OSFP-SR8-800Gトランシーバーは、NDR InfiniBand Quantum™-2スイッチエコシステムで複数の目的を果たし、他のスイッチまたはConnectX®-7アダプタ/BlueField-3 DPUに接続します。

    • 1. NDR InfiniBand Quantum™-2スイッチ - NDR InfiniBand Quantum™-2スイッチ

OSFP-SR8-800GトランシーバーとMPO-12/UPCファイバジャンパーを利用して、OSFPポートを備えたNVIDIA QM9700/QM9790スイッチは、最大伝送距離50m内で800G(2x400G)の速度で相互接続します。

    • 2. NDR InfiniBand Quantum™-2スイッチ - 400G ConnectX®-7 (OSFP/QSFP/QSFI9112) アダプタ

800Gから2x400Gリンク:デュアルポートOSFP-SR8-800Gトランシーバーは、ダイレクトアタッチマルチモードMPO-12/UPCファイバジャンパーにより、最大2台の400G ConnectX®-7アダプタおよび/またはDPUをサポートします。OSFP-400G-SR4光モジュールは、ConnectX®-7ネットワークカード側のOSFPポートに採用されています。

    • 3. NDR InfiniBand Quantum™-2スイッチ - 200G ConnectX®-7 (OSFP/QSFP112)アダプタ/BlueField-3 DPU (QSFP112)

2つの1:2分岐MPOファイバジャンパーと組み合わせた場合、デュアルポートOSFP-SR8-800Gトランシーバーは、最大4つの200G ConnectX®-7アダプタおよび/またはDPUをサポートします。前のシナリオと同様に、OSFP-400G-SR4光モジュールはOSFPポートに使用され、Q112-400G-SR4光モジュールはQSFP112ポートに使用されます。

OSFP-400G-SR4とQ112-400G-SR4の両モジュールでは、400Gトランシーバー内の2つのチャンネルのみがアクティブになり、200Gレートのリンクが確立されます。

  • 4. NDR InfiniBand Quantum™-2スイッチ - DGX H100 GPUシステム

8個の「Hopper」H100 GPUを搭載したDGX-H100 GPUシステムでは、各デュアルポートOSFP-SR8-800Gトランシーバーが、DGXからQuantum™-2スイッチへ2本の400G ConnectX®-7 リンクを確立します。この合理的なアプローチは、DGX A100のセットアップと比較して、冗長性、複雑性、ConnectX®-7カードとトランシーバーの数を削減します。また、DGX-H100は、InfiniBandおよび/またはEthernetを使用したストレージI/O用に、最大4枚のConnectX®-7および/または2台のBlueField-3 DPUを含む追加ネットワークオプションもサポートしており、さまざまなネットワーク構成に対応できます。

InfiniBand OSFP-400G-SR4トランシーバー

光トランシーバー技術の紹介

FS OSFP-400G-SR4は、100G-PAM4変調を採用した400Gb/sのシングルポートOSFPパッケージSR4マルチモード・パラレルトランシーバです。4チャンネル・マルチモードMPO-12/APCファイバ・ジャンパー1本と組み合わせると、最大伝送距離50mを達成します。1:2分岐MPOファイバー・ジャンパーと併用すると、分岐側の2チャンネルのみがアクティブになります。このユニークな構成により、自動的に200Gの速度が得られ、消費電力を効果的に削減することができます。

モジュール使用概要

OSFP-400G-SR4トランシーバーは、400Gb/秒のConnectX®-7/OSFP PCIeバス・ネットワーク・カードで重要な役割を果たし、Quantum™-2 InfiniBandスイッチ内のシングル800Gb/秒デュアルポート2x400G OSFPトランシーバー(OSFP-SR8-800G)に接続します。

OSFP-400G-SR4トランシーバーは、接続に使用されるファイバジャンパーのタイプに応じて、400Gb/sと200Gb/sの2つの速度をサポートします:

  • 400Gb/秒モード:MPO-12/APCファイバジャンパーとペアリングするこのモードでは、反対側のOSFP-SR8-800Gトランシーバーを2台のOSFP-400G-SR4トランシーバーとペアリングし、それぞれを200Gb/秒ConnectX®-7/OSFPアダプタ・カードに接続する必要があります。

  • 200Gb/秒モード:OSFP-400G-SR4は、1:2分岐MPOファイバジャンパーを利用し、200Gb/秒(NIDR200)の速度で動作し、2チャンネルのみがアクティブになるため、自動的に消費電力を削減します。このモードでは、対向端のOSFP-SR8-800Gトランシーバーを4台のOSFP-400G-SR4トランシーバーとペアリングし、それぞれを200Gb/秒のConnectX®-7/OSFPアダプタカードに接続することができます。

    • 1. NDR InfiniBand Quantum™-2スイッチ - 2 x 400G ConnectX®-7 (OSFP)アダプタ

デュアルポートOSFP-SR8-800Gトランシーバーは、2つの直接接続マルチモードMPO-12/APCファイバジャンパーと組み合わせると、最大2台のConnectX®-7/OSFPアダプタをサポートできます。各アダプタはOSFP-400G-SR4トランシーバーを採用し、最大伝送距離は50メートルです。

  • 2. NDR InfiniBand Quantum™-2 スイッチ - 4x200G ConnectX®-7 (OSFP)アダプタ

同様に、デュアルポートOSFP-SR8-800Gトランシーバーは、2つの直接接続マルチモードMPO-12/APCファイバジャンパー(M4MPOA12FB)と組み合わせて、最大2台のConnectX®-7/OSFPアダプターをサポートできます。各アダプタはOSFP-400G-SR4トランシーバーを使用し、最大伝送距離は50メートルです。ConnectX®-7/OSFPアダプタは、OSFP-400G-SR4モジュールを2チャンネルだけアクティブにして動作し、200Gレートのリンクを確立し、自動的に消費電力を削減します。

MFA7U10-H030 InfiniBandケーブル

アクティブ光ケーブル(AOC)技術概要

FS NVIDIA InfiniBand MFA7U10-H030互換OSFP 400G/QSFP56 2x200Gブレークアウトケーブルは、OSFPを2x QSFP56に変換するアクティブ光スプリッタケーブル(AOC)で、400Gb/sの速度を2x 200Gb/sに変換します。このケーブルは、1つのOSFP端から発信される8つのマルチモードファイバ(MMF)ペアからのデータ信号の各ペアを、各QSFP56マルチポート端の4つのペアに接続します。

AOCの使用状況に関する洞察

MFA7U10-H030は、OSFPポートを持つNDRスイッチを2つのHDRスイッチまたはHCA QSFP56ポートに接続する目的で使用します。

  • NDR InfiniBand Quantum™-2スイッチ - 2x HDR InfiniBand Quantumスイッチ

  • NDR InfiniBand Quantum™-2スイッチ - 2 x 200G QSFP56 Connect®-6アダプタ/BlueField-2 DPU

MTP光ファイバパッチケーブル

このMTPケーブルは8芯パッシブマルチモードファイバパッチケーブルで、各方向に4ファイバずつ、計8本のファイバを備えています。MTPコネクタは、8度研磨(APC)タイプで、光信号の反射を最小限に抑え、最適なシグナルインテグリティを確保します。このケーブルは、2台のスイッチを相互接続したり、スイッチを2台のネットワーク・アダプタに接続するために設計されており、プラガブル光ファイバ400GbE/NDRトランシーバーをサポートしています。

このMTPケーブルは、2台のスイッチを接続したり、スイッチと2台のネットワークアダプタ間の接続を確立するために作られています。このケーブルは汎用性が高く、プラガブル光ファイバ400GbE/NDRトランシーバーと組み合わせることができます。例えば、スイッチ側のInfiniBandおよびイーサネット・システム用に設計されたOSFP 800G 2xSR4デュアルポート・トランシーバーとシームレスに統合できます。さらに、ConnectX®-7ネットワーク・アダプタやBlueField-3 DPUで使用する場合は、OSFP-400G-SR4またはQSFP112-400G-SR4トランシーバーを補完します。

FSテストの紹介

包括的なテストには、ハードウェア互換性テスト(プラグ/アンプラグ、ポート再起動、電源再起動)、ソフトウェア互換性テスト(接続性、シャットダウン/シャットダウンなし、パラメーターテスト)、パフォーマンステスト(DDM、ビットエラーレート、安定性テスト)が含まれます。リンクは1週間フルスピードで運用され、パケットロス、エラー、CRCエラー、中断は発生していません。テストされたすべてのパラメータは、関連する業界標準に準拠しています。

まとめ

FSは、高性能InfiniBandネットワークの構築における深い理解と広範な実装経験により、多様なアプリケーションシナリオに合わせたスイッチ、インテリジェントネットワークカード、AOC/DAC/光モジュールの最適な組み合わせを提供します。当社の製品とソリューションは、データセンター、高性能コンピューティング、エッジコンピューティング、人工知能、その他のアプリケーションに多大な利点と価値をもたらし、低コストと卓越したパフォーマンスを組み合わせてビジネス加速機能を強化します。