光学関連光接続, AI
Marvell、光接続の共有メモリ装置「Photonic Fabric Memory Appliance」を発表―AI推論のKVキャッシュ律速を光で解消
Marvellは8月20日のHot Interconnectsで、光接続型の共有メモリ装置PFMAを公開した。最大32TBのDDR5と1TBのHBM3eを搭載し最大16台のサーバー/XPUをラック跨ぎで接続、モジュール当たり7.2Tbps、レイテンシ約230~300ns、光到達距離50m認定で、Llama-405Bのシミュレーションで同時会話数6倍を示した。
メモリプールをラック外に置く「光でのディスアグリゲーション」が実装段階に入り、AIデータセンター内の25~50m級短距離光リンク需要が拡大する。低損失・偏波・波長安定性の作り込みが要求され、当社の光損失測定・光スペクトル計測商材の新たな適用領域となる。
引用元：Converge Digest
