查看購物車
  • English
  • Japanese
  • Korean
封面
市場調查報告書
商品編碼
1858290

共封裝光元件 (CPO) 在人工智慧資料中心的應用：十年市場與技術預測

Co-Packaged Optics in the AI Data Center: A Ten-Year Market and Technology Forecast
出版日期: | 出版商: Communications Industry Researchers (CIR) | 英文 | 訂單完成後即時交付

價格
簡介目錄

共封裝光元件 (CPO) 透過將光介面放置在靠近電晶片的位置，縮短高速電路徑，從而消除頻寬和延遲瓶頸，並實現高密度、低功耗的光纖架構。這提高了每個加速器的總頻寬，並實現了低位元能耗。這與 CPO 目前所應用的人工智慧集群的經濟和技術需求相契合。 CPO 技術目前尚未成熟，本報告中包含的預測描述了不同的標準和產品場景及其對不斷發展的 CPO 市場的影響。

2020 年，CIR 率先發布了共封裝光元件 (CPO) 市場報告。我們現在認為，到 2026 年，CPO 將成為全球人工智慧資料中心的主導互連技術。本報告建構了 CPO 轉型路線圖，並指出了能夠創造商業價值的領域。本報告涵蓋的主題包括：

  • CPO 產品、技術與標準演進的未來方向
  • 針對 AI 資料中心管理人員的 CPO 過渡指南（包括目前正在試行實施 CPO 的案例研究和公司簡介）
  • 30 多家領先 CPO 公司的路線圖，以及對它們如何定位自身與 AI 的相關性並將 CPO 主要重新定義為 AI 平台的分析。此外，也回顧了最值得關注的 CPO 新創公司及其競爭優勢領域。
  • CPO 在機架內、機架間和 AI 資料中心連接的應用，以及由此產生的產品套件。

本 CIR 報告的主要目標是提供按應用程式、速度、技術、網路區段和資料中心類型分類的最新 CPO 預測。新的預測考慮了 AI 的興起對 CPO 技術及其市場動態的影響。 CPO 現在預計將為擴展多機架 AI 叢集提供一條切實可行的途徑。同時，包括人工智慧加速器供應商和系統整合商在內的主要人工智慧供應商正在設計CPO解決方案，並為2025-2026年的人工智慧資料中心部署做好準備。

目錄

摘要整理

  • E.1 市場環境及影響市場狀況
  • E.2 CPO的潛在優勢
  • E.3 阻礙CPO蓬勃發展的不確定因素
    • E.3.1 人工智慧需要CPO嗎？ CPO是否已為人工智慧做好準備？
  • E.4 人工智慧應用CPO市場技術/市場演變
    • E.4.1 冷卻技術探索
    • E.4.2 CPO測試設備：CPO市場出現前的銷售狀況
    • E.4.3 其他技術問題
  • E.5 CPO為何可能成功－至少目前是如此
  • E.6 CPO市場預測摘要（2026-2034）

第一章 引言

  • 本報告背景
  • 本報告目標和範圍
  • 本報告計劃

第二章：CPO：不斷發展的技術、組件與機會

  • 傳統人工智慧資料中心中的CPO
  • 面向下一代人工智慧資料的CPO中心
    • CPO 數據速率
    • 熱管理
    • 電氣介面和頻道損耗
    • 光介面
    • 整合策略、製造和 CPO
  • CPO 相關測試設備
  • 光引擎
  • CPO 光纖、連接器和耦合器
  • CPO 光纖解決方案
  • CPO 雷射器
    • 外部雷射與 ELSFP
    • 模組整合雷射器

第三章 CPO 標準及其影響

  • OIF 和共封裝光元件的出現
    • 框架 IA (2022)
    • OIF 標準 3.2T CPO 模組
    • 外部雷射微型可插拔模組ELSP IA (2023)
    • CEI-112G/CEI-224G 電氣接口
    • CPO 管理介面的 IA
    • 未來 CPO 類型的 IA
    • 遙測與管理
  • 中國 CPO 標準化
  • UCie 和 CPO
  • CPO 和超以太網
    • 超以太網
    • 先進光子學聯盟

第四章 CPO 市場及預測

  • CPO 市場成長與規模的考量因素
  • 有機 CPO 流量成長對 CPO 需求的影響
    • 視訊教會資料中心什麼：頻寬和延遲
    • 以資料中心規模劃分的 CPO 市場
  • CPO 和超大規模資料中心
    • 超大規模資料中心的演進
    • 2032 年 CPO 轉折點預測
    • CPO 在交換器中的滲透
    • CPO 在資料伺服器中的滲透
    • 光纖和資料中心：CPO 對機架設計的影響
    • CPO 產品定價
  • CPO 與傳統資料中心：展望
  • CPO 與邊緣資料中心
    • 邊緣 CPO
  • CPO 資料中心互連
    • CPO 在資料中心互連 (DCI) 中的作用
  • CPO 的非人工智慧應用
    • 高效能運算
    • CPO 對物聯網的影響
    • CPO 與感測器
    • 分散式運算系統：CPO 的應用

第五章 最終使用者視角、策略與指導：是否仍有挑戰需要克服？

  • 人工智慧誇大了CPO的重要性
  • 第一階段：通往CPO之路－NPO、LPO和 "真正的" CPO
  • 近封裝光學元件 (NPO)
    • 線性可插拔光學元件 (LPO)
  • 第二階段：重建CPO基礎設施：製程與組件的實際考量
    • 現成元件選項的可用性
    • CPO與銅與玻璃之爭
    • 冷卻、電源和永續性
    • ELSFP與CPO供應鏈
  • 第三階段：試點計畫、插拔測試和演示
    • 多供應商互通性測試
    • 超大規模資料中心內部測試
    • 廠商演示

第六章簡介：供應商與產業影響者

  • AMD（美國）
    • Enosemi 收購
  • Ayar Labs（美國）
    • 產品演進
    • Alchip Technologies 與台積電的合作
    • Quantifi 與 Photonics 的合作
    • 與 HPE 的合作
    • Ayar 的 AI 基礎設施
    • 資金和合作夥伴
  • 博通（美國）
    • 新興 CPO 產品線
    • Billy Switch
    • 博通的長期 CPO 策略
  • Ciena/Nubis （美國）
    • Ciena 長期進軍 CPO 市場的策略
  • 思科（美國）
  • 相干（美國）
    • CPO 產品演進
  • 康寧（美國）
  • 杜邦（美國）
  • 古河電機（日本）
  • Google（美國）
  • 恆通光電（中國）
  • 華為（中國）
    • 華為的 CPO 考量
  • IBM（美國）
    • IBM 2024-2025 年 CPO 相關創新
  • 英特爾（美國）
    • 首個雙向運算互連
    • CPO 和多波長整合光器件
    • 英特爾的未來CPO
  • 京瓷（日本）
  • Lightmatter（美國）
  • Lumentum（美國）
    • CPO相關活動
  • Marvell（美國）
    • CPO與Marvell XPU架構
    • CPO與Marvell交換機
    • 收購Celestial AI
  • Meta/Facebook（美國）
  • 微軟（美國）
  • Micas Networks（美國）
  • Molex（美國）
  • NVIDIA（美國）
    • 矽光子學：優勢與架構
    • NVIDIA交換器系列
    • NVIDIA CPO交換器的新興市場
  • POET Technologies（加拿大）
    • POET中介層
    • 與Semtech的光源合作Sivers Semiconductors
    • 近期與 Quantum Computing Inc. (QCI) 的合作
    • 面向人工智慧資料中心的 POET 產品
    • 製造工廠和海外子公司
  • Quantifi（紐西蘭）
  • Ranovus（加拿大）
    • ODIN 光學引擎及其版本
    • 與 AMD 的合作
    • 與 IBM 的合作
    • DARPA、Cerebras Systems 和 Ranovus
    • 與 Jabil 的合作
  • SABIC（沙烏地阿拉伯）
    • EXTEM 樹脂
    • ULTEM 樹脂
  • Senko Advanced Components（美國）
    • 收購 Cudoform
  • Skorpios Technologies（美國）
    • Skorpios技術晶片
    • 應用
  • 住友電工（日本）
    • 外部雷射器
    • 玻璃上的電子集成
    • 用於CPO的光纖陣列互連
  • TE Con​​nectivity（美國）
    • TE通往CPO之路
  • Teramount（以色列）
  • 第三方收發器供應商和經銷商，CPO的未來
  • CPO領域的新創公司、投資者和純粹參與者
    • CPO新創公司的未來產品/技術重點

勞倫斯談Gasman和CIR

本報告使用的首字母縮寫和簡稱

簡介目錄

Co-packaged optics (CPO) addresses bandwidth and latency bottlenecks by moving optical interfaces close to the electrical die, shortening high-speed electrical paths and enabling denser, low-power optical fabrics. This results in higher aggregate bandwidth per accelerator and low energy/bit - thereby aligning with the economics and engineering needs of AI clusters, which is where CPO is currently being positioned . CPO technology is still immature at the present time and the forecasts contained in this report paint different standards and product scenarios and how they will impact the evolving CPO market

In 2020 CIR was the first analysis firm to publish a co-packaged optics (CPO) market report. We now think that by 2026, CPO will become a major interconnect technology in AI data centers throughout the world. In this report, we build a roadmap for the transition to CPO and show where business value will be created. Topics covered by this report include:

  • How CPO products, technology and standards will evolve in the future
  • CPO transition guidance for AI data center managers including case studies and profiles of CPO current trials
  • Roadmaps of 30+ key CPO firms and how they identify their roadmaps with AI and rebrand CPO as primarily an AI platform. Also, a review of the most exciting CPO startups and where these firms see their competitive advantage
  • CPO for on-rack, rack-to-rack and AI data center interconnection and the products that these applications inspire

A primary goal for this CIR report is to update CPO forecasts with breakouts by application, speed and technology, network segment and type of data center. Our new projections take into consideration how the rise of AI has impacted CPO technology and its market dynamics. CPO now promises a practical path to scaling multi-rack AI clusters. Meanwhile, major AI vendors, such as AI-accelerator suppliers and system integrators, are designing CPO solutions and positioning them for 2025-2026 deployments in AI data centers.

Table of Contents

Executive Summary

  • E.1 Market Environment and Situations Influencing the Market
  • E.2 Potential CPO Benefits
  • E.3 Uncertainties Preventing a CPO Boom
    • E.3.1 Does AI Need CPO and is CPO Ready for AI?
  • E.4 Technical/Market Evolution of the CPO Market for AI Applications
    • E.4.1 Adventures in Cooling
    • E.4.2 CPO Test Equipment: Sales Prior to the CPO Market
    • E.4.3 Other Technical Issues
  • E.5 Why CPO is Likely to Succeed - At Least for Now
  • E.6 Summary of CPO Market Forecasts 2026-2034

Chapter 1: Introduction

  • 1.1 Background to this Report
  • 1.2 Goals and Scope of this Report
  • 1.3 Plan of this Report

Chapter 2: Co-packaged Optics: A Technology, Components and Business Opportunity Evolving

  • 2.1 CPO in Traditional AI Data Centers
  • 2.2 CPO for Next-Gen AI Data Centers
    • 2.2.1 CPO Data Rates
    • 2.2.2 Thermal Management
    • 2.2.3 Electrical Interfaces and Channel Loss
    • 2.2.4 Optical Interfaces
    • 2.2.5 Integration Strategies, Manufacturing and CPO
  • 2.3 CPO-related Test Equipment
  • 2.4 Optical Engines
    • 2.4.1 The Broadcom and NVIDIA Approaches
  • 2.5 Fiber, Connector and Couplers for CPO
    • 2.5.1 Thoughts from Broadcom and NVIDIA
    • 2.5.2 Vertical Coupling
  • 2.6 Fiber Solutions for CPO
    • 2.6.1 Multi-core fibers and Fiber Pitch Reduction
    • 2.6.2 Reducing the Pitch
  • 2.7 Lasers for CPO
    • 2.7.1 External Lasers and ELSFP
    • 2.7.2 Module-integrated lasers

Chapter 3: CPO Standards and Implications

  • 3.1 OIF and the Emergence of Co-Packaged Optics
    • 3.1.1 Framework IA (2022)
    • 3.1.2 OIF standards 3.2T CPO Module
    • 3.1.3 External Laser Small Form Pluggable ELSP IA (2023)
    • 3.1.4 CEI-112G / CEI-224G Electrical Interfaces
    • 3.1.5 IAs for CPO Management Interfaces
    • 3.1.6 Future IAs of the CPO Kind
    • 3.1.7 Telemetry and Management
  • 3.2 CPO Standardization in China
  • 3.3 UCIe and CPO
  • 3.4 CPO and Ultra Ethernet
    • 3.4.1 Ultra Ethernet
    • 3.4.2 Advanced Photonics Coalition

Chapter 4: CPO Markets and Forecasts

  • 4.1 Thoughts on the Growth and Size of the CPO Market
  • 4.2 Organic Traffic Growth for CPO Impact on CPO Demand
    • 4.2.1 What Video Taught Data Centers: Bandwidth and Latency
    • 4.2.2 CPO Market by Size of Data Center
  • 4.3 CPO and Hyperscale Data Centers
    • 4.3.1 Hyperscale Data Center Evolution
    • 4.3.2 A CPO Inflection Point by 2032: A Forecast
    • 4.3.3 Penetration of CPO into Switches
    • 4.3.4 Penetration of CPO into Data Servers
    • 4.3.5 Impact on Fiber and Data Center Rack Design
    • 4.3.6 Pricing of CPO Products
  • 4.4 CPO and Conventional Data Centers: Prophesies
  • 4.5 CPO and Edge Data Centers
    • 4.5.1 CPO at the Edge
  • 4.6 CPO Data Center Interconnection
    • 4.6.1 Role of CPO in DCI
  • 4.7 Non-AI Applications for CPO
    • 4.7.1 High-Performance Computing
    • 4.7.2 CPO's Impact on IoT
    • 4.7.3 CPO and Sensors
    • 4.7.4 Disaggregated Compute Systems: Applications for CPO

Chapter 5: End-user Perspectives, Strategies and Guidance: Problems Still to Overcome ?

  • 5.1 AI Exaggerates the Importance of CPO!
  • 5.2 Stage One: The Path to CPO - NPO, LPO and "Real" CPO
  • 5.3 NPO (Near-packaged Optics)
    • 5.3.1 LPO (Linear Pluggable Optics)
  • 5.4 Stage Two: Rebuilding the Infrastructure for CPO: Practical Considerations for Processes and Components
    • 5.4.1 Availability of Commercial Component Choices
    • 5.4.2 CPO and the Old Copper vs. Glass Debate
    • 5.4.3 Cooling, Power and Sustainability
    • 5.4.4 ELSFP and the CPO Supply Chain
  • 5.5 Stage Three: Pilot Project, Plugfests and Demos
    • 5.5.1 Multivendor Plugfests
    • 5.5.2 Hyperscaler Internal Trials
    • 5.5.3 Vendor Demos

Chapter 6: Profiles: Suppliers and Influencers

  • 6.1 AMD (United States)
    • 6.1.1 Acquisition of Enosemi
  • 6.2 Ayar Labs (United States)
    • 6.2.1 Product Evolution
    • 6.2.2 Alchip Technologies/TSMC alliance
    • 6.2.3 Partnership with Quantifi Photonics
    • 6.2.4 Partnership with HPE
    • 6.2.5 Ayar the AI Infrastructure
    • 6.2.6 Financing and Collaborators
  • 6.3 Broadcom (United States)
    • 6.3.1 Emerging CPO Product Range
    • 6.3.2 The Bailly Switch
    • 6.3.3 Long-term CPO Strategy at Broadcom
  • 6.4 Ciena/Nubis (United States)
    • 6.4.1 Ciena's Long-term Participation in the CPO Market
  • 6.5 Cisco (United States)
  • 6.6 Coherent (United States)
    • 6.6.1 CPO Product Evolution
  • 6.7 Corning (United States)
  • 6.8 DuPont (United States)
  • 6.9 Furukawa Electric (Japan)
  • 6.10 Google (United States)
  • 6.11 Hengtong Optic-Electric (China)
  • 6.12 Huawei (China)
    • 6.12.1 Huawei Thinking on CPO
  • 6.13 IBM (United States)
    • 6.13.1 IBM CPO-related Innovations in 2024-2025
  • 6.14 Intel (United States)
    • 6.14.1 First Bi-Directional Compute Interconnect
    • 6.14.2 CPO and Multiwavelength Integrated Optics
    • 6.14.3 The Future of CPO at Intel
  • 6.15 Kyocera (Japan)
  • 6.16 Lightmatter (United States)
  • 6.17 Lumentum (United States)
    • 6.17.1 CPO Related Activity
  • 6.18 Marvell (United States)
    • 6.18.1 CPO and the Marvell XPU Architecture
    • 6.18.2 CPO and Marvell Switches
    • 6.18.3 Acquisition of Celestial AI
  • 6.19 Meta/Facebook (United States)
  • 6.20 Microsoft (United States)
  • 6.21 Micas Networks (United States)
  • 6.22 Molex (United States)
  • 6.23 NVIDIA (United States)
    • 6.23.1 Silicon Photonics: Strengths and Architectures
    • 6.23.2 The NVIDIA Switch Family
    • 6.23.3 Emerging Markets for NVIDIA CPO Switches
  • 6.24 POET Technologies (Canada)
    • 6.24.1 The POET Interposer
    • 6.24.2 Light Sources and Collaboration with Semtech and Sivers Semiconductors
    • 6.24.3 Recent Alliance with Quantum Computing Inc. (QCI)
    • 6.24.4 POET Products for AI Data Centers
    • 6.24.5 Manufacturing and Foreign Subsidiaries
  • 6.25 Quantifi (New Zealand)
  • 6.26 Ranovus (Canada)
    • 6.26.1 ODIN Optical Engine and its Versions
    • 6.26.2 Collaborations with AMD
    • 6.26.3 Collaborations with IBM
    • 6.26.4 DARPA, Cerebras Systems and Ranovus
    • 6.26.5 Alliance with Jabil
  • 6.27 SABIC (Saudi Arabia)
    • 6.27.1 EXTEM Resin
    • 6.27.2 ULTEM Resin
  • 6.28 Senko Advanced Components (United States)
    • 6.28.1 Acquisition of Cudoform
  • 6.29 Skorpios Technologies (United States)
    • 6.29.1 The Skorpios Technologies Chip
    • 6.29.2 Applications
  • 6.30 Sumitomo Electric (Japan)
    • 6.30.1 External Lasers
    • 6.30.2 Electronic Integration on Glass
    • 6.30.3 Fiber-array Interconnects for CPO
  • 6.31 TE Connectivity (United States)
    • 6.31.1 The TE Path to CPO
  • 6.32 Teramount (Israel)
  • 6.33 Third-party Transceiver Suppliers and Distributors and the Future of CPO
  • 6.34 Startups, Investors and Pure Players in CPO
    • 6.34.1 Product/Technology Focus of Future CPO Start-ups

About Lawrence Gasman and CIR

Acronyms and Abbreviations Used in this Report

List of Exhibits

  • Exhibit E-1: Summary of CPO Markets by Type of Data Center ($ Millions)
  • Exhibit 2-1: AI Data Center Switches Today
  • Exhibit 2-2: Thermal Management for Future CPO: Technology and Opportunities
  • Exhibit 2-3: Current Use of Silicon Photonics for CPO
  • Exhibit 2-4: CPO Testing Functionality
  • Exhibit 2-5: ELSFP: Possible Project Range
  • Exhibit 3-1: Future IAs of the CPO Kind
  • Exhibit 4-1: Types of AI Data Centers in 2025
  • Exhibit 4-2: CPO Markets by Product Type in Hyperscale AI Data Center
  • Exhibit 4-3: Switches in Hyperscale Network Racks
  • Exhibit 4-4: How CPO Changes the Physical Rack Layout
  • Exhibit 4-5: CPO Markets by Product Type in Non-Hyperscale AI Data Center
  • Exhibit 5-1 NPO vs. LPO
  • Exhibit 6-1: CPO Start-Ups