Celestial AI利用光子技术制造HBM3 存储结构

我们似乎并不缺乏正在开发的硅光子技术。例如，Lightmatter 正在寻求使用其 Passage 光学内插器将需要带宽的芯片（例如交换机 ASIC）拼接在一起。 与此同时，Ayar Labs 正在寻求使用其 TeraPhy I/O 小芯片来解决封装外光学问题。另外每隔几个月，就会有另一家初创公司出现，承诺在更长的距离上提供大带宽，同时使用比铜连接更少的功率。

Celestial AI是进入这一领域的最新竞争者，在经历了一年多的沉寂后，它又重新崛起，手上又获得了 1 亿美元的资金，他们声称这是一种新型的硅光子互连，涵盖了从芯片到芯片的整个领域。 芯片、封装到封装以及节点到节点的连接。

总部位于加利福尼亚州圣克拉拉，并在加利福尼亚州奥兰治县、多伦多和印度海得拉巴设有办事处，Celestial AI 是 Photonic Fabric™ 的创造者。这是一种用于计算和内存的光学互连技术平台。 Photonic Fabric 为光学可扩展、分解的数据中心计算和内存提供基础技术，通过可持续和盈利的商业模式释放人工智能的进步。 Celestial AI 的 Photonic Fabric 技术平台提供的光学连接性能水平比现有技术产品先进十年。

Celestial AI正在构建一个强大的光子结构生态系统，由人工智能计算、内存供应商、超大规模云服务供应商组成。 Celestial AI 利用 Photonic Fabric 作为其 Orion™ AI 加速器的关键技术。 多芯片 Orion Hercules-GT™ 服务器旨在通过光学互连的高容量 HBM 内存 (O-HBM) 提供计算和内存的独立可扩展性。

它赢得一些重量级投资者的青睐，包括 IAG Capital Partners、Koch Disruptive Technologies (KDT) 和淡马锡的 Xora Innovation 基金。 该公司还吸引了 Broadcom 的兴趣，Broadcom 正在帮助开发基于其设计的原型，其产品交付给客户大约需要 18 个月。

当 Celestial去年年初首次出现时，该公司专注于构建名为 Orion 的人工智能加速器，该加速器将采用光学互连技术。 从那时起，该公司的重点已转向向芯片制造商授权其光子结构。celestial Photonic Fabric 基于硅光子学和先进 CMOS 技术的结合，与 Broadcom 合作设计，采用台积电的 4 纳米和 5 纳米工艺技术。

这其中最先进的互连形式涉及在光学中介层上堆叠第三方 ASIC 或 SoC，或使用该公司的光学多芯片互连桥 (OMIB) 封装技术在芯片之间传输数据。 这听起来很像 Lightmatter 在 Passage 上所做的事情，但其负责人Lazovsky坚持认为 Celestial 的技术效率要高出几个数量级，并且可以轻松支持数百瓦的热量。

对于初始设计，Celestial的 Photonic Fabric 使用 56 Gb/秒 SerDes。 该公司表示，每个节点有四个端口，每个端口有四个通道，每平方毫米可以达到约 1.8 Tb/秒。 Lazovsky 声称：“如果您想互连到四元组（一个模块中的四个 HBM 堆栈），我们可以轻松匹配完整的 HBM3 带宽。” 对于其第二代光子结构，Celestial正在转向 112 Gb/秒 SerDes，并将通道数量从 4 个增加到 8 个，有效地将带宽增加四倍，达到每平方毫米 7.2 Tb/秒。

Lazovsky 和Nextplatform说，该小芯片架构能够提供更高的带宽，但仍然受到约 14.4 Tb/秒的 UCIe 接口的瓶颈。 我们会注意到，UCIe 在准备好进入黄金时段之前还有很长的路要走，但听起来小芯片也可以与芯片制造商的专有结构一起使用。Celestial 声称，如果正确实施，其 Photonic Fabric 可以实现足够的带宽，不仅可以远距离支持 HBM3，而且最终可以在多个加速器之间实现内存池（memory pooling0。“通过构建光学互连的 HBM 模块，它改变了游戏规则，”Lazovsky 说。 “如果不再需要随内存一起扩展计算，那么相同内存容量的成本可能会降低 20%。”

因此，也许这就是杀手级应用程序，它不仅将使光学互连无处不在，而且还将可组合基础设施带入主流。