不久前,英伟达联手老对手英特尔,出资了一家草创公司 Ayar Labs。新一轮 1.55 亿美元的融资,也让 Ayar Labs 成为芯片范畴的新一家独角兽公司。
这家公司是什么来头?为什么能让芯片三巨子打破妨碍联合出资?
Ayar Labs 主攻光学互连处理方案,其处理方案能以 AI 运作的速度移动数据,以满意客户对可扩展、经济高效的 AI 根底设备的火急需求。
对此,Ayar Labs 联合创始人兼 CEO 马克·韦德表明,「抢先的 GPU 供给商 AMD 和英伟达以及半导体代工厂格芯、英特尔代工、台积电,再加上 Advent、Light Street 和咱们其他出资者的支撑,凸显了咱们的光学 I/O 技能从头界说 AI 根底设备未来的潜力。」
「光学 I/O」是什么东西?Ayar Labs 又能处理快速开展的 AI 范畴的什么问题?
01
精英团队
Ayar Labs 在 2015 年树立,总部坐落加州圣何塞。
起先公司由四位 MIT 学生在 2015 年一起创建,其间 Mark Wade、Chen Sun 和 Vladimir Stojanovic,其时别离是 MIT 电子工程专业的博士生和访问学者,现在别离担任公司的 CTO、首席科学家和首席架构师。随后,他们约请了其时正在攻读 MIT MBA 的 Alex Wright Gladstein 参加团队,担任 CEO。
现在,团队由来自英特尔、IBM、美光、Penguin、麻省理工学院、伯克利和斯坦福的许多顶尖技能专家组成。
树立以来,Ayar Labs 一向深耕于光学互联处理方案范畴,商场战略要点是处理光电子范畴的大批量、高质量制作问题。
公司树立次年获得了 2 百万美元的种子轮融资,而最新一轮尖端芯片制作商的出资正是该公司技能走向老练的标志。新的资金将用于扩展芯片出产规划,促进生成式 AI、分化数据中心等的开展。
正如,Ayar Labs 首席执行官兼联合创始人马克·韦德,本年 10 月在采访中表明「客户现已在试用 Ayar Labs 的芯片,在曩昔的 18 个月里,出货超越 15,000 台,这为咱们在 2026 年年中至 2028 年年中的两年要点窗口期完成批量出产奠定了根底。」「咱们估计月产量将到达数十万到数百万个,到 2028 年及今后,年产量有或许超越 1 亿个。」
现在,Ayar Labs 的芯片由 GlobalFoundries(起先为 AMD 公司的制作部分,后来成为独立公司)制作,并且现已与一切一级 CMOS 制作商树立了协作关系,与 GlobalFoundries、Applied Materials、台积电、英特尔和英伟达等首要厂商树立了战略协作关系,将光 I/O 处理方案整合到其制作产品中。
对此,Ayar Labs 曾官方宣告,「咱们正在树立一个强壮的生态体系,其间包含重要的战略技能和供应链协作伙伴。咱们还积极参加多个职业和规范安排的活动,推进光学 I/O 芯片生态体系的开展。」
02
处理 AI 数据瓶颈
跟着生成式 AI 模型的复杂性和规划指数级添加,对大型核算集群的需求日益添加,这些算力设备一般需求衔接数百乃至数万个 GPU 及其他加快器,以供给 AI 所需的内存和核算资源。
但是,AI 根底设备的扩展正面对带宽、推迟和功耗的应战,这些应战首要是由传统依据铜的互连技能形成的瓶颈。在衔接超越 1.5 米间隔和 72 个 GPU 的机架时,传统电互连技能尤其会遇到功能瓶颈和约束。
数据传输瓶颈约束了 GPU 的效能,导致出资收益递减。具体来说,单个 GPU 的运转功率可达 80%,但扩展至 64 个 GPU 时或许降至 50%,进一步扩展至 256 个 GPU 时或许只要 30%。
这不只下降了全体体系功率,并且严峻阻止了数据中心功能的全面进步,约束了 AI 技能的前进。
依据高盛最近发布的陈述猜测,未来十年,AI 根底设备开销估计将超越 1 万亿美元。这凸显了对消除传统互联形成瓶颈的处理方案的火急需求。
为了应对这一应战,Ayar Labs 推出了业界首个封装内光 I/O 处理方案。
Ayar Labs 光 I/O 处理方案的立异之处在于其全体封装规划。该规划答应光学模块直接与芯片集成,完成节点的大规划直连,有用克服了 I/O 密度、数据速率扩展和互联功率功率的约束。
与传统的可插拔光学器材和电气 SerDes 互连方法比较,Ayar Labs 的光 I/O 处理方案可完成 5~10 倍的更高带宽、4~8 倍的能效,并将推迟下降至 1/10,最大极限地进步 AI 根底设备的核算功率和功能,一起下降本钱、推迟和功耗,明显进步 AI 使用的盈余目标。
不只如此,光 I/O 处理方案遵从 UCIe、CXL、CW-WDM MSA 等敞开规范,并针对 AI 练习和推理进行了优化,其强壮的生态体系使其可以顺畅地大规划集成到 AI 体系中,从而进步生成式 AI 使用的功能和功率。
Ayar Labs 的光 I/O 处理方案特别适用于下一代 AI 扩展架构,这种架构需求超高的带宽和跨数百乃至数万个 GPU 的衔接 | 图片来历:Ayar Labs 官网
03
「光 I/O」初探
Ayar Labs 的光 I/O 处理方案结合了两项职业创始技能——TeraPHY 光学 I/O Chiplet 和 SuperNova 多波长光源。
TeraPHY 光学 I/O Chiple 是业界首款封装内单片式光学 I/O 芯片。
它首要担任光电信号之间的转化和收发,是一种用于代替传统的铜背板和可插拔光学通讯的小型化、低功耗、高吞吐量的处理方案。
它初次将硅光子技能与规范的 CMOS 制作工艺结合起来,将光学互联与与电子 GPU 或 CPU 集成在同一封装内,可以无缝集成到客户的体系级封装 (SiP) 架构中,使专用集成电路(ASICs)能跨过从毫米到千米的间隔进行无缝通讯,最大极限地削减信号损失和推迟,这关于分布式 AI 体系和云核算环境分外有用。
这一立异组件包含了约 7000 万个晶体管和 10,000 多个光学器材,首要包含了以下几个模块:
Grating Coupler Fiber Coupling Array:担任光信号的输入输出。
Optical Transceiver:首要担任进行光电信号的调制转化,首要由微环调制器(Micro-ring Modulators)和微环滤波器(Micro-ring Filter)组成,前者担任调制出所需的光信号,后者担任处理承受的光信号。值得一提的是,微环调制器正是 TeraPHY 的中心优势,鉴于它成功处理了成功处理了温度敏感性和信号安稳性问题,完成了在 15-100°C 温度规模内精确输出特定波长的光信号;
AIB:担任和芯片之间的电信号互联;
Glue/Crossbar:是 Optical Transceiver 和 AIB 之间的衔接桥梁。
TeraPHY 光学 I/O Chiplet 凭仗其模块化多端口规划,可以支撑 8 个光通道,等同于一个 x8 PCIe Gen5 链路,满意生成式 AI 模型对大规划并行处理的需求。
其 4Tbps 的总双向带宽和每个端口 256Gbps 的高速传输才能,可以敏捷移动数据,加快 AI 模型的练习和推理进程。并且,每隔几年这一芯片带宽或将翻倍。
5ns 的低推迟功能有助于进步数据处理速度,优化 AI 生成式体会。此外,其低功耗特性(每比特不到 5pJ/b)有助于下降动力消耗,削减 AI 运营本钱,一起减轻对环境的影响。
Ayar Labs 致力于经过技能立异,协助客户应对未来的应战。
举例来说,为了应对移动网络边际的快速转型需求,以及 AI 驱动服务的指数级添加,Ayar Labs 将 TeraPHY 光学 I/O 芯片和康宁一起的内置光衔接的玻璃波导模块结合在一起,开发了新一代 AI 光学处理方案。爱立信也参加了该协作,以开发其电信未来无线电。
这种全新的集成光学处理方案将为 AI 架构、6G、数据中心和其他核算密集型使用供给高密度、高性价比、低推迟、高能效的衔接。
SuperNova 则是长途光源独立的激光器,担任精确地宣布多个波长的光子。
它可以被视为坐落 ASIC 封装外部某处的光电源,在实践布置中,SuperNova 与 TeraPHY 协同作业,一起发挥作用。
SuperNova 由 Ayar Labs 和 MACOM(DFB 的顶尖规划商之一)联合规划,交由 UK 闻名激光制作商 Sivers Photonics 制作。
它是首款契合 CW-WDM MSA(粗波分复用多源协议)规范的多波长、多端口光源,最多支撑将 16 种波长的光传输至 16 根光纤,完成了光 I/O 技能的又一次严重腾跃。
每根光纤最多可传输 16 个波长,因而可驱动 256 个光载波,供给 16 Tbps 的双向带宽,满意 AI 作业负载所需的带宽水平。
16 波长 SuperNova 光源封装紧凑,作业温度规模广,可为 256 个数据通道供给光源,可以处理 AI 使用大规划添加所需的更高吞吐量,为未来或许的扩展供给了足够的空间。
波长数量是 CWDM4 多波长可插拔光学器材的 64 倍,且多个波长在一个单一的阵列中简化了包装,下降了封装本钱,这关于大规划布置 AI 体系来说是一个重要的优势。
不只如此,SuperNova 契合 CW-WDM MSA 规范,满意 GR-468 关于光电设备和可插拔光学的牢靠性要求,可广泛使用于 AI 架构、高速 I/O、光核算和高密度协同封装光学器材等范畴。
可见,Ayar Labs 的光 I/O 处理方案依据规范、面向未来、可扩展,旨在优化 AI 功能。
跟着 AI 根底设备需求的日益添加,集成光 I/O 已成为进步功率和效益的要害。
芯片职业的领军企业现已聚集于光互连技能,旨在使用其光学特性来打破功能瓶颈,增强 AI 根底设备的功能和核算功率,一起削减本钱和能耗。
英伟达首席科学家兼高档研讨副总裁比尔·达利曾坦言,「光衔接关于扩展加快核算集群以满意 AI 和高功能核算作业负载快速添加的需求非常重要。Ayar Labs 具有一起的光 I/O 技能,可以满意扩展依据硅光子技能的下一代人 AI 架构的需求。」
事实上,Ayar Labs 在光互连范畴还有不少同行。
本年 10 月,瑞士光互连草创公司 Lightmatter 完成了 4 亿美元的 D 轮融资,由新出资者 T. Rowe Price 领投,公司估值到达 44 亿美元,较之前 12 月 GV 领投的 1.55 亿美元融资后的 12 亿美元估值添加了近四倍。
在同一时期,纽约的 Xscape Photonics 也经过光子技能处理了 AI 数据中心在动力、功能和可扩展性方面的应战,并获得了 4400 万美元的 A 轮融资,由 IAG Capital Partners 领投,思科出资公司和英伟达等也参加了出资。
跟着巨子的亲近重视、很多资金继续流入这一职业,光互连技能作为替代「线缆」的下一代衔接技能,成为又一个迎来革新的职业。
本文源自:极客公园
近来,光学互连草创公司Ayar Labs完成了1.55亿美元的D轮融资,估值打破10亿美元。据报道,英伟达、AMD、英特尔等闻名科技公司均参加了这场融资。公司表明,最新融资将用于扩展生产能力并加强客户协作。
跟着人工智能的快速开展,传统铜线互连技能现已难以满意日益杂乱的AI模型对数据传输的需求,专家指出,这一瓶颈严峻约束了AI模型的核算功能、能耗功率和全体可扩展性——寻觅更高效的数据传输解决方案变得尤为火急。
Ayar Labs正专心于此。
成立于2015年的Ayar Labs致力于开发光学互连技能,旨在替代传统的电气I/O,打破铜线和可插拔光学元件的约束。分析师表明,Ayar Labs的光学I/O技能可以进步数据传输速度,消除了传统互连瓶颈,而且,这项技能不只能下降推迟和功耗,还可以优化AI基础设施,进步功率和本钱效益。
无疑,Ayar Labs的这一技能招引了很多职业巨子的重视。公司CEO Mark Wade表明,抢先的GPU提供商AMD、英伟达,以及半导体代工厂GlobalFoundries、英特尔、台积电等的支撑,凸显了其光学I/O技能在未来重塑AI基础设施的潜力。
现在,Ayar Labs已向部分客户交付了约1.5万套TeraPHY光学传输和SuperNova激光源产品。公司估计,到2028年,这一产品的年产量将飙升至1亿多套。
不过,也有分析师正告称,尽管Ayar Labs的开展前景尽管看起来很光亮,但不该过早下结论。TheNextPlatform指出,英伟达、AMD、英特尔的出资或许意味着这些公司有意在其核算引擎中布置Ayar Labs的技能,但也或许只是是为了获取内部信息并在未来布置时占有先机。
本文来自华尔街见识,欢迎下载APP检查更多
AMD(AMD)在人工智能加速器市场上本就难以与英伟达(NVDA.O)抗衡,而杰富瑞分析师布莱恩·柯蒂斯(Blayne Curtis)对此趋势表明忧虑。现在,英特尔在新任首席执行官的带领下或许迎来“更光亮的未来”,这也是柯蒂斯对AMD股票持更慎重观念的原因之一。
周四,他将AMD的股票评级从“买入”下调至“持有”。当天AMD股价跌落3.2%,曩昔12个月累计跌幅到达40%。
近年来,因为英特尔陷入困境,AMD得以在个人电脑芯片市场上蚕食对手比例。但是,柯蒂斯指出,英特尔的新管理层或许成为其竞赛力提高的“催化剂”,因而AMD能否持续扩展市场比例值得商讨。
“咱们仍需进一步调查,但咱们对行将就任的英特尔CEO(陈立武,Lip-Bu Tan)抱有很大敬意,并估计英特尔将在工艺挑选和晶圆代工战略上愈加灵敏,以赶快遏止市场比例丢失。”他弥补道,“这仍然是一条绵长的路途,但咱们以为英特尔现已取得了一些发展,并将在2026年推出具有较强竞赛力的芯片。”
此外,AMD还面对着职业巨子英伟达的巨大压力。英伟达在人工智能GPU市场上占有主导地位,而柯蒂斯指出,AMD在AI范畴的发展“适当有限”。与此同时,英伟达正经过最新发布的GPU和Dynamo推理软件进一步稳固抢先优势。
英伟达“正在多个范畴推进立异”,柯蒂斯表明,“即使是规划最大的公司也很难跟上它的脚步。”他在上星期的英伟达GTC大会上得出的结论是,在机架级架构(rack-scale architecture)方面,英伟达远远抢先于AMD。
AMD还面对来自专用集成电路(ASIC)的剧烈竞赛,例如迈威尔科技(MRVL.O)和博通(AVGO.O)与大型科技公司协作开发的产品。例如,Alphabet(GOOGL.O)正与博通协作研制一款ASIC,柯蒂斯估计该产品将在7月推出。