两天前,英伟达创始人黄仁勋在 CES 上发布了公司一系列 AI 新产品和处理方案,为人工智能的算力和使用落地供给更多「弹药」。在抓住出产现有架构的 AI 基建硬件时,这家巨子早现已瞄准了下一代技能。
不久前,英伟达联手老对手英特尔,出资了一家草创公司 Ayar Labs。新一轮 1.55 亿美元的融资,也让 Ayar Labs 成为芯片范畴的新一家独角兽公司。
这家公司是什么来头?为什么能让芯片三巨子打破妨碍联合出资?
Ayar Labs 主攻光学互连处理方案,其处理方案能以 AI 运作的速度移动数据,以满意客户对可扩展、经济高效的 AI 根底设备的火急需求。
对此,Ayar Labs 联合创始人兼 CEO 马克·韦德表明,「抢先的 GPU 供给商 AMD 和英伟达以及半导体代工厂格芯、英特尔代工、台积电,再加上 Advent、Light Street 和咱们其他出资者的支撑,凸显了咱们的光学 I/O 技能从头界说 AI 根底设备未来的潜力。」
「光学 I/O」是什么东西?Ayar Labs 又能处理快速开展的 AI 范畴的什么问题?
01
精英团队
Ayar Labs 在 2015 年树立,总部坐落加州圣何塞。
起先公司由四位 MIT 学生在 2015 年一起创建,其间 Mark Wade、Chen Sun 和 Vladimir Stojanovic,其时别离是 MIT 电子工程专业的博士生和访问学者,现在别离担任公司的 CTO、首席科学家和首席架构师。随后,他们约请了其时正在攻读 MIT MBA 的 Alex Wright Gladstein 参加团队,担任 CEO。
现在,团队由来自英特尔、IBM、美光、Penguin、麻省理工学院、伯克利和斯坦福的许多顶尖技能专家组成。
树立以来,Ayar Labs 一向深耕于光学互联处理方案范畴,商场战略要点是处理光电子范畴的大批量、高质量制作问题。
公司树立次年获得了 2 百万美元的种子轮融资,而最新一轮尖端芯片制作商的出资正是该公司技能走向老练的标志。新的资金将用于扩展芯片出产规划,促进生成式 AI、分化数据中心等的开展。
正如,Ayar Labs 首席执行官兼联合创始人马克·韦德,本年 10 月在采访中表明「客户现已在试用 Ayar Labs 的芯片,在曩昔的 18 个月里,出货超越 15,000 台,这为咱们在 2026 年年中至 2028 年年中的两年要点窗口期完成批量出产奠定了根底。」「咱们估计月产量将到达数十万到数百万个,到 2028 年及今后,年产量有或许超越 1 亿个。」
现在,Ayar Labs 的芯片由 GlobalFoundries(起先为 AMD 公司的制作部分,后来成为独立公司)制作,并且现已与一切一级 CMOS 制作商树立了协作关系,与 GlobalFoundries、Applied Materials、台积电、英特尔和英伟达等首要厂商树立了战略协作关系,将光 I/O 处理方案整合到其制作产品中。
对此,Ayar Labs 曾官方宣告,「咱们正在树立一个强壮的生态体系,其间包含重要的战略技能和供应链协作伙伴。咱们还积极参加多个职业和规范安排的活动,推进光学 I/O 芯片生态体系的开展。」
02
处理 AI 数据瓶颈
跟着生成式 AI 模型的复杂性和规划指数级添加,对大型核算集群的需求日益添加,这些算力设备一般需求衔接数百乃至数万个 GPU 及其他加快器,以供给 AI 所需的内存和核算资源。
但是,AI 根底设备的扩展正面对带宽、推迟和功耗的应战,这些应战首要是由传统依据铜的互连技能形成的瓶颈。在衔接超越 1.5 米间隔和 72 个 GPU 的机架时,传统电互连技能尤其会遇到功能瓶颈和约束。
数据传输瓶颈约束了 GPU 的效能,导致出资收益递减。具体来说,单个 GPU 的运转功率可达 80%,但扩展至 64 个 GPU 时或许降至 50%,进一步扩展至 256 个 GPU 时或许只要 30%。
这不只下降了全体体系功率,并且严峻阻止了数据中心功能的全面进步,约束了 AI 技能的前进。
依据高盛最近发布的陈述猜测,未来十年,AI 根底设备开销估计将超越 1 万亿美元。这凸显了对消除传统互联形成瓶颈的处理方案的火急需求。
为了应对这一应战,Ayar Labs 推出了业界首个封装内光 I/O 处理方案。
Ayar Labs 光 I/O 处理方案的立异之处在于其全体封装规划。该规划答应光学模块直接与芯片集成,完成节点的大规划直连,有用克服了 I/O 密度、数据速率扩展和互联功率功率的约束。
与传统的可插拔光学器材和电气 SerDes 互连方法比较,Ayar Labs 的光 I/O 处理方案可完成 5~10 倍的更高带宽、4~8 倍的能效,并将推迟下降至 1/10,最大极限地进步 AI 根底设备的核算功率和功能,一起下降本钱、推迟和功耗,明显进步 AI 使用的盈余目标。
不只如此,光 I/O 处理方案遵从 UCIe、CXL、CW-WDM MSA 等敞开规范,并针对 AI 练习和推理进行了优化,其强壮的生态体系使其可以顺畅地大规划集成到 AI 体系中,从而进步生成式 AI 使用的功能和功率。
Ayar Labs 的光 I/O 处理方案特别适用于下一代 AI 扩展架构,这种架构需求超高的带宽和跨数百乃至数万个 GPU 的衔接 | 图片来历:Ayar Labs 官网
03
「光 I/O」初探
Ayar Labs 的光 I/O 处理方案结合了两项职业创始技能——TeraPHY 光学 I/O Chiplet 和 SuperNova 多波长光源。
TeraPHY 光学 I/O Chiple 是业界首款封装内单片式光学 I/O 芯片。
它首要担任光电信号之间的转化和收发,是一种用于代替传统的铜背板和可插拔光学通讯的小型化、低功耗、高吞吐量的处理方案。
它初次将硅光子技能与规范的 CMOS 制作工艺结合起来,将光学互联与与电子 GPU 或 CPU 集成在同一封装内,可以无缝集成到客户的体系级封装 (SiP) 架构中,使专用集成电路(ASICs)能跨过从毫米到千米的间隔进行无缝通讯,最大极限地削减信号损失和推迟,这关于分布式 AI 体系和云核算环境分外有用。
这一立异组件包含了约 7000 万个晶体管和 10,000 多个光学器材,首要包含了以下几个模块:
Grating Coupler Fiber Coupling Array:担任光信号的输入输出。
Optical Transceiver:首要担任进行光电信号的调制转化,首要由微环调制器(Micro-ring Modulators)和微环滤波器(Micro-ring Filter)组成,前者担任调制出所需的光信号,后者担任处理承受的光信号。值得一提的是,微环调制器正是 TeraPHY 的中心优势,鉴于它成功处理了成功处理了温度敏感性和信号安稳性问题,完成了在 15-100°C 温度规模内精确输出特定波长的光信号;
AIB:担任和芯片之间的电信号互联;
Glue/Crossbar:是 Optical Transceiver 和 AIB 之间的衔接桥梁。
TeraPHY 光学 I/O Chiplet 凭仗其模块化多端口规划,可以支撑 8 个光通道,等同于一个 x8 PCIe Gen5 链路,满意生成式 AI 模型对大规划并行处理的需求。
其 4Tbps 的总双向带宽和每个端口 256Gbps 的高速传输才能,可以敏捷移动数据,加快 AI 模型的练习和推理进程。并且,每隔几年这一芯片带宽或将翻倍。
5ns 的低推迟功能有助于进步数据处理速度,优化 AI 生成式体会。此外,其低功耗特性(每比特不到 5pJ/b)有助于下降动力消耗,削减 AI 运营本钱,一起减轻对环境的影响。
Ayar Labs 致力于经过技能立异,协助客户应对未来的应战。
举例来说,为了应对移动网络边际的快速转型需求,以及 AI 驱动服务的指数级添加,Ayar Labs 将 TeraPHY 光学 I/O 芯片和康宁一起的内置光衔接的玻璃波导模块结合在一起,开发了新一代 AI 光学处理方案。爱立信也参加了该协作,以开发其电信未来无线电。
这种全新的集成光学处理方案将为 AI 架构、6G、数据中心和其他核算密集型使用供给高密度、高性价比、低推迟、高能效的衔接。
SuperNova 则是长途光源独立的激光器,担任精确地宣布多个波长的光子。
它可以被视为坐落 ASIC 封装外部某处的光电源,在实践布置中,SuperNova 与 TeraPHY 协同作业,一起发挥作用。
SuperNova 由 Ayar Labs 和 MACOM(DFB 的顶尖规划商之一)联合规划,交由 UK 闻名激光制作商 Sivers Photonics 制作。
它是首款契合 CW-WDM MSA(粗波分复用多源协议)规范的多波长、多端口光源,最多支撑将 16 种波长的光传输至 16 根光纤,完成了光 I/O 技能的又一次严重腾跃。
每根光纤最多可传输 16 个波长,因而可驱动 256 个光载波,供给 16 Tbps 的双向带宽,满意 AI 作业负载所需的带宽水平。
16 波长 SuperNova 光源封装紧凑,作业温度规模广,可为 256 个数据通道供给光源,可以处理 AI 使用大规划添加所需的更高吞吐量,为未来或许的扩展供给了足够的空间。
波长数量是 CWDM4 多波长可插拔光学器材的 64 倍,且多个波长在一个单一的阵列中简化了包装,下降了封装本钱,这关于大规划布置 AI 体系来说是一个重要的优势。
不只如此,SuperNova 契合 CW-WDM MSA 规范,满意 GR-468 关于光电设备和可插拔光学的牢靠性要求,可广泛使用于 AI 架构、高速 I/O、光核算和高密度协同封装光学器材等范畴。
可见,Ayar Labs 的光 I/O 处理方案依据规范、面向未来、可扩展,旨在优化 AI 功能。
跟着 AI 根底设备需求的日益添加,集成光 I/O 已成为进步功率和效益的要害。
芯片职业的领军企业现已聚集于光互连技能,旨在使用其光学特性来打破功能瓶颈,增强 AI 根底设备的功能和核算功率,一起削减本钱和能耗。
英伟达首席科学家兼高档研讨副总裁比尔·达利曾坦言,「光衔接关于扩展加快核算集群以满意 AI 和高功能核算作业负载快速添加的需求非常重要。Ayar Labs 具有一起的光 I/O 技能,可以满意扩展依据硅光子技能的下一代人 AI 架构的需求。」
事实上,Ayar Labs 在光互连范畴还有不少同行。
本年 10 月,瑞士光互连草创公司 Lightmatter 完成了 4 亿美元的 D 轮融资,由新出资者 T. Rowe Price 领投,公司估值到达 44 亿美元,较之前 12 月 GV 领投的 1.55 亿美元融资后的 12 亿美元估值添加了近四倍。
在同一时期,纽约的 Xscape Photonics 也经过光子技能处理了 AI 数据中心在动力、功能和可扩展性方面的应战,并获得了 4400 万美元的 A 轮融资,由 IAG Capital Partners 领投,思科出资公司和英伟达等也参加了出资。
跟着巨子的亲近重视、很多资金继续流入这一职业,光互连技能作为替代「线缆」的下一代衔接技能,成为又一个迎来革新的职业。
本文源自:极客公园
不过,跟着局势的改变,也呈现了好消息。科技股在今天纷繁反弹,到截稿时,Intel大涨18.75%,来到21.53美元,AMD的体现更为微弱,大涨23.82%,攀升至96.84美元。
关于Intel而言,接下来行将量产发布的18A工艺和Panther Lake处理器,很可能成为公司开展进程中的一道分水岭,其未来走向备受重视。
特朗普的关税大棒让全世界股市愁云惨淡,本就陷入困境的Intel更是落井下石,股价和市值纷繁创下16年来的最低点。与此同时,AMD的日子其实也不好过,昨日大跌6.5%,收于78.21美元,市值约1264...
在评论这些论题时,笔者发现,许多人关于AI的认知就像一个“大明星”,能看到“他”做了什么,也知道“他”的评论热度很高。但正如人类需求大脑分配、心脏供血相同,行为和外表上的光鲜亮丽,往往会让人忽视了用于驱动的内涵中心终究是什么。
AI也是如此,假如你把ChatGPT、kimi甚至是Siri、小爱同学、Bixby、小艺这些AI使用解剖开来,你会看到什么呢?无非是一堆由处理器、电路板、闪存组成的核算单元以及数据层面的算法、语义材料等等。
归根结底,AI使用不是随便来的,就跟你在手机、电脑、电视上看到的图画、文字相同,都是由芯片核算而来,所以,“AI芯片”天然也就成了2024年的热词。现阶段,与AI结合最严密的产品无疑是电脑和手机,不过风趣的是,最早提出AI PC的英特尔现在却深陷泥沼,起步更晚的AMD反而春风得意,两家头部CPU厂商的命运,好像将从2024年头步,被逐渐改写。
在AI PC之前,现已有不少产品、技能都与AI前缀完成了绑定,包含AI音箱(2017年)、AI印象(2018年)等等。而AI PC的特别之处有三点,首先是它由英特尔提出,作为上游厂商,为终端产品做出了界说;其二则是该品类的界定也来自于芯片层而非使用层;其三则是它是生成式人工智能引爆后第一个参加AI前缀的品类。
所以,与其说AI PC的诞生,倒不如说是个人电脑上呈现了AI芯片的使用。进入2024年,AI芯片在PC端的使用有成为“标配”的趋势。英特尔自不必说,从2023年年末发布的英特尔酷睿Ultra系列处理器初步,就着重新架构中NPU的效果,但AI成果了英伟达、激活了AMD、却成为英特尔遭受滑铁卢的初步。
现在,不聊两句AI,好像就跟不上飞速开展的科技时代了,身边的每一个人,从相关从业者到货台的销售员再到老一辈、搭档、朋友,好像都对这个论题略知一二。每次看到由AI驱动发生的新使用、新产品,人们也都在感叹...
公司答复表明:公司作为全球操作体系产品和技能供给商,与芯片厂商坚持亲近的协作。一起, 公司的产品和计划也一向供给根据跨芯片渠道的产品和技能。
公司别离与AMD、英特尔打开战略协作, 携手构建下一代全3D智能座舱渠道。
ARM是公司重要的战略协作伙伴。ARM从前战略投资公司, 近期, 公司与ARM协作建立中国大陆首个 Arm® SystemReady ™ Devicetree (即之前的SystemReady IR)合规实验室。为芯片厂商、原始设备制造商 (OEM) 及原始规划制造商(ODM) 、体系集成商供给端到端的测验和技能支持服务, 为智能设备发动固件的标准化, 加快万物智能互联年代的到来。
本文源自:金融界
作者:公告君
金融界12月9日音讯,有投资者在互动渠道向中科创达发问:请问公司是否与AMD intel ARM 等公司存在战略协作关系。公司答复表明:公司作为全球操作体系产品和技能供给商,与芯片厂商坚持亲近的协作。...
近来,光学互连草创公司Ayar Labs完成了1.55亿美元的D轮融资,估值打破10亿美元。据报道,英伟达、AMD、英特尔等闻名科技公司均参加了这场融资。公司表明,最新融资将用于扩展生产能力并加强客户协作。
跟着人工智能的快速开展,传统铜线互连技能现已难以满意日益杂乱的AI模型对数据传输的需求,专家指出,这一瓶颈严峻约束了AI模型的核算功能、能耗功率和全体可扩展性——寻觅更高效的数据传输解决方案变得尤为火急。
Ayar Labs正专心于此。
成立于2015年的Ayar Labs致力于开发光学互连技能,旨在替代传统的电气I/O,打破铜线和可插拔光学元件的约束。分析师表明,Ayar Labs的光学I/O技能可以进步数据传输速度,消除了传统互连瓶颈,而且,这项技能不只能下降推迟和功耗,还可以优化AI基础设施,进步功率和本钱效益。
无疑,Ayar Labs的这一技能招引了很多职业巨子的重视。公司CEO Mark Wade表明,抢先的GPU提供商AMD、英伟达,以及半导体代工厂GlobalFoundries、英特尔、台积电等的支撑,凸显了其光学I/O技能在未来重塑AI基础设施的潜力。
现在,Ayar Labs已向部分客户交付了约1.5万套TeraPHY光学传输和SuperNova激光源产品。公司估计,到2028年,这一产品的年产量将飙升至1亿多套。
不过,也有分析师正告称,尽管Ayar Labs的开展前景尽管看起来很光亮,但不该过早下结论。TheNextPlatform指出,英伟达、AMD、英特尔的出资或许意味着这些公司有意在其核算引擎中布置Ayar Labs的技能,但也或许只是是为了获取内部信息并在未来布置时占有先机。
本文来自华尔街见识,欢迎下载APP检查更多
光学互连引领芯片互连新革新。近来,光学互连草创公司Ayar Labs完成了1.55亿美元的D轮融资,估值打破10亿美元。据报道,英伟达、AMD、英特尔等闻名科技公司均参加了这场融资。公司表明,最新融资...
上星期,英特尔正式发布锐炫B系列独立显卡,带来两款中端产品;AMD官宣将在CES 2025举行新品发布会,带来多款新品;英特尔CEO官宣退休,或因成绩欠安;荣耀笔记本X14/X16 Plus 2025...
AMD(AMD)在人工智能加速器市场上本就难以与英伟达(NVDA.O)抗衡,而杰富瑞分析师布莱恩·柯蒂斯(Blayne Curtis)对此趋势表明忧虑。现在,英特尔在新任首席执行官的带领下或许迎来“更光亮的未来”,这也是柯蒂斯对AMD股票持更慎重观念的原因之一。
周四,他将AMD的股票评级从“买入”下调至“持有”。当天AMD股价跌落3.2%,曩昔12个月累计跌幅到达40%。
近年来,因为英特尔陷入困境,AMD得以在个人电脑芯片市场上蚕食对手比例。但是,柯蒂斯指出,英特尔的新管理层或许成为其竞赛力提高的“催化剂”,因而AMD能否持续扩展市场比例值得商讨。
“咱们仍需进一步调查,但咱们对行将就任的英特尔CEO(陈立武,Lip-Bu Tan)抱有很大敬意,并估计英特尔将在工艺挑选和晶圆代工战略上愈加灵敏,以赶快遏止市场比例丢失。”他弥补道,“这仍然是一条绵长的路途,但咱们以为英特尔现已取得了一些发展,并将在2026年推出具有较强竞赛力的芯片。”
此外,AMD还面对着职业巨子英伟达的巨大压力。英伟达在人工智能GPU市场上占有主导地位,而柯蒂斯指出,AMD在AI范畴的发展“适当有限”。与此同时,英伟达正经过最新发布的GPU和Dynamo推理软件进一步稳固抢先优势。
英伟达“正在多个范畴推进立异”,柯蒂斯表明,“即使是规划最大的公司也很难跟上它的脚步。”他在上星期的英伟达GTC大会上得出的结论是,在机架级架构(rack-scale architecture)方面,英伟达远远抢先于AMD。
AMD还面对来自专用集成电路(ASIC)的剧烈竞赛,例如迈威尔科技(MRVL.O)和博通(AVGO.O)与大型科技公司协作开发的产品。例如,Alphabet(GOOGL.O)正与博通协作研制一款ASIC,柯蒂斯估计该产品将在7月推出。
杰富瑞分析师以为,英特尔(INTC.O)的复苏远景或许会让AMD(AMD.O)的股价难以找到上升动力。AMD(AMD)在人工智能加速器市场上本就难以与英伟达(NVDA.O)抗衡,而杰富瑞分析师布莱恩·...