光子学和人工智能:行业前景
汉娜·兰福德、瑞秋·森德和斯图尔特·威尔斯
OPN与六家公司讨论了AI可能为光学和光子学行业带来的一些机会--在硅光子学及其他领域。
Open AI的生成式人工智能聊天机器人ChatGPT于2022年11月发布,这是一次“全球范围内”听到的科技大爆炸,开启了整个商业领域的生产力和潜力的新前景。尽管许多最初的公众宣传后来有所缓和,但数据中心中支持人工智能的基础设施以及产品实验室中支持人工智能的思维的持续快速增长,正在为光学和光子学行业创造诱人的机遇。
为了了解这一切是如何发展的,OPN最近与六家公司的代表进行了交谈,他们着眼于这个市场的各个部分。虽然这些照片只讲述了一个非常大的故事的一小部分,但它们确实暗示了人工智能的数据需求如何催生了硅光学领域的活动--同时也暗示了人工智能对光学公司如何看待其他产品的广泛影响。
小芯片时间
对于硅光学来说,为这些市场服务的大部分行动在于解决人工智能的“数据瓶颈”。这是人工智能CPU、GPU和专用集成电路(ASIC)在延迟和能耗方面的增加通过铜质互连以前所未有的速度从封装外计算资源(例如内存模块或其他ASIC)中吸收数据。
许多公司都在寻求类似的解决方案来解决这一难题:硅光子“小芯片”,它将电域和光域之间的转换尽可能地推向GPU,允许跨分布式计算资源的连接保持编码速度快、高能效的光纤光。硅谷有一家公司已经涉足这片水域九年了Ayar实验室。Ayar出生于2015年5月,无业(后来报告于自然),来自美国加州大学伯克利分校、科罗拉多大学和麻省理工学院(MIT)的实验室,展示了Ayar现在所说的“世界上第一个使用光进行通信的处理器”。
特里·索恩(Terry Thorn)三年前加入该公司,担任商业运营副总裁,此前他曾在半导体巨头英特尔公司(Intel Corp.)担任过24年的各种职务。他告诉OPN,Ayar的工作重点是计算机系统内部“扩展”领域的问题。这是一个涉及在计算芯片之间分流数据的领域,无论是CPU和GPU、两个GPU还是GPU和分布式内存主机。(它与涉及从服务器机架向其他服务器传输数据的“横向扩展”域形成对比,并且通常是传统可插拔收发器的最佳位置。)
Thorn表示,在纵向扩展领域,当光纤中承载的光链路取代大量传统铜质互连时,“显然,您将从降低的延迟和能耗中获益良多。”“我们与计算芯片的连接越紧密,我们就越能利用这种效率优势。”他说,在纵向扩展领域,Ayar看到了“最大的即时效益,客户对此最感兴趣,也最迫切。”
Ayar用来解决这个问题的工具是一个小芯片,它的名字有点异想天开,叫TeraPHY(发音为“恐怖”)。小芯片被设计为与电子GPU或CPU集成在封装中,允许电数据立即被编码(通过微环谐振器系统)为光学数据并发送到光纤带上的其他类似装备的计算资源。
Thorn说,在OFC2023上,Ayar展示了一个“非常稳定的演示”,它的小芯片以4Tbps的双向连接(即每个方向2Tbps)运行,每位使用5微微焦耳(pJ)的能量。高数据吞吐量是通过在到小芯片的八个光纤连接中进行波分复用实现的,每个光纤连接托管以32Gbps的速度传输数据的八个波长的光。8个月后,在2023年11月,Ayar展示了一个类似的系统,该系统采用英特尔现场可编程门阵列(FPGA)封装,“连续运行数天”,Thorn说。
这些演示和Ayar产品中的另一个关键组件是芯片外光源,商标为SuperNova,可以插入到芯片中。虽然OFC2023演示中使用的版本支持八个波长,但一年后,在OFC2024上,Ayar发布了升级后的16波长SuperNova,该公司称其可以“驱动256个光载波,实现16Tbps的双向带宽”--Thorn认为该公司将在未来几年公开展示这一水平。Thorn说,除了改变波长数量之外,Ayar还可以使用“许多其他手段”来提高吞吐量,包括在芯片上增加光纤端口,以及从目前的32Gbps提高每波长的数据调制。
“我们都面临的一个更大的挑战是围绕电气和铜形成的势头,”Ayar Labs的特里·索恩(Terry Thorn)说。
thorn认为,在竞争日益激烈的互连市场中,Ayar在“实时硅”领域的能力稳步增长的公开展示是该公司的优势。另一个好处,他说,是该公司的标准,如新兴的通用芯片互联快速(UCIE)框架,其小芯片的电气接口。此外,他还指出,Ayar与GPU制造商英伟达(NVIDIA)、瑞典电信公司爱立信(Ericsson)、洛克希德公司(Lockheed)、卢姆腾公司(Lumentum)、美国国防部(Department of Defense)等公司,甚至还有英特尔公司(Intel Corp.)等公司,都在致力于开发自己的人工智能硅光学解决方案,这些公司已经与他们建立了广泛的合作伙伴关系,以推动使用案例的发展。
然而,在思考这个市场的竞争时,Thorn是哲学的。虽然他认识到其他公司也在寻求利用硅光学来解决人工智能的带宽挑战,但他相信,让客户不再使用传统电气互连的整体努力将使这一领域的所有竞争对手受益。“我们都面临的一个更大的挑战是围绕电气和铜形成的势头,”Thorn说。“如果有人改变这种想法,我们就可以围绕光学和硅光学启动一个不同的飞轮,这有助于提升所有的船。”
互连和AI加速器
另一家年轻的公司,Lightmatter位于美国加州山景城(Mountain View,USA)的一家公司正在推进更广泛的人工智能光子学视野,包括用于处理人工智能数据的光学互连和加速计算神经网络的实际计算的加速器芯片。如果融资进展可以作为参考的话,这一愿景似乎在投资者中引起了共鸣:2023年12月,Lightmatter的最新一轮C轮融资将公司的总估值推高至12亿美元--将其牢牢地置于“独角兽”领域。
对于光物质来说,这是一段令人兴奋的旅程。2017年末,尼古拉斯·哈里斯、达瑞斯·布南达尔和托马斯·格雷厄姆在麻省理工学院完成研究生学业后才成立了光物质。当时Harris和Bunandar正在研究用于量子计算的硅光子处理器,对机器学习兴趣的激增,激发了他们转而将这些可编程平台用于人工智能应用。Graham是一名MBA学生,在金融方面也加入了进来。
Lightmatter表示,它“模糊了纵向扩展和横向扩展网络之间的界限”,并特别强调了减少人工智能对环境影响的使命。
Lightmatter表示,它“模糊了纵向扩展和横向扩展网络之间的界限”,并特别强调了减少人工智能对环境影响的使命。“最大的问题,”Bunandar,现在的光神首席科学家,告诉OPN,“是,我们如何驱动(AI)?”我们如何为现在将要部署和培训这些模型的超大规模公司提供更快、更高效的计算?...我想每个人都会同意,托管和训练这些算法所需的能量是相当巨大的。
※ 修改:·snowfields 于 Feb 17 04:55:41 2025 修改本文·[FROM: 180.98.45.*]
※ 来源:·水木社区
http://m.mysmth.net·[FROM: 180.98.45.*]
修改:snowfields FROM 180.98.45.*
FROM 180.98.45.*