LC：光學(xué)在人工智能集群中的演變作用

  ICC訊（編譯：Nina）LightCounting(LC)發(fā)布了名為《人工智能光學(xué)》(Optics for AI)的新報(bào)告。

  人工智能(AI)在一眨眼的時(shí)間里就走到了前臺(tái)。預(yù)測(cè)人工智能是為勇者準(zhǔn)備的。LightCounting的第一份人工智能光學(xué)報(bào)告強(qiáng)調(diào)了人工智能如何改變計(jì)算機(jī)架構(gòu)和網(wǎng)絡(luò)，以及其中光學(xué)技術(shù)起著關(guān)鍵作用。LightCounting的人工智能預(yù)測(cè)主要集中在光學(xué)領(lǐng)域。但如果加上一個(gè)預(yù)測(cè)，那就是：光學(xué)不僅將在人工智能系統(tǒng)的發(fā)展中發(fā)揮至關(guān)重要的作用，而且人工智能將越來(lái)越多地在晶體管、芯片和系統(tǒng)層面為這些系統(tǒng)的設(shè)計(jì)做出貢獻(xiàn)。

  行業(yè)中不同領(lǐng)域的創(chuàng)新速度各不相同。新的應(yīng)用可以快速開(kāi)發(fā)。大多數(shù)人會(huì)失敗，但有些人會(huì)成功，并在一夜之間改變世界。軟件和人工智能算法的創(chuàng)新速度快得我們無(wú)法跟上。至少在外界觀察者看來(lái)是這樣，但專家們可能不這么認(rèn)為。

  硬件創(chuàng)新是一個(gè)漸進(jìn)而無(wú)情的過(guò)程。光學(xué)連接也不例外，我們有數(shù)據(jù)可以證明這一點(diǎn)。硅光子學(xué)的采用花了十年時(shí)間，但我們?nèi)栽诘却@項(xiàng)技術(shù)提供真正顛覆性的解決方案，如可靠的共封裝光學(xué)器件。毫無(wú)疑問(wèn)，這將在本十年末發(fā)生，但本報(bào)告的預(yù)測(cè)重點(diǎn)是部署在人工智能集群中的可插拔光學(xué)收發(fā)器，這是當(dāng)今和未來(lái)5年的光學(xué)連接的主要解決方案。

  目前，AI集群中部署的光收發(fā)器，90%以上用于InfiniBand和以太網(wǎng)連接。谷歌是唯一一家在其人工智能生產(chǎn)集群中使用光收發(fā)器進(jìn)行TPU之間的核心互連(Inter-core interconnect，ICI)的公司。英偉達(dá)正在其研究集群中測(cè)試光學(xué)NVLink與GPU的連接。如下圖所示，NVLink連接到GPU所需的帶寬比以太網(wǎng)和InfiniBand高4倍。AI集群設(shè)計(jì)中的另一個(gè)瓶頸是GPU可用的高帶寬內(nèi)存(HBM)有限，這也是帶寬提高3倍的另一因素，如下圖所示。

  谷歌也是唯一一家使用光交換機(jī)擴(kuò)展和重新配置人工智能集群的公司。事實(shí)證明，它可以提高集群性能，同時(shí)最大限度地降低成本和功耗。LC預(yù)計(jì)在未來(lái)3-5年內(nèi)會(huì)有更多的公司采用這項(xiàng)技術(shù)。

  2023年，人工智能集群應(yīng)用對(duì)光學(xué)器件的需求規(guī)模令人驚喜。ChatGTP在2022年底成為頭條新聞的時(shí)機(jī)再好不過(guò)了。對(duì)即將到來(lái)的經(jīng)濟(jì)衰退的擔(dān)憂，以及收入增長(zhǎng)放緩的最初跡象，迫使所有領(lǐng)先的云計(jì)算公司削減支出，包括對(duì)數(shù)據(jù)中心的投資和對(duì)光收發(fā)器的購(gòu)買。LC尚未完成統(tǒng)計(jì)2023年的最終銷售數(shù)據(jù)，但人工智能很有可能挽救了去年市場(chǎng)的頹勢(shì)。并且毫無(wú)疑問(wèn)2024-2025年的增長(zhǎng)將非常強(qiáng)勁。

  英偉達(dá)業(yè)務(wù)的增長(zhǎng)是影響2023-2025年光收發(fā)器銷售的主要因素。英偉達(dá)人工智能集群的新設(shè)計(jì)需要更多的收發(fā)器。以前的所有系統(tǒng)都只使用InfiniBand網(wǎng)絡(luò)進(jìn)行光學(xué)連接，而且這些系統(tǒng)大多是AOC。基于NDR(400G)InfiniBand的最新系統(tǒng)使用可插拔400/800G SR4/SR8和DR4/DR8收發(fā)器，而不是AOC。該公司還于2022年3月宣布了專為800G光連接設(shè)計(jì)的NVLink機(jī)箱交換機(jī)。英偉達(dá)目前正在內(nèi)部測(cè)試光纖NVLink，但這些解決方案應(yīng)在2024年底前提供給最終用戶。LC表示，如果這需要更長(zhǎng)的時(shí)間，他們將不得不降低對(duì)2025-2029年的預(yù)測(cè)。

  LC該報(bào)告提出了對(duì)英偉達(dá)提供的光模塊的第一個(gè)預(yù)測(cè)，并將其與AI集群中使用的其他光模塊進(jìn)行了比較。英偉達(dá)設(shè)計(jì)的光收發(fā)器具有更嚴(yán)格的誤碼率規(guī)范，以盡量減少傳輸錯(cuò)誤。它不阻止客戶使用第三方光學(xué)器件，但它不保證系統(tǒng)性能。這促使包括微軟在內(nèi)的許多客戶使用英偉達(dá)提供的光學(xué)器件。LC預(yù)計(jì)終端用戶最終將轉(zhuǎn)向使用第三方光學(xué)器件以節(jié)省成本，但這將是一個(gè)漸進(jìn)的過(guò)渡。