IBM引入“光的力量”至芯片 使速度提升80倍

  ICC訊  周一，IBM宣布在光學(xué)技術(shù)上取得了突破性的進(jìn)展，該技術(shù)有望大幅改進(jìn)數(shù)據(jù)中心訓(xùn)練和運(yùn)行生成式人工智能（AI）模型的方式。其新型共封裝光學(xué)技術(shù)（Co-packaged optics）基本實(shí)現(xiàn)了將光學(xué)技術(shù)的力量帶入芯片內(nèi)部，使得數(shù)據(jù)中心內(nèi)的連接可以達(dá)到光速。

圖片來(lái)源：IBM官網(wǎng)

  在一次媒體簡(jiǎn)報(bào)會(huì)上，IBM半導(dǎo)體總經(jīng)理Mukesh Khare對(duì)記者說(shuō)，電信行業(yè)在制造更快的芯片方面已經(jīng)取得了顯著進(jìn)步，但是這些芯片之間的通信速度并沒(méi)有跟上這個(gè)步伐。計(jì)算能力的增長(zhǎng)速度與芯片間通信速度的增長(zhǎng)速度之間存在幾個(gè)數(shù)量級(jí)的差距。

  他指出：“實(shí)際上，從更基礎(chǔ)的層面上講，芯片依然通過(guò)電進(jìn)行通信，它們使用銅線(xiàn)。而我們都知道，最優(yōu)秀的通信技術(shù)是光纖，這就是為什么在長(zhǎng)距離通信中到處都在使用光纖?！?

  盡管共封裝光學(xué)技術(shù)已經(jīng)存在一段時(shí)間，但I(xiàn)BM開(kāi)發(fā)了一種新型的聚合物光波導(dǎo)（PWG）技術(shù)，為共封裝光學(xué)帶來(lái)了革新。PWG技術(shù)使得芯片制造商能夠在硅光子芯片的邊緣區(qū)域——這一被稱(chēng)為“黃金地段”的寶貴空間——布置比以往多六倍的光纖。每根光纖的寬度大約是人類(lèi)頭發(fā)的三倍，長(zhǎng)度可以從幾厘米延伸到數(shù)百米，并且能夠以每秒太比特的速度傳輸數(shù)據(jù)。

  這一切意味著什么呢？

  該公司表示，這項(xiàng)技術(shù)將使得芯片間的通信帶寬比現(xiàn)在使用電子技術(shù)時(shí)快80倍，并將能耗降低五倍以上。

  此外，它還可以使大型語(yǔ)言模型（LLM）的訓(xùn)練速度提高多達(dá)五倍，將訓(xùn)練標(biāo)準(zhǔn)LLM所需的時(shí)間從三個(gè)月縮短到三周，而且隨著更大模型和更多GPU的使用，性能增益還會(huì)增加。

  除了讓GPU和加速器之間更快地相互通信之外，這種技術(shù)還可能重新定義計(jì)算行業(yè)通過(guò)電路板和服務(wù)器傳輸高帶寬數(shù)據(jù)的方式。

  Khare表示：“我們非常興奮能夠引入光的力量，從根本上加速了人工智能世界和許多其他應(yīng)用的發(fā)展。”

  當(dāng)被問(wèn)及這項(xiàng)技術(shù)何時(shí)會(huì)商業(yè)化時(shí)，Khare表示IBM的研究部門(mén)“已經(jīng)準(zhǔn)備好投入使用”。

  官方原文：https://uk.newsroom.ibm.com/IBM-Brings-the-Speed-of-Light-to-the-Generative-AI-Era-with-Optics-Breakthrough