報(bào)告稱OpenAI采集了超一百萬小時(shí)的YouTube視頻來訓(xùn)練GPT-4

  4 月 7 日消息，本周早些時(shí)候，《華爾街日報(bào)》報(bào)道稱 AI 公司在收集高質(zhì)量訓(xùn)練數(shù)據(jù)方面遇到了困難。今天，《紐約時(shí)報(bào)》詳細(xì)介紹了 AI 公司處理此問題的一些方法，其中涉及到屬于 AI 版權(quán)法模糊灰色區(qū)域的內(nèi)容。

  報(bào)道稱，OpenAI 迫切需要訓(xùn)練數(shù)據(jù)，并開發(fā)了 Whisper 音頻轉(zhuǎn)錄模型來克服困難，轉(zhuǎn)錄了超過 100 萬小時(shí)的 YouTube 視頻來訓(xùn)練其最先進(jìn)的大型語言模型 GPT-4。

  報(bào)道提到，OpenAI 在 2021 年耗盡了有用的數(shù)據(jù)供應(yīng)，并在耗盡其他資源后討論了轉(zhuǎn)錄 YouTube 視頻、播客和有聲讀物的可行性。此外，OpenAI 使用了包括來自 Github 的計(jì)算機(jī)代碼、國際象棋走棋數(shù)據(jù)庫和來自 Quizlet 的作業(yè)內(nèi)容。

  據(jù)報(bào)道，OpenAI 公司知道這在法律上存在問題，但認(rèn)為這是合理使用。《泰晤士報(bào)》則透露，OpenAI 總裁 Greg Brockman 親自參與了所使用視頻的收集。

  OpenAI 發(fā)言人 Lindsay Held 在一封電子郵件中告訴 The Verge，該公司為其每個(gè)模型策劃了“獨(dú)特”的數(shù)據(jù)集，以“幫助他們了解世界”并保持其全球研究競爭力。Held 補(bǔ)充說，該公司使用“眾多來源，包括公開數(shù)據(jù)和非公開數(shù)據(jù)的合作伙伴”，并且正在考慮生成自己的合成數(shù)據(jù)。

  谷歌發(fā)言人 Matt Bryant 在一封電子郵件中表示，該公司“看到了有關(guān) OpenAI 活動(dòng)的未經(jīng)證實(shí)的報(bào)告”，并補(bǔ)充說“我們的 robots.txt 文件（注：網(wǎng)站與爬蟲間的君子協(xié)定）和服務(wù)條款都禁止未經(jīng)授權(quán)的抓取或下載 YouTube 內(nèi)容”。

  值得注意的是，YouTube 首席執(zhí)行官 Neal Mohan 近日在采訪中公開表示，盡管沒有直接證據(jù)表明 OpenAI 使用 YouTube 視頻來訓(xùn)練 Sora（文本生成視頻的 AI 模型），但警告稱這種行為違反了 YouTube 現(xiàn)行的平臺(tái)服務(wù)條款。

  Meta 同樣也遇到了數(shù)據(jù)可用性的限制，在《泰晤士報(bào)》聽到的錄音中，Meta 的 AI 團(tuán)隊(duì)為了努力追趕 OpenAI，討論了未經(jīng)許可使用版權(quán)作品的情況。該公司在瀏覽了“互聯(lián)網(wǎng)上幾乎可用的英語書籍、散文、詩歌和新聞文章”后，顯然考慮采取一些措施，例如支付圖書許可費(fèi)用，甚至直接收購一家大型出版商。