以分布式網(wǎng)絡(luò)串聯(lián)閑置GPU,這家創(chuàng)企稱可將AI模型訓(xùn)練成本降低90%

極客網(wǎng)·人工智能6月15日 分布式計(jì)算初創(chuàng)公司Monster API日前表示,采用加密貨幣挖礦設(shè)備可以滿足訓(xùn)練AI模型對(duì)GPU處理能力不斷增長(zhǎng)的需求,其開(kāi)發(fā)的系統(tǒng)可以擴(kuò)展到數(shù)據(jù)中心之外的其他搭載GPU的設(shè)備(例如Macbook、游戲機(jī)甚至特斯拉汽車等),從而大幅降低開(kāi)發(fā)和訓(xùn)練AI模型的成本。

image001.jpg

Monster API利用采礦設(shè)備等GPU算力來(lái)訓(xùn)練AI模型

GPU通常用于挖掘比特幣等加密貨幣,而挖礦是一種資源密集型的過(guò)程,需要強(qiáng)大的計(jì)算能力。

加密貨幣炒作一度導(dǎo)致市場(chǎng)上GPU短缺,隨著價(jià)格飆升,企業(yè)和個(gè)人轉(zhuǎn)向采用英偉達(dá)(Nvidia) 為游戲行業(yè)提供的GPU,并將其轉(zhuǎn)變?yōu)榧用芡诘V設(shè)備專用的GPU。 

然而隨著加密貨幣熱潮的消退,許多加密挖礦設(shè)備關(guān)閉甚至被廢棄。這讓Monster API創(chuàng)始人Gaurav Vij意識(shí)到,他們可以重新改變和調(diào)整這些設(shè)備的用途,以適應(yīng)最新的計(jì)算密集型發(fā)展趨勢(shì),也就是訓(xùn)練和運(yùn)行AI基礎(chǔ)模型。 

雖然這些GPU并不具備AWS或谷歌云等部署的專用AI設(shè)備的強(qiáng)大功能,但Gaurav Vij表示,它們能夠訓(xùn)練優(yōu)化的開(kāi)源模型,其成本僅為使用云計(jì)算提供商使用的超大規(guī)模計(jì)算設(shè)備的一小部分。

Monster API聯(lián)合創(chuàng)始人Saurabh Vij表示:“機(jī)器學(xué)習(xí)領(lǐng)域?qū)嶋H上正在與計(jì)算能力作斗爭(zhēng),因?yàn)樾枨笠呀?jīng)超過(guò)了供應(yīng)。大多數(shù)機(jī)器學(xué)習(xí)開(kāi)發(fā)人員如今都依賴AWS、谷歌云、微軟Azure來(lái)獲取資源,最終花費(fèi)了大量資金?!?nbsp;

分布式算力網(wǎng)絡(luò)可以大幅降低AI基礎(chǔ)模型訓(xùn)練成本

實(shí)際上,除了加密采礦設(shè)備之外,在PlayStation 5等游戲系統(tǒng)和較小的數(shù)據(jù)中心中也可以找到未使用的GPU。Saurabh Vij表示:“加密采礦平臺(tái)采用GPU,而游戲系統(tǒng)也采用GPU,且GPU的功能每年都會(huì)變得更加強(qiáng)大?!?/p>

企業(yè)和個(gè)人的算力匯入分布式網(wǎng)絡(luò)需要經(jīng)歷包括數(shù)據(jù)安全檢查在內(nèi)的一系列流程。需求方根據(jù)需求添加設(shè)備,擴(kuò)展和縮小算力網(wǎng)絡(luò)。供應(yīng)方可以從出售閑置算力中獲得了一部分收入。

Saurabh Vij強(qiáng)調(diào),分布式計(jì)算系統(tǒng)將AI基礎(chǔ)模型的訓(xùn)練成本降低到了將來(lái)可以由開(kāi)源和非營(yíng)利組織訓(xùn)練的程度,而不僅僅是財(cái)力雄厚的大型科技公司?!叭绻⒁粋€(gè)AI基礎(chǔ)模型需要100萬(wàn)美元,那么像我們這樣的去中心化網(wǎng)絡(luò)只需要10萬(wàn)美元?!?/p>

極客網(wǎng)獲悉,Monster API現(xiàn)在還提供“無(wú)代碼”工具來(lái)微調(diào)模型,并向那些沒(méi)有技術(shù)專長(zhǎng)或資源的用戶開(kāi)放,讓他們從頭開(kāi)始訓(xùn)練模型,進(jìn)一步“民主化”計(jì)算能力和AI基礎(chǔ)模型。 

“微調(diào)非常重要,因?yàn)榇罅康拈_(kāi)發(fā)者沒(méi)有足夠的數(shù)據(jù)和資金來(lái)從頭開(kāi)始訓(xùn)練模型。”他表示,通過(guò)優(yōu)化,Monster API已將微調(diào)成本削減90%,使得每個(gè)模型的微調(diào)費(fèi)用約為30美元。 

開(kāi)源模型訓(xùn)練可以幫助開(kāi)發(fā)人員利用AI進(jìn)行創(chuàng)新 

雖然AI開(kāi)發(fā)商面臨迫在眉睫的監(jiān)管,這可能會(huì)直接影響到這些訓(xùn)練模型和開(kāi)源,但Saurabh Vij認(rèn)為開(kāi)源模型訓(xùn)練有其積極意義。Monster API已經(jīng)認(rèn)識(shí)到有必要在其分散的網(wǎng)絡(luò)中管理潛在風(fēng)險(xiǎn),并確?!翱勺匪菪?、透明度和問(wèn)責(zé)制”。   

“在短期內(nèi),也許監(jiān)管機(jī)構(gòu)會(huì)獲勝,但我對(duì)開(kāi)源社區(qū)非常有信心,它的發(fā)展非常非??臁T赑ostman (API開(kāi)發(fā)平臺(tái))上有2500萬(wàn)注冊(cè)開(kāi)發(fā)人員,其中很大一部分正在構(gòu)建生成式AI,這為所有人開(kāi)辟了新的業(yè)務(wù)和新的機(jī)會(huì)?!彼硎?。

極客網(wǎng)了解到,通過(guò)訓(xùn)練低成本的AI模型,Monster API的目標(biāo)是讓開(kāi)發(fā)人員最大限度能夠利用機(jī)器學(xué)習(xí)進(jìn)行創(chuàng)新。目前他們已經(jīng)有了一些知名的AI模型(例如Stable Diffusion和Whisper)可以進(jìn)行微調(diào),此外用戶還可以使用這些GPU算力從頭開(kāi)始訓(xùn)練自己的AI基礎(chǔ)模型。

Saurabh Vij介紹稱:“我們已經(jīng)在Macbook上進(jìn)行了文圖生成實(shí)驗(yàn),每分鐘至少可以輸出10張圖像。我們希望在網(wǎng)絡(luò)上接入數(shù)百萬(wàn)臺(tái)Macbook,讓用戶在睡覺(jué)時(shí)也能使用他們的Macbook運(yùn)行Stable Diffusion、Whisper或其他AI模型獲利。

“最終,Playstation、Xbox、Macbook都將成為強(qiáng)大的計(jì)算資源,甚至是特斯拉汽車——因?yàn)樘厮估囈膊捎昧藦?qiáng)大的GPU,而且大多數(shù)時(shí)候停在車庫(kù)中?!盨aurabh Vij補(bǔ)充道。

(免責(zé)聲明:本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請(qǐng)進(jìn)一步核實(shí),并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏,概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí),應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說(shuō)明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。 )

贊助商
2023-06-15
以分布式網(wǎng)絡(luò)串聯(lián)閑置GPU,這家創(chuàng)企稱可將AI模型訓(xùn)練成本降低90%
“最終,Playstation、Xbox、Macbook都將成為強(qiáng)大的計(jì)算資源,甚至是特斯拉汽車——因?yàn)樘厮估囈膊捎昧藦?qiáng)大的GPU,而且大多數(shù)時(shí)候停在車庫(kù)中?!?/div>

長(zhǎng)按掃碼 閱讀全文