極客網(wǎng)·人工智能12月6日 不久前亞馬遜推出AI工具“亞馬遜Q”，它的競(jìng)爭(zhēng)對(duì)手是微軟Copilot。業(yè)界本來(lái)以為亞馬遜來(lái)勢(shì)洶洶，Q應(yīng)該很不錯(cuò)，但最新報(bào)告顯示，這款AI工具并不成熟，可能還沒(méi)有準(zhǔn)備好。
Q到底有什么問(wèn)題呢？The Platformer在報(bào)道中說(shuō)，Q不夠精準(zhǔn)，侵犯隱私，存在“幻覺(jué)”（相當(dāng)于出錯(cuò)），泄露數(shù)據(jù)。研究報(bào)告顯示，亞馬遜的大語(yǔ)言模型連接企業(yè)數(shù)據(jù)庫(kù)時(shí)極其不精準(zhǔn)，也不夠透明。
亞馬遜新聞發(fā)言人回應(yīng)稱，Q并沒(méi)有泄露過(guò)任何機(jī)密文件。該新聞發(fā)言人稱：“一些亞馬遜員工會(huì)通過(guò)內(nèi)部渠道和系統(tǒng)分享信息，這在亞馬遜是標(biāo)準(zhǔn)操作。沒(méi)有證據(jù)顯示有什么安全問(wèn)題是反饋的問(wèn)題造成的。我們已經(jīng)收集到所有的反饋意見(jiàn)，會(huì)繼續(xù)調(diào)校Q，它正在從預(yù)覽版產(chǎn)品變成公用產(chǎn)品。”
按照亞馬遜自己的說(shuō)法，Q已經(jīng)是無(wú)數(shù)人的工作伙伴，但報(bào)告卻認(rèn)為Q還沒(méi)有為企業(yè)使用做好準(zhǔn)備。
EIIRTrend & Pareekh咨詢公司CEO Pareekh Jain說(shuō)：“如果出現(xiàn)‘幻覺(jué)’，在企業(yè)決策時(shí)就無(wú)法使用Q。如果只是個(gè)人使用或者獲取信息，用Q沒(méi)有什么問(wèn)題，但在決策時(shí)不能用?！?/p>
亞馬遜Q需要更多測(cè)試
在亞馬遜生成式AI正式商用之前，可能還需要進(jìn)行更多的測(cè)試。
Pareekh Jain說(shuō)：“我覺(jué)得亞馬遜應(yīng)該先用內(nèi)部員工多做些測(cè)試。很明顯，亞馬遜正在做。沒(méi)有外部信息源提及當(dāng)中的問(wèn)題。有兩樣?xùn)|西很重要，一是數(shù)據(jù)，二是算法。亞馬遜應(yīng)該看看到底是數(shù)據(jù)問(wèn)題還是算法問(wèn)題。”
亞馬遜AWS已經(jīng)積累了17年的數(shù)據(jù)。Q的定位很高，它的目標(biāo)是成為企業(yè)“萬(wàn)能工具”。從產(chǎn)業(yè)發(fā)展趨勢(shì)看，Q很重要，可能會(huì)影響亞馬遜的前途。
IDC高管Sharath Srinivasamurthy認(rèn)為，對(duì)于消費(fèi)者和企業(yè)用戶來(lái)說(shuō)，“幻覺(jué)”并不會(huì)削弱AI的潛力，但進(jìn)行更好的訓(xùn)練仍然是至關(guān)重要的。
Sharath Srinivasamurthy說(shuō)：“用更高質(zhì)量的數(shù)據(jù)、更好的提示（用更精準(zhǔn)的提示引導(dǎo)用戶，這些提示是模型容易理解的）訓(xùn)練模型，用組織或者行業(yè)專用數(shù)據(jù)持續(xù)優(yōu)化模型，出現(xiàn)可疑精況時(shí)增加人工檢查，亞馬遜可以從這些措施下手，讓新技術(shù)得到更好的應(yīng)用?！?/p>
AI“幻覺(jué)”應(yīng)該監(jiān)管嗎？
AI出現(xiàn)“幻覺(jué)”，是不是應(yīng)該加強(qiáng)監(jiān)管？Greyhound Research公司CEO Sanchit Vir Gogia認(rèn)為，監(jiān)管可能適得其反。
Sanchit Vir Gogia說(shuō)：“任何監(jiān)管都有可能妨礙數(shù)據(jù)的交換和使用。就眼下來(lái)說(shuō)，監(jiān)管越少，行業(yè)會(huì)發(fā)展越好。監(jiān)管少了，數(shù)據(jù)使用會(huì)更容易，更流暢?？纯碠penAI的GPT，如果限定它應(yīng)該抓取什么數(shù)據(jù)，不應(yīng)該抓取什么數(shù)據(jù)，它可能不會(huì)騰飛?！?/p>
Sanchit Vir Gogia還認(rèn)為，設(shè)定外部邊界可能不太可行，讓企業(yè)自己來(lái)設(shè)定邊界可能更好。他解釋說(shuō)：“監(jiān)管可能會(huì)有，但主要還是要讓企業(yè)自我監(jiān)管。雖然監(jiān)管和指導(dǎo)是必要的，但如何審計(jì)卻是麻煩所在。重點(diǎn)應(yīng)該是打造負(fù)責(zé)任的AI，也就是說(shuō)創(chuàng)造者可以向客戶解釋內(nèi)在邏輯，它不能是一套黑盒系統(tǒng)?！?/p>
“新人”亞馬遜的AI之路還很長(zhǎng)
分析師們認(rèn)為亞馬遜應(yīng)該加強(qiáng)內(nèi)部測(cè)試，加強(qiáng)自我監(jiān)管，從而打造更好的AI，這些看法當(dāng)然沒(méi)錯(cuò)，但將AI部署到企業(yè)是很復(fù)雜的，這點(diǎn)更加值得關(guān)注。亞馬遜需要解決這些挑戰(zhàn)，在AI領(lǐng)域它是新人，前方的路還很漫長(zhǎng)。
Jain說(shuō)：“在這一領(lǐng)域AWS實(shí)際上慢了一拍，領(lǐng)導(dǎo)者是微軟和谷歌。用戶有很高的預(yù)期，在聊天機(jī)器人及其它相關(guān)技術(shù)方面更是如此?！?/p>
亞馬遜AI出現(xiàn)“幻覺(jué)”并不稀奇，ChatGPT同樣存在許多問(wèn)題，比如分不清真與假，有時(shí)會(huì)發(fā)表傷害人的言論，傳播虛假信息?？墒莵嗰R遜剛剛?cè)腴T，工作做得不好，這對(duì)它的AI業(yè)務(wù)會(huì)造成很大打擊。
面對(duì)質(zhì)疑，亞馬遜新聞發(fā)言人盡力淡化問(wèn)題。上周亞馬遜AWS主管Adam Selipsky接受采訪，當(dāng)時(shí)記者曾說(shuō)，蘋果、Verizon、Northrop Grumman年初時(shí)發(fā)布政策，禁止員工使用ChatGPT，主要是因?yàn)榇嬖陔[私、泄密擔(dān)心，記者問(wèn)他對(duì)此有何看法，Adam Selipsky回答道：“比起消費(fèi)聊天機(jī)器人，亞馬遜Q更安全、更重視隱私。”
但現(xiàn)在的報(bào)告證實(shí)，Adam Selipsky的說(shuō)法經(jīng)不起考驗(yàn)。（小刀）
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。 ）
