谷歌AI搜索遭遇當(dāng)頭一棒：AI Overview結(jié)果紕漏百出

極客網(wǎng)·極客觀察6月3日 多年來，谷歌搜索基本沒有大的變化，但最近卻增加了新AI功能。谷歌的目標(biāo)很明確，它不想錯(cuò)過AI浪潮，想與微軟、OpenAI競爭。

遺憾的是，谷歌新推出的AI Overview遠(yuǎn)遠(yuǎn)稱不上完美，它輸出的結(jié)果不精準(zhǔn)，謊話連篇，甚至能逼瘋用戶。例如，AI Overview建議用戶用膠水作為披薩配料，建議食用石塊獲得營養(yǎng)。嚴(yán)重的錯(cuò)誤已經(jīng)影響到谷歌聲譽(yù)。

全球有20億人依賴谷歌搜索，AI Overview提供的信息不可靠，后果當(dāng)然惡劣。雖然其它AI聊天機(jī)器人也會抽瘋，但公眾對谷歌的苛刻并非無理取鬧，他們希望谷歌搜索更負(fù)責(zé)一些。

谷歌AI，持續(xù)水逆

在過去一段時(shí)間，谷歌AI產(chǎn)品多次遭受抨擊。例如，2023年2月谷歌推出Bard，與ChatGPT競爭，雖然吹得極厲害，但它提供的信息同樣錯(cuò)漏百出。

年初時(shí)谷歌推出Gemini，它可以生成圖片，也可以變成用語音控制的數(shù)字助手。推出沒多久便有用戶發(fā)現(xiàn)，Gemini不愿意生成以白人為主角的圖片，它對歷史人物的描述也嚴(yán)重不準(zhǔn)確。

錯(cuò)誤如此之多，如此之連續(xù)，絕對不是偶然，要么是AI技術(shù)存在缺陷，要么是谷歌技術(shù)實(shí)力被夸大。金融分析師則認(rèn)為，投資者向谷歌施加太大壓力，逼迫谷歌加快創(chuàng)新速度，結(jié)果導(dǎo)致推出的產(chǎn)品不夠成熟。

Investing網(wǎng)站分析師Thomas Monteiro稱：“現(xiàn)在的谷歌別無選擇，企業(yè)必須快速前進(jìn)，即使跳過幾個(gè)步驟也再所不惜?！?/p>

AI搜索，任重道遠(yuǎn)

谷歌新聞發(fā)言人Lara Levin認(rèn)為，AI Overview提供的大多查詢結(jié)果是高質(zhì)量信息，并且還附有鏈接，用來擴(kuò)充內(nèi)容。她還說，報(bào)告中提及的問題大多都出自非常規(guī)查詢，或者是人為操縱的案例，未來谷歌會繼續(xù)優(yōu)化系統(tǒng)。

自2022年ChatGPT獲得成功之后，谷歌努力將AI融入自家產(chǎn)品矩陣。問題在于，大模型是用海量線上數(shù)據(jù)訓(xùn)練的，這些數(shù)據(jù)充斥著虛假錯(cuò)誤信息。

雖然面臨諸多困難，谷歌仍然一往無前，最新推出的AI Overview是一個(gè)里程碑，它整合了Gemini模型，與搜索捆綁在一起。

按照設(shè)計(jì)，AI Overview可以處理復(fù)雜查詢，比傳統(tǒng)搜索效率更高。雖然谷歌高調(diào)宣稱將AI Overview與搜索整合好處多多，但現(xiàn)實(shí)卻離宣傳有很長一段距離。

AI Overview建議用戶在制作披薩時(shí)加入無毒膠水，因?yàn)樗梢苑乐鼓汤伊鲃?dòng)。為什么會給出如此荒誕的建議？因?yàn)?1年前有人在Reddit發(fā)帖，以開玩笑的口吻建議這樣做，AI完全無法識別它是不是玩笑，居然當(dāng)真了。

還有，AI Overview建議用戶每天要吃一塊石頭，攝取維生素和礦物質(zhì)，這一謬論源自一篇諷刺性文章。

谷歌搜索追求的是關(guān)聯(lián)性、可信度、實(shí)用，AI Overviews不只沒有幫上忙，還破壞了搜索。

AI幻覺，難以根除

AI出現(xiàn)錯(cuò)誤并不稀奇，這就是所謂的“幻覺”，它將錯(cuò)誤、虛擬信息當(dāng)成正確。出現(xiàn)幻覺是訓(xùn)練數(shù)據(jù)存在缺陷、算法不完美、誤解情境造成的。

數(shù)字營銷公司Chelsea Digital的CEO Mike Grehan認(rèn)為，從本質(zhì)上講，大語言模型就是根據(jù)過去看到的東西對未來進(jìn)行統(tǒng)計(jì)預(yù)測，所以“廢話進(jìn)去、廢話出來”的情況仍然存在。

AI Overviews相當(dāng)于給傳統(tǒng)搜索結(jié)果做總結(jié)，然后將總結(jié)反饋給用戶。在輸出答案時(shí)，它免不了收集一些惡搞信息、玩笑，所以很容易輸出一些似是而非的東西。

出版商、網(wǎng)站不喜歡AI Overviews，因?yàn)樗峁╅L長的摘要信息，然后將網(wǎng)站鏈接放在最后，用戶極可能沒耐心看到最后，點(diǎn)擊鏈接。

有人認(rèn)為，雖然AI Overviews不完美，會出現(xiàn)錯(cuò)誤，但大多時(shí)候是正確的，它遠(yuǎn)比普通人聰明，而且響應(yīng)速度很快，還有，即使現(xiàn)在不完美，未來也會變得接近完美。

真是這樣嗎？紐約大學(xué)教授Gary Marcus認(rèn)為，許多AI企業(yè)都在兜售“美夢”，說準(zhǔn)確率將會從80%提升至100%，但是大家要明白，達(dá)到80%的準(zhǔn)確率相對容易，向AI喂入更多數(shù)據(jù)就行，但最后20%卻充滿挑戰(zhàn)，這部分可能也是所有流程中最難的。

Gary Marcus稱：“你需要做出一些推理，然后還要做決定：這些信息真的有意義嗎？信息來源可靠嗎？你必須像人類一樣檢查信息真假。老實(shí)說，只有AGI才能做如此復(fù)雜的工作，現(xiàn)在的AI不行。”

與Meta人工智能主管Yann LeCun一樣，Gary Marcus也認(rèn)為依靠現(xiàn)在的大語言模型無法創(chuàng)造出AGI。

如果AI Overviews提供的是錯(cuò)誤答案，谷歌應(yīng)該負(fù)責(zé)嗎？按照美國1996年制定的《通信規(guī)范法》，谷歌不屬于出版商，不必為第三方內(nèi)容負(fù)責(zé)。

制定法律時(shí)，美國沒有將AI生成的搜索結(jié)果信息考慮進(jìn)去，AI Overview受不受法規(guī)約束沒有定論，因?yàn)楹茈y判斷AI Overview內(nèi)容是不是谷歌創(chuàng)作的。（小刀）

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實(shí)，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。