新聞摘要頻繁“翻車”，蘋果AI遠未成熟

極客網(wǎng)·極客觀察1月10日 蘋果在iPhone上增加一個新AI功能，它可以生成新聞提示（News Alerts）。這看起來很美好，但推出之后卻發(fā)現(xiàn)，AI生成的提示信息并不準確，很多人要求蘋果撤銷該功能。

當出現(xiàn)突發(fā)新聞時，AI會摘取新聞，但它老是犯錯。BBC抱怨稱，去年12月份蘋果在轉述BBC報道時出現(xiàn)錯誤，BBC要求修正，蘋果直到本周才給出回應。

《衛(wèi)報》前員工Alan Rusbridger認為，蘋果AI新聞摘要產(chǎn)品明顯沒有準備好，還要繼續(xù)努力。他還認為，蘋果的新AI技術明顯失控，會給社會帶來傳播虛假信息的風險。

英國NUJ（The National Union of Journalists，全國記者聯(lián)盟）認為，蘋果應該快速行動，剔除Apple Intelligence，防止信息誤導公眾。

NUJ管理人員Laura Davison稱：“獲得精準報道已經(jīng)變得越來越重要，當公眾接收到新聞后，不應該讓他們在事后猜測新聞的真實性?！?/p>

無國界記者組織（RSF）認為，蘋果的調查不夠充分，它一再強調蘋果應該將產(chǎn)品下架。

AI新聞摘要頻繁出錯，蘋果AI遠未成熟

上個月，蘋果AI對一條新聞進行加工，告訴讀者Luigi Mangione已經(jīng)自殺。Luigi Mangione是一位美國男子，他涉嫌謀殺聯(lián)合健康保險（United Healthcare）的CEO。然而，Luigi Mangione并沒有自殺，蘋果匯總的新聞通報出現(xiàn)嚴重錯誤。

上周五，蘋果AI對BBC內容進行加工，宣稱Luke Littler拿到了飛鏢大賽的冠軍（PDC World Darts Championship），當時決賽還沒有開始。蘋果還說巴西網(wǎng)球運動員Rafael Nadal是同性戀。

BBC回應稱：“蘋果AI摘要功能給出的內容未能反映BBC內容的本意，有時甚至是完全矛盾的。蘋果應該迅速解決這些問題，因為保持新聞的準確性對于BBC維持用戶的信賴極為重要?！?/p>

不只有BBC受到影響。例如，11月份蘋果AI功能摘取《紐約時報》APP的新聞，暗示以色列總理內塔尼亞湖被捕。

RSF認為，Luigi Mangione謀殺事件影響巨大，蘋果AI生成錯誤信息，說明生成式AI服務遠沒有成熟，它無法生成可靠信息。

為了解決問題，蘋果準備升級AI功能，升級后會告知用戶新聞提示是AI生成的，但這樣做并不能解決所有問題。

RSF高管Vincent Berthier說：“蘋果只是將責任推給用戶，用戶早就被充滿困惑的信息搞得頭昏腦脹，現(xiàn)在還要檢查信息的真實性?！?/p>

蘋果聲稱是測試版本，未來會不斷優(yōu)化

蘋果稱，未來幾周就會對功能進行更新。

蘋果AI的初衷很好，它會匯總多個新聞APP的通知內容并進行重寫，然后在蘋果的鎖屏上顯示，只需要一條通知就能顯示全部內容。蘋果認為，新聞提示摘要功能可以讓用戶查看更詳細的細節(jié)。

周一時，蘋果在聲明中表示：“Apple Intelligence目前仍是測試版本，我們會根據(jù)用戶的反饋不斷優(yōu)化?！彼€說，是否接收這些摘要通知由用戶決定，用戶不想要可以關閉。

蘋果稱：“未來幾周我們會升級軟件，當展示的文本是由Apple Intelligence摘要而來時，我們會進一步澄清說明。如果用戶發(fā)現(xiàn)存在意料之外的通知摘要，希望能及時報告?！?/p>

為了趕上AI潮流，蘋果推出很多AI功能，12月份這些功能正式進入英國。新功能目前只支持iPhone 16、iPhone 15 Pro和Pro Max，而且系統(tǒng)必須達到ios 18.1，一些iPad和Mac也支持。

受挑戰(zhàn)的不止蘋果，AI幻覺難以根除

谷歌也推出了AI摘要功能，當用戶在谷歌搜索查詢內容時，結果頁最頂部會顯示摘要信息，這些內容也不完美，經(jīng)常會顯示錯誤信息。當時谷歌新聞發(fā)言人曾表示，這些只是孤例，未來摘要功能會更好。

一些AI專家擔憂，蘋果AI功能出現(xiàn)的問題可能就是“幻覺”，AI在生成內容時會保留錯誤、誤導信息。

市場咨詢公司CCS Insights的分析師Ben Wood指出：“在AI生成內容時，我懷疑遇到挑戰(zhàn)的不只有蘋果。我看到過無數(shù)案例，AI服務總是充滿自信地傳播不實信息，也就是所謂的‘幻覺’信息?！?/p>

蘋果AI只是將其它媒體的報道摘要一下，抽取一些基本信息，然后呈現(xiàn)給讀者。實際上，蘋果抽取的內容是不準確的，但在傳播時卻充滿自信，AI深信自己描述的就是事實。

Ben Wood稱：“蘋果試圖將內容進行壓縮，將它變成更簡短的摘要，這樣做會增加復雜性，最終可能輸出的是錯誤信息。蘋果肯定會盡快解決問題，競爭對手肯定也會關注蘋果的做法。”

當用戶向AI提問時，AI可能并不知道答案，但它會一本正經(jīng)胡說，裝出知道答案的樣子，實際上卻是在撒謊。

華盛頓大學信息科學教授Chirag Shah認為，蘋果AI功能遇到挫折實際上反應了更嚴重的問題，也就是“幻覺”，AI會生成內容，但會犯錯。你無法簡單通過調試解決此問題，因為“幻覺”是LLM的屬性之一，AI就是伴隨著“幻覺”運行的。

Chirag Shah還說，蘋果如果只是提醒用戶內容是AI生成的，這樣的補救遠遠不夠。他說：“大多人并不知道摘要、合成內容是怎樣生成的，沒有什么快速的修補方法。最正確的選擇是不要使用，直到進一步優(yōu)化、緩解問題后再讓它上線?！?/p>

美國東北大學AI顧問Michael Bennett認為，充滿“幻覺”的AI摘要功能讓蘋果尷尬。在Apple Intelligence推出之前，市場普遍認為蘋果在AI領域落后了，Apple Intelligence可以讓蘋果回到正軌，但現(xiàn)在看來問題還有很多。

生成海報

免責聲明：本網(wǎng)站內容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網(wǎng)站對有關資料所引致的錯誤、不確或遺漏，概不負任何法律責任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內容可能涉嫌侵犯其知識產(chǎn)權或存在不實內容時，應及時向本網(wǎng)站提出書面權利通知或不實情況說明，并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關文章源頭核實，溝通刪除相關內容或斷開相關鏈接。