BBC研究發(fā)現(xiàn)，AI新聞?wù)３Ｊ?，引發(fā)對信息準(zhǔn)確性的擔(dān)憂。
BBC在經(jīng)歷了Apple Intelligence誤報事件后，發(fā)布了一項關(guān)于AI助手新聞?wù)獪?zhǔn)確性的研究，結(jié)果令人堪憂。今年1月，Apple的AI服務(wù)生成了一條虛假新聞標(biāo)題，錯誤地聲稱一名被捕男子Luigi Mangione自殺。事實上，這一消息并不屬實，BBC對此提出了投訴。雖然Apple承諾進(jìn)行軟件更新以澄清內(nèi)容來源，并暫時關(guān)閉了新聞和娛樂摘要功能，但截至iOS 18.3版本發(fā)布，該功能仍未恢復(fù)。
這次事件促使BBC對其他AI新聞?wù)?wù)進(jìn)行了深入研究。在一篇原創(chuàng)研究報告中，BBC的Pete Archer詳細(xì)介紹了公司內(nèi)部使用AI的情況，包括生成音頻內(nèi)容字幕和翻譯文章等。他強(qiáng)調(diào)，AI在被負(fù)責(zé)任地使用時能帶來真正的價值，但同時也警告稱，AI對觀眾和信息生態(tài)系統(tǒng)帶來了重大挑戰(zhàn)。
研究重點評估了OpenAI的ChatGPT、Microsoft的Copilot、Google的Gemini和Perplexity助手的表現(xiàn)。這些AI被允許訪問BBC網(wǎng)站，并回答了100個新聞相關(guān)問題。結(jié)果顯示，51%的AI回答存在重大問題，19%的回答引入了事實錯誤，13%的引用內(nèi)容與原文不符或根本不存在。
在各大AI助手中，Gemini表現(xiàn)最差，34%的回答存在嚴(yán)重問題，其次是Copilot(27%)、Perplexity(17%)和ChatGPT(15%)。常見問題包括事實錯誤、引用錯誤和缺乏背景信息。例如，Gemini錯誤地聲稱英國國家醫(yī)療服務(wù)體系(NHS)不建議通過電子煙戒煙，而實際上NHS確實推薦這種方法。
BBC新聞和時事部門的CEO Deborah Turness在一篇博客文章中寫道，AI帶來的好處不應(yīng)以扭曲事實為代價。她警告說，AI生成的虛假信息可能進(jìn)一步動搖人們對事實的信任，甚至可能導(dǎo)致嚴(yán)重的現(xiàn)實危害。
研究還指出，AI在職場中的廣泛應(yīng)用可能帶來更深遠(yuǎn)的影響。如果AI被用來撰寫郵件或總結(jié)會議內(nèi)容，而接收方也使用AI回復(fù)，最終可能導(dǎo)致信息失真，甚至削弱人們的批判性思維能力。
對此，OpenAI表示，他們正在努力改進(jìn)AI生成內(nèi)容的準(zhǔn)確性和引用方式。Microsoft則強(qiáng)調(diào)，他們通過結(jié)合用戶輸入和最新數(shù)據(jù)來提高AI回答的準(zhǔn)確性，并鼓勵用戶核實信息的真實性。
這項研究揭示了AI在新聞?wù)械木窒扌?，即使有直接的信息來源，AI仍然可能生成虛假信息。這不僅對新聞行業(yè)，也對所有依賴AI的領(lǐng)域提出了警示。
本文譯自 The Register，由 BALI 編輯發(fā)布。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
