亞馬遜今年因其在多家實體超市安裝的“Just Walk Out”技術(shù)而受到批評。這套由AI驅(qū)動的系統(tǒng)讓顧客可以直接選購商品后離開，AI通過大量傳感器判斷顧客選擇的商品，然后自動結(jié)賬。然而，今年四月有報道稱，這項技術(shù)實際上需要印度的約1000名工人手動檢查近三分之二的交易。亞馬遜迅速回應(yīng)稱這些報道有誤，表示印度員工只是對系統(tǒng)進行審核，并未查看所有商店的視頻。同時，亞馬遜補充道，這與任何重視準(zhǔn)確性的AI系統(tǒng)沒有區(qū)別，人類審查員在此類系統(tǒng)中很常見。
不論具體細節(jié)如何，亞馬遜的案例是一個高調(diào)的例子，展示了企業(yè)是否夸大了其AI使用的一個新興問題。這種現(xiàn)象被稱為“AI虛假宣傳”，類似于環(huán)保領(lǐng)域的“綠色洗”。
首先，回顧一下AI的定義。雖然沒有確切的定義，AI讓計算機能夠?qū)W習(xí)和解決問題。AI在經(jīng)過大量信息訓(xùn)練后能做到這一點。近年來備受關(guān)注的是所謂的“生成式AI”，這種AI專門用于創(chuàng)造新內(nèi)容，比如文本對話、音樂或圖像。ChatGPT、Google的Gemini和Microsoft的Copilot是生成式AI的流行例子。
在AI虛假宣傳中，有幾種類型。有些公司聲稱使用AI，實際上只是使用了不太復(fù)雜的計算技術(shù)；有些則夸大了其AI的效果，或聲稱其AI解決方案已完全投入使用，實際上并非如此。此外，還有一些公司只是將AI聊天機器人添加到其現(xiàn)有的非AI操作軟件上。
根據(jù)英國和芬蘭的投資基金OpenOcean的數(shù)據(jù)，2022年只有10%的科技初創(chuàng)公司在推介中提到使用AI，這一比例在2023年上升到超過四分之一。OpenOcean預(yù)計今年這一比例將超過三分之一。OpenOcean團隊成員Sri Ayangar表示，競爭融資和希望看起來處于技術(shù)前沿，促使一些公司夸大其AI能力。
Ayangar說：“一些創(chuàng)始人似乎認為，如果他們在推介中不提到AI，這可能會使他們處于不利地位，無論AI在他們的解決方案中扮演什么角色?！彼a充道：“根據(jù)我們的分析，聲稱擁有AI能力的公司與展示出可見AI驅(qū)動結(jié)果的公司之間存在顯著差距?！?/p>
這問題已悄然存在多年。根據(jù)另一家技術(shù)投資公司MMC Ventures的數(shù)據(jù)，2019年的一項研究發(fā)現(xiàn)，自稱為“AI初創(chuàng)公司”的新技術(shù)公司中有40%實際上幾乎沒有使用AI。MMC Ventures的合伙人Simon Menashy說：“今天的問題與當(dāng)時一樣，外加一個不同的問題?！彼忉尩溃骸凹舛薃I功能現(xiàn)在每個公司都可以買到，價格相當(dāng)于標(biāo)準(zhǔn)軟件。但許多公司只是將聊天機器人界面放在非AI產(chǎn)品上，而不是構(gòu)建整個AI系統(tǒng)?！?/p>
英國四大會計師事務(wù)所之一的KPMG新興技術(shù)風(fēng)險部門負責(zé)人Douglas Dick表示，AI虛假宣傳的問題并沒有得到一個統(tǒng)一的AI定義的幫助。Dick說：“如果我問一屋子的人他們對AI的定義，他們會給出不同的答案。這個術(shù)語被非常廣泛和松散地使用，沒有明確的參考點。這種模糊性導(dǎo)致了AI虛假宣傳的出現(xiàn)?！彼a充道：“AI虛假宣傳可能對企業(yè)產(chǎn)生令人擔(dān)憂的影響，從為技術(shù)和服務(wù)支付過高費用，到未能達到AI被期望幫助實現(xiàn)的運營目標(biāo)。”
與此同時，對于投資者來說，辨別真正創(chuàng)新的公司變得更加困難。Ayangar說：“如果消費者對那些聲稱提供先進AI驅(qū)動解決方案的產(chǎn)品有未滿足的期望，這可能會削弱他們對那些真正進行開創(chuàng)性工作的初創(chuàng)公司的信任?！?/p>
在美國，監(jiān)管機構(gòu)開始關(guān)注。今年早些時候，美國證券交易委員會(SEC)表示將對兩家投資咨詢公司因關(guān)于其AI使用程度的虛假和誤導(dǎo)性陳述進行起訴。國際律師事務(wù)所Charles Russell Speechlys的合伙人Nick White表示：“SEC的堅定立場表明，在AI虛假宣傳方面沒有回旋余地，這意味著至少在美國，我們可以預(yù)計未來會有更多的罰款和制裁。”
在英國，已有涵蓋AI虛假宣傳的法規(guī)和法律，包括廣告標(biāo)準(zhǔn)管理局(ASA)的行為準(zhǔn)則，該準(zhǔn)則規(guī)定營銷傳播不得在實質(zhì)上誤導(dǎo)或可能誤導(dǎo)消費者。英國公司法事務(wù)所Walker Morris的監(jiān)管團隊副主席Michael Cordeaux表示，AI聲明已成為ASA調(diào)查廣告的一個越來越常見的特征。
例如，ASA曾認為關(guān)于一款應(yīng)用程序的Instagram付費帖子中“用AI增強你的照片”的描述夸大了該應(yīng)用程序的性能，因此具有誤導(dǎo)性。Cordeaux表示：“很明顯，AI聲明越來越流行，并且顯然在吸引消費者興趣方面非常有效。”
牛津大學(xué)技術(shù)與監(jiān)管教授、全球AI專家Sandra Wachter認為：“我們正處于AI炒作周期的頂峰?！彼赋?，我們似乎忘記了是否有必要在所有任務(wù)中使用AI。她還提到，AI的環(huán)境影響常常被忽視。
Wachter說：“AI不是從樹上長出來的……這項技術(shù)對氣候變化的貢獻已經(jīng)超過了航空業(yè)。我們必須從這種單方面的過度炒作討論中走出來，認真考慮AI在具體任務(wù)和行業(yè)中的實際益處，而不是盲目地將其應(yīng)用于所有事物?！?/p>
然而，MMC Ventures研究主管Advika Jalan認為，從長遠來看，AI虛假宣傳問題可能會自行消退。她說：“AI變得如此普遍——即使只是ChatGPT的包裝——‘AI驅(qū)動’作為品牌工具可能會在一段時間后失去其差異化作用。就像曾經(jīng)說‘我們在互聯(lián)網(wǎng)上’一樣?！?/p>
本文譯自 BBC，由 BALI 編輯發(fā)布。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負任何法律責(zé)任。
任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
