歐盟AI監(jiān)管太嚴(yán)?麻省理工科學(xué)家為英語(yǔ)測(cè)試網(wǎng)站站臺(tái)

據(jù)外媒報(bào)道,麻省理工學(xué)院的科學(xué)家表示,歐盟對(duì)人工智能的監(jiān)管提案( EU proposal to regulate AI)將會(huì)影響 Duolingo 的技術(shù)創(chuàng)新。

Duolingo 是可供免費(fèi)下載的學(xué)習(xí)外語(yǔ)的應(yīng)用程序,目前已成為世界上學(xué)習(xí)第二語(yǔ)言最流行的方式。該公司在上周的 IPO 中高達(dá) 34 億美元。

歐盟在今年四月祭出了史上最嚴(yán)的人工智能監(jiān)管提案,按照風(fēng)險(xiǎn)的高低,將人工智能應(yīng)用場(chǎng)景分為“不可接受、高、有限、極小”四個(gè)風(fēng)險(xiǎn)等級(jí),以保護(hù)歐盟民眾的安全和正當(dāng)權(quán)利不受侵害。此次的 Duolingo 被評(píng)為了高風(fēng)險(xiǎn)等級(jí)(high-risk),原文作者認(rèn)為這會(huì)影響企業(yè)對(duì)類(lèi)似的教育行業(yè)(機(jī)構(gòu)/技術(shù))的投入。

一、歐盟認(rèn)為該程序存在高風(fēng)險(xiǎn)

Duolingo 中有一個(gè)功能是英語(yǔ)測(cè)試,使用該功能需要使用到人工智能系統(tǒng)。考生不需要注冊(cè),僅需要一個(gè)帶有攝像頭的聯(lián)網(wǎng)設(shè)備,在經(jīng)過(guò)一個(gè)小時(shí)的考試之后就能完成測(cè)試。測(cè)試可以防止欺詐行為(攝像頭的作用),并評(píng)估(考生的)讀寫(xiě)能力、會(huì)話(huà)和理解能力。該英語(yǔ)測(cè)試會(huì)在 2 天內(nèi)出結(jié)果,而且成本不到 50 美元。

歐盟的一項(xiàng)提案將使用人工智能“評(píng)估參加教育機(jī)構(gòu)一般測(cè)試的考生”的系統(tǒng)歸入高風(fēng)險(xiǎn)的類(lèi)別。這個(gè)標(biāo)簽適用于在測(cè)試中使用人工智能的情況,例如個(gè)性化測(cè)試(即時(shí)生成適合考生技能水平的問(wèn)題)和評(píng)分。這意味著 Duolingo 將會(huì)受到該提案的影響,有可能募資減少。

二、高風(fēng)險(xiǎn)標(biāo)簽阻礙了市場(chǎng)投資

在歐盟的人工智能監(jiān)管提案通過(guò)后,高風(fēng)險(xiǎn)人工智能系統(tǒng)的供應(yīng)商(如果想進(jìn)入市場(chǎng))將必須根據(jù)歐盟提案中的規(guī)則,采取一系列的步驟:數(shù)據(jù)和數(shù)據(jù)治理、透明度、監(jiān)督、穩(wěn)健性、準(zhǔn)確性和安全性等。該提案涵蓋了對(duì)高風(fēng)險(xiǎn)人工智能系統(tǒng)的 10 頁(yè)要求及其供應(yīng)商應(yīng)盡的義務(wù)。

原作者認(rèn)為,在高風(fēng)險(xiǎn)應(yīng)用領(lǐng)域,基本上所有的科技企業(yè)家和投資者都會(huì)抵制(反感)這些昂貴且耗時(shí)的要求,并將他們的精力投入到其他的應(yīng)用領(lǐng)域中。在此情況下,歐盟將在重要活動(dòng)等方面的技術(shù)創(chuàng)新減少。但歐洲民眾也都知道,人工智能需要長(zhǎng)久的研究時(shí)間(人工智能的研究不是一蹴而就的)。這將會(huì)影響歐洲部分企業(yè)的競(jìng)爭(zhēng)力。

三、讓門(mén)外漢也能創(chuàng)新

越來(lái)越強(qiáng)大的科技創(chuàng)新影響了民眾的生活,甚至有些可能已經(jīng)“越界”。一所學(xué)校認(rèn)為,某些技術(shù)可能過(guò)于強(qiáng)大(影響了歐盟民眾的安全),因此需要大量的預(yù)先規(guī)劃(討論)和持續(xù)監(jiān)督。這是“上游治理(upstream governance)”方法,歐盟提議的人工智能提案就是一個(gè)典型的例子。

另一種方法通常被稱(chēng)為“未授權(quán)的創(chuàng)新(unauthorized innovation)”。該方法允許即使是小型的創(chuàng)業(yè)團(tuán)隊(duì)或者預(yù)算有限的門(mén)外漢(outsider)都可以進(jìn)行嘗試創(chuàng)新并改進(jìn)產(chǎn)品(比如一開(kāi)始的 Duolingo)。

原作者認(rèn)為這是推動(dòng)創(chuàng)新的最佳方式,讓創(chuàng)新者的發(fā)揮空間受限或者要求他們承擔(dān)前期的高昂成本并不是個(gè)好主意,這將導(dǎo)致(創(chuàng)新)的步伐放緩,成功的案例也有可能變少。

結(jié)語(yǔ):嚴(yán)管不利于科技創(chuàng)新

隨著歐盟的《通用數(shù)據(jù)保護(hù)條例(General Data Protection Regulation)》于 2018 年 5 月生效,谷歌的市場(chǎng)份額有所增加,企業(yè)在歐洲的投資有所減少。原作者分析該現(xiàn)象后認(rèn)為,歐盟對(duì)人工智能進(jìn)行監(jiān)管提議將會(huì)阻礙歐盟的科技創(chuàng)新。

科技是在不斷發(fā)展的,有些時(shí)候過(guò)于強(qiáng)大導(dǎo)致了民眾對(duì)于科技的抗拒心理。但科技創(chuàng)新發(fā)展和民眾的安全不應(yīng)該是二分法,如何取得兩邊的平衡點(diǎn)將是未來(lái)治理的關(guān)鍵。

文章來(lái)源于:http://ygpos.cn/uploadfile/2021/0726/20210726141007454G.html

極客網(wǎng)企業(yè)會(huì)員

免責(zé)聲明:本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請(qǐng)進(jìn)一步核實(shí),并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏,概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí),應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。

2021-07-26
歐盟AI監(jiān)管太嚴(yán)?麻省理工科學(xué)家為英語(yǔ)測(cè)試網(wǎng)站站臺(tái)
歐盟AI監(jiān)管太嚴(yán)?麻省理工科學(xué)家為英語(yǔ)測(cè)試網(wǎng)站站臺(tái),據(jù)外媒報(bào)道,麻省理工學(xué)院的科學(xué)家表示,歐盟對(duì)人工智能的監(jiān)管提案( EU proposal to re

長(zhǎng)按掃碼 閱讀全文