編者注:本文的作者是Will Oremus。在Facebook和谷歌因隱私問題飽受詬病時,亞馬遜卻在悄然發(fā)力,人們可能對它的印象還停留在“萬物商店”,但它已經(jīng)滲透進千家萬戶,It's watching u!
當(dāng)說到亞馬遜,你會想到什么?是國外版的淘寶?是準(zhǔn)時的快遞?是優(yōu)質(zhì)的售后?又或是Alexa播放的一首歌、一個電視節(jié)目,或者讓它控制家中的電器?
亞馬遜以低價和高效著稱,這也是其在各種調(diào)查中占據(jù)美國最有價值或最受歡迎品牌榜首的原因。最近一項研究發(fā)現(xiàn),亞馬遜是美國第二大最受信任的機構(gòu),領(lǐng)先谷歌、警察和高等教育系統(tǒng),僅次于美國軍隊。Facebook因一連串隱私和選舉丑聞而名聲掃地,谷歌則受累于YouTube的激進化與內(nèi)容審核機制,亞馬遜卻在此時不斷壯大自己。
但亞馬遜“萬物商店”的可靠公眾形象卻掩飾了它已經(jīng)變成神秘巨獸的真相,也掩蓋了它從線上到線下不斷侵蝕我們隱私的事實。
即便其競爭對手都已紛紛重新評估自身,反思責(zé)任,并呼吁出臺新的監(jiān)管規(guī)定,亞馬遜仍在對監(jiān)控設(shè)備投下重注,否認(rèn)應(yīng)當(dāng)承擔(dān)的責(zé)任,并對學(xué)術(shù)界、媒體、政界人士及其員工提出的擔(dān)憂不予理會。
喬治城大學(xué)公共利益律所(Georgetown Law’s Institute for Public Representation,IPR)的律師Lindsey Barrett 說:“我們不希望亞馬遜建造圓形監(jiān)獄?!痹撀伤?9家監(jiān)督組織組成的團體的法律顧問。
上個月,該律所向FTC(美國聯(lián)邦貿(mào)易委員會)控訴亞馬遜涉嫌違反保護兒童在線隱私。他們還發(fā)現(xiàn)即使父母試圖刪除數(shù)據(jù),亞馬遜的Echo Dot兒童版智能音箱還是私自保存了兒童的錄音和個人數(shù)據(jù)。亞馬遜將問題的一部分歸咎于軟件缺陷,并表示已經(jīng)修復(fù)。
雖然該案的結(jié)果仍有待探究,但這個投訴只是冰山一角。
如今,亞馬遜在公共互聯(lián)網(wǎng)中占據(jù)著舉足輕重的地位——它利用AI處理許多大公司和機構(gòu)的數(shù)據(jù),包括中央情報局;它跟蹤用戶的購物習(xí)慣,為目標(biāo)廣告建立詳細(xì)的檔案;它將基于云端,且由AI支持的音箱和屏幕帶入千家萬戶;它收購的一家公司生產(chǎn)的Wi-Fi路由器可以組成網(wǎng)狀網(wǎng)訪問我們的私有互聯(lián)網(wǎng)流量。
此外,通過子公司Ring,亞馬遜將攝像頭安放在數(shù)百萬人的門鈴上,還邀請他們跟鄰居、警察通過一個預(yù)防犯罪的社區(qū)共享視頻。亞馬遜還向警方和私企出售人臉識別系統(tǒng)。
未來,亞馬遜可能會更加無處不在。甚至,亞馬遜早在2015年就申請到了所謂“監(jiān)控即服務(wù)”的專利。
而亞馬遜的領(lǐng)導(dǎo)常給公眾灌迷魂湯,讓他們相信——隱私問題被夸大了。不僅如此,他們更是忽視內(nèi)部異議,將亞馬遜濫用技術(shù)對可能性歸結(jié)為別人的問題。
亞馬遜云服務(wù)的負(fù)責(zé)人Andy Jassy稱:“技術(shù)或許存在濫用的可能性,但這并不意味著我們就應(yīng)該禁止并譴責(zé)它。”他認(rèn)為,禁用人臉識別(它或許是有效的監(jiān)管工具,但卻存在歧視有色人種的可能性)就好比禁用電子郵件或刀,其影響也是有好有壞的。
確實,亞馬遜的所有產(chǎn)品都存在益處,但當(dāng)你將這些都拼湊在一起,在云端裝上無數(shù)“眼睛”和“耳朵”,那就足以產(chǎn)生奧威爾式的影響,相比之下,F(xiàn)acebook和谷歌(這兩家公司因隱私問題飽受詬病)似乎也相形見絀了。
客廳里的耳朵先說說Alexa系列的設(shè)備,如Amazon Echo、Echo Dot以及Echo Show等,這些已經(jīng)成為智能家居的主要產(chǎn)品。
超過1億的用戶大開“方便之門”,親手將亞馬遜的攝像頭和麥克風(fēng)請進了自家廚房、客廳或臥室,相信亞馬遜會在此過程中保護好他們的隱私。
亞馬遜辯稱,Echo只有在聽到喚醒詞時才會開始錄音,但這一系統(tǒng)離萬無一失還差得遠(yuǎn)——幾乎每位用戶都曾因設(shè)備“聽”錯喚醒詞忽然啟動,而受到驚嚇。Alexa也因此會錯誤收集對話片段,并意外將這些記錄發(fā)給陌生人。但亞馬遜對此并不那么在意。
此外,從Echo上刪除錄音文件要比在Google Home或Apple HomePod上更難,對于給Echo Show等設(shè)備的攝像頭上配置物理快門以防止意外錄制的計劃,亞馬遜也是一拖再拖。
對于一家引領(lǐng)人機關(guān)系革命的公司,亞馬遜對隱私的態(tài)度甚至顯得不屑一顧。去年,Alexa Engine Software的副總裁Al Lindsay在接受媒體采訪時,被要求指出一項他認(rèn)為是有效的,且跟亞馬遜相關(guān)的數(shù)據(jù)隱私問題,或者說出一項他的團隊正在進行的與隱私有關(guān)的挑戰(zhàn)。他說他一個都想不出來。
反倒是,亞馬遜以外的監(jiān)管者發(fā)現(xiàn)了問題。今年四月,彭博社報道稱亞馬遜在全球雇傭數(shù)以千計的承包商來審核Alexa用戶的錄音。
亞馬遜辯稱其目的不是監(jiān)聽用戶,而是幫助改進軟件。這是人工智能培訓(xùn)公司的常見做法,但亞馬遜并沒有向用戶明確披露其系統(tǒng)的機制。蘋果的Siri和谷歌助手也有人工審核員,但他們采取了措施對用戶的錄音匿名化,而Alexa的錄音則與每個用戶的帳號、設(shè)備序列號和名字相關(guān)聯(lián)。
還有指控稱亞馬遜的兒童版Echo Dot違反了聯(lián)邦兒童在線隱私保護法,并在簽署同意書方面耍了小手段。IPR的Barrett說,她很難相信這么大的一家公司會在一款明確面向兒童并向兒童銷售的設(shè)備上犯下如此直接的侵犯隱私行為。
對于上述事件,該公司聲明稱,它有嚴(yán)格的協(xié)議來保護客戶的隱私和安全,并指出客戶可以隨時在Alexa應(yīng)用程序中或通過訪問在線Alexa隱私中心來查看和刪除錄音。
亞馬遜希望將Alexa設(shè)備部署到汽車酒店房間、教室,甚至兒童醫(yī)院,卻并未強調(diào)其隱私和安全性,簡直是細(xì)思極恐。
不過,亞馬遜在上月推出了一系列新的Alexa隱私功能,你可以要求“Alexa,刪除我今天說的一切?!钡聦嵶C明,這一功能著實雞肋,Alexa不會在聽到指令時刪除錄音,而是引導(dǎo)用戶打開Alexa App,然后經(jīng)過一長串菜單選項導(dǎo)航。并且你只能刪除一天的記錄,要想刪除所有記錄則需要經(jīng)過8個步驟。
至今,亞馬遜都沒有像谷歌那樣提供自動刪除錄音的選項。
迄今為止,亞馬遜還沒有在Alexa上推出語音廣告,這可能有助于強化該公司的電商形象,而不是讓你成為商品。但這并不意味著你的Echo不會收集數(shù)據(jù)并從中獲利。事實上,它正在跟蹤你的購買記錄和音樂選擇以用于產(chǎn)品推薦了。
雖然它沒有像谷歌或Facebook那樣受到審查,但亞馬遜的數(shù)字廣告業(yè)務(wù)正在悄然蓬勃發(fā)展:它現(xiàn)在是僅次于雙頭壟斷的第三大經(jīng)濟體。根據(jù)最近預(yù)計,亞馬遜2019年預(yù)計將拿下美國1300億美元市場近10%的份額。
街上的眼睛
亞馬遜在2018年初以10億美元收購的“智能門鈴”創(chuàng)企Ring。其他互聯(lián)網(wǎng)巨頭大多只窺探用戶的在線行為,而Ring讓亞馬遜和你一起,監(jiān)控現(xiàn)實世界中其他人的行為。它的無線連接設(shè)備安裝在家庭和企業(yè)的門外,可以持續(xù)監(jiān)視30英尺半徑范圍的動態(tài),并在檢測到運動時捕捉視頻。用戶可以實時觀看實時動態(tài),付費后還可以存儲和觀看錄制的內(nèi)容。
亞馬遜現(xiàn)在是門鈴攝像頭市場的主導(dǎo)者,一位分析師預(yù)測該市場到2023年的規(guī)模將達到100億美元。
不滿足于讓用戶監(jiān)視他們自己的前院,Ring還通過一個叫做Neighbors的應(yīng)用程序把攝像頭變成了半公共的搜索網(wǎng)絡(luò)。Neighbors允許Ring的用戶上傳、分享和評論彼此的監(jiān)控錄像,用戶還可以向警方授權(quán)觀看視頻。亞馬遜在一份聲明中表示:“通過鼓勵社區(qū)直接與當(dāng)?shù)鼐胶献魈幚砘钴S案件,有助于保護社區(qū)安全?!?/p>
這一功能可讓部分執(zhí)法機構(gòu)樂壞了。CNET的一份報告指出,從休斯敦到印第安納州哈蒙德的警察部門都在跟亞馬遜合作,向市民提供打折的Ring設(shè)備,同時鼓勵他們在Neighbors上分享監(jiān)控視頻。有些州的“整個鎮(zhèn)區(qū)已獲攝像頭的全覆蓋”,警方幾乎免費實現(xiàn)了全市安全攝像頭的全覆蓋。
雖然,亞馬遜沒有規(guī)定用戶必須與警方分享視頻,但它的執(zhí)法門戶網(wǎng)站讓執(zhí)法人員很容易向任何特定用戶索要視頻——許多人可能會覺得難以拒絕。即便用戶在應(yīng)用程序中保持匿名,但他們的大概位置還是顯而易見。
對此,Ring試圖撇清關(guān)系,指出要求客戶與警方分享視頻以換取設(shè)備折扣的計劃自己是不支持的。
你可能會認(rèn)為,在網(wǎng)絡(luò)隱私擔(dān)憂加劇之際,科技巨頭對涉足線下監(jiān)視的想法應(yīng)該給更加謹(jǐn)慎才是。就亞馬遜而言,你錯了。
Ring創(chuàng)始人Jamie Siminoff曾向員工發(fā)表過激言論,并向“人渣犯罪分子(declared war on “dirtbag criminals)”宣戰(zhàn)。并且,至少在亞馬遜收購之前,該公司自身的安全性有時顯得松懈:人們多次發(fā)現(xiàn)Ring以明文形式存儲客戶的家庭無線密碼,并向海外服務(wù)器發(fā)送20毫秒的音頻數(shù)據(jù)包。
根據(jù)2018年的一份報告,從2016年開始,Ring還允許烏克蘭的研發(fā)人員訪問用戶的個人視頻記錄進行分析。亞馬遜表示,這種做法僅限于在Neighbors應(yīng)用程序上公開分享的視頻,但拒絕透露該政策何時生效。
Macomb Community College的教授Chris Gilliard說:“亞馬遜實際上是在出售恐懼。他們試圖讓人們?yōu)檫@樣的想法買單——一個更受監(jiān)管的社會是更安全的社會。但這取決于你是不是被監(jiān)視的人。Ring和Neighbors實際上會讓社會對有色人種更具偏見,他們在具有鄰里監(jiān)督要素的社交網(wǎng)絡(luò)中被認(rèn)定為 ‘可疑’的可能性更高。在過去,如果居民看到自認(rèn)為可疑的人時可能會告訴鄰居或報警,但他們可能不會廣而告之到整個社區(qū)。但現(xiàn)在是了?!?/p>云端的大腦
盡管大多數(shù)人仍然認(rèn)為亞馬遜就是一家在線零售商,但其大部分利潤現(xiàn)在來自亞馬遜網(wǎng)絡(luò)服務(wù),據(jù)估計,其云服務(wù)器為近一半的互聯(lián)網(wǎng)提供支持。對于較小的網(wǎng)站,AWS主要充當(dāng)基礎(chǔ)設(shè)施提供商。但是對于那些龐大的機構(gòu)和公司來說,AWS也挖掘和分析數(shù)據(jù),解碼文本和圖像,做出預(yù)測和建議。
這些客戶包括主要的執(zhí)法和情報機構(gòu),如國土安全部、國防部和中央情報局。亞馬遜在2017年成立了AWS的一個特別部門來處理政府機密情報。AWS的客戶還包括Palantir,這是一家由彼得·泰爾共同創(chuàng)立的硅谷大數(shù)據(jù)公司,為美國移民和海關(guān)執(zhí)法局提供服務(wù)。
在谷歌迫于員工壓力退出百億美元云服務(wù)合同后,AWS正與微軟Azure展開激烈角逐,試圖將五角大樓帶入云端。
AWS最有爭議的服務(wù)是Rekognition,這是一個使用機器學(xué)習(xí)來分析圖像和視頻片段的平臺。Rekognition還具備將視頻記錄中的人臉與數(shù)據(jù)庫中的人臉集合進行匹配的能力,以及能夠識別人臉特征和表情的人臉分析技術(shù)。
美國公民自由聯(lián)盟(ACLU)2018年的一份報告聚焦了亞馬遜向執(zhí)法機構(gòu)推廣其面部識別功能,并與佛羅里達州奧蘭多和俄勒岡州華盛頓縣的警方建立了合作關(guān)系。
在韓國首爾舉行的一次開發(fā)者大會上,亞馬遜的Ranju Das解釋說奧蘭多的警察擁有“遍布整個城市的攝像頭 ”,這些攝像頭將視頻流傳輸給亞馬遜進行實時分析。它可以將監(jiān)控視頻中的人臉與數(shù)據(jù)庫中的照片進行比較,以確定某些人的下落。
人臉識別應(yīng)用的一個致命問題就是不準(zhǔn)確,特別是在識別有色人種時。在2018年ACLU的一項測試中,Rekognition錯誤地將28名國會議員的匹配到犯罪嫌疑人的照片上,在錯誤匹配中,有色人種的國會議員占比較高。亞馬遜認(rèn)為這項研究在幾個方面具有誤導(dǎo)性,因為它對匹配使用了低于AWS推薦的置信度閾值,并且使用了舊版的Rekognition軟件。
一些員工和股東認(rèn)為亞馬遜為Palantir和ICE等開發(fā)人工智能工具和面部識別的想法并不合適。一位匿名的亞馬遜員工表示,約有450名員工聯(lián)名簽署了一封致CEO貝佐斯的信,呼吁該公司放棄跟Palantir合作并停止向警方提供Rekognition的服務(wù)。
該員工寫道:“像我們這樣的公司不應(yīng)該從事便利獨裁監(jiān)控的業(yè)務(wù)”。在隨后的一次采訪中,該員工表示亞馬遜領(lǐng)導(dǎo)層對此的回應(yīng)是“無限地沉默”。
這并不奇怪,因為AWS副總裁Teresa Carlson在被問到亞馬遜是否會給自己所承擔(dān)的防務(wù)工作劃任何的紅線或制訂指導(dǎo)方針時,她的答案很明確:“我們不劃任何的紅線?!?/strong>
在2019年2月的一篇博客文章里,亞馬遜表示,它將對人臉識別進行某種形式的立法以促進透明性和尊重公民權(quán)利等目標(biāo)持開放態(tài)度。此前,微軟在2018年更直接地呼吁監(jiān)管這項技術(shù)。但是,當(dāng)微軟提出嚴(yán)格的道德理由來控制它時,亞馬遜卻一直在為其辯護,“在我們提供Amazon Rekognition兩年多的時間里,我們尚未收到一份關(guān)于執(zhí)法濫用的報告,”該公司在博客文章中說。
監(jiān)控即服務(wù)專利申請不能告訴你一家公司實際上會做什么。通常,他們只是盡可能多地申請專利,以防有朝一日能將其商業(yè)化。但盡管如此,我們從專利中還是能看出公司對未來幾年的競爭環(huán)境的看法。如果說亞馬遜的專利文件會透露某些信息的話,那就是公司將監(jiān)控能力的擴展視為其未來的重要組成部分。亞馬遜將這一想法叫做“監(jiān)控即服務(wù)”。
智能音箱、AI語音助手、門鈴攝像頭以及人臉識別都有其優(yōu)點,它們?yōu)槲覀兲峁┝吮憷屛覀儼残?,并有可能解決可能一些否則無法解決的犯罪問題。但是如果把這些湊到一起,由一家科技巨獸控制所有的數(shù)據(jù),并與警方和情報機構(gòu)密切合作,你可能就會生活在一個空前強大的監(jiān)控之下。
假設(shè)沒有人阻止亞馬遜建立這個網(wǎng)絡(luò),問題就變成了我們是否能信任該公司在設(shè)計其產(chǎn)品和保護他們收集的大量數(shù)據(jù)時能夠負(fù)起責(zé)任、深思熟慮、小心謹(jǐn)慎——以及我們是否能信任所有使用亞馬遜技術(shù)的實體對我們的數(shù)據(jù)負(fù)責(zé)。
穹頂之下與道歉成癮的Facebook,和以保護隱私為賣點的蘋果相比,亞馬遜迄今在監(jiān)控方面并沒有引起巨大的關(guān)注。
但你要知道,在微軟拒絕向警方出售人臉識別技術(shù),而谷歌根本沒有這一銷售業(yè)務(wù)的情況下,亞馬遜卻在向全國各地的警察部門進行兜售。
亞馬遜CTO Werner Vogels在接受BBC采訪時解釋說,確保負(fù)責(zé)任地使用其人臉識別系統(tǒng)并不是亞馬遜要承擔(dān)的角色。“這不是我要做的決定,這項技術(shù)在很多地方都得到了很好的應(yīng)用。哪一項技術(shù)在什么情況下可以用得由社會來決定?!?/p>
在2018年10月,貝佐斯將公司的軍事合同視為愛國義務(wù)的一部分。他把公司開發(fā)高科技監(jiān)控工具與書的發(fā)明進行比較,說書曾被用于行善,也曾被用于作惡。他說:“新技術(shù)裹足不前是我們最不想做的事情?!?/p>
人們可能希望亞馬遜最不想做的是開發(fā)會造成傷害的新技術(shù),但顯然它的高管更加關(guān)注的是不要妨礙創(chuàng)新。
幾十年來,科技公司的戰(zhàn)略一直秉承著這樣的觀點:創(chuàng)新的步伐是不可阻擋的,自己創(chuàng)造的新技術(shù)不該由公司來引導(dǎo)怎么去用。
不過似乎亞馬遜對這種看法不敢茍同。
一直在研究Ring和Neighbors如何影響少數(shù)族裔的研究員Gilliard表示,他懷疑亞馬遜對其產(chǎn)品影響這種無所謂(不管是有意還是無意)的態(tài)度可能難以為繼。他表示:“亞馬遜只是還沒有遭遇他們的劍橋分析時刻?!?/strong>
在沒有出現(xiàn)亞馬遜員工和管理層良心發(fā)現(xiàn),或是爆出驚天丑聞的轉(zhuǎn)折點之前,對亞馬遜脖子伸得太長最好的防御手段也許是監(jiān)管。
5月,舊金山成為美國第一個禁止人臉識別的大城市。該技術(shù)的捍衛(wèi)者發(fā)現(xiàn)這一行動不成熟且過于激進。但亞馬遜的一位匿名員工警告說,如果我們不盡快采取行動的話,“所造成的傷害將很難恢復(fù)”。警察部門一旦對Neighbors形成依賴讓他們放棄使用簡直是難以想象。雖然人們可能會希望亞馬遜決定不給門鈴、汽車或無人機提供人臉識別能力,但沒有任何跡象表明它的領(lǐng)導(dǎo)人認(rèn)為這里面有問題。
亞馬遜之前曾克服了社會信任的障礙。1995年它就推出了在線書店,那時候距離互聯(lián)網(wǎng)歷史上首次實現(xiàn)在線購物僅僅一年。亞馬遜和eBay一起說服了公眾在網(wǎng)上使用信用卡并不像懷疑者所想的那樣瘋狂。
盡管該公司在看似不協(xié)調(diào)的方向上擴張,但它仍嚴(yán)格專注于簡化過去繁瑣的流程,從快速廉價的交付到通過語音控制智能設(shè)備。
Rekognition可以自動將一個犯罪嫌疑人的臉與數(shù)據(jù)庫中數(shù)十萬張照片進行比較,或者當(dāng)你的街道上發(fā)生可疑事件時,Ring可以第一時間提醒鄰居和警察。 但值得一問的是,在我們讓監(jiān)控變得像一鍵式亞馬遜購物一樣簡單和無處不在之前,讓社會上的某些事情保持繁瑣會不會是更好的選擇。
AD:還在為資金緊張煩惱嗎?獵云銀企貸,全面覆蓋京津冀地區(qū)主流銀行及信托、擔(dān)保公司,幫您細(xì)致梳理企業(yè)融資問題,統(tǒng)籌規(guī)劃融資思路,合理撬動更大杠桿。填寫只需兩分鐘,剩下交給我們! (來源:獵云網(wǎng))
- 蜜度索驥:以跨模態(tài)檢索技術(shù)助力“企宣”向上生長
- 特斯拉CEO馬斯克身家暴漲,穩(wěn)居全球首富寶座
- 阿里巴巴擬發(fā)行 26.5 億美元和 170 億人民幣債券
- 騰訊音樂Q3持續(xù)穩(wěn)健增長:總收入70.2億元,付費用戶數(shù)1.19億
- 蘋果Q4營收949億美元同比增6%,在華營收微降
- 三星電子Q3營收79萬億韓元,營業(yè)利潤受一次性成本影響下滑
- 賽力斯已向華為支付23億,購買引望10%股權(quán)
- 格力電器三季度營收同比降超15%,凈利潤逆勢增長
- 合合信息2024年前三季度業(yè)績穩(wěn)?。籂I收增長超21%,凈利潤增長超11%
- 臺積電四季度營收有望再攀高峰,預(yù)計超260億美元刷新紀(jì)錄
- 韓國三星電子決定退出LED業(yè)務(wù),市值蒸發(fā)超4600億元
免責(zé)聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏,概不負(fù)任何法律責(zé)任。任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時,應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關(guān)文章源頭核實,溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。