誰在濫用人臉識別?
2020-11-26 11:14 人臉識別

誰在濫用人臉識別?

來源:連線Insight(ID:lxinsight) 文:鐘微 王古鋒 編輯:子夜

人們已經習慣了人臉識別的存在。

酒店接待旅客,刷臉登記入住,馬路上車輛川流不息,司機們習慣于通過人臉識別解鎖手機,而他們頭頂的攝像頭,正在利用同樣的技術自動抓拍。

作為近年來AI浪潮中的標志性技術,人臉識別已經大規模落地,并應用于安防、金融等日常生活的重要場景中。

但這項給生活帶來美好改變的技術,正處于前所未有的爭議之中:當人臉識別技術不斷引發個人信息安全問題,人們將之稱作“危險的武器”。

人臉識別開始接連被叫停,從杭州動物園發生的“人臉識別第一案”到杭州一小區抵制人臉識別技術事件,人們已經對人臉識別技術產生警惕。

從美國巨頭到中國科技企業,不乏被告上法庭的,有的企業則被勒令停止和中止使用人臉識別技術,他們站在了AI浪潮之上,卻在蒙眼狂奔時,忘記給自己設上“紅線”。

更惡劣的變化在于,人臉識別的濫用已經無孔不入、防不勝防。

近期,濟南一位看房者戴著頭盔進入售樓處,這樣滑稽的行為,揭開了一條關于技術開發者、使用者和受益者的利益鏈條,人臉識別沒有成為服務消費者的技術,反而成為房地產開發商精準營銷的工具。

對于用戶而言,如果風險無法避免,只能選擇全面避開人臉識別技術。

技術的開發者和推廣者也會陷入沮喪,技術并不是一開始便帶有惡意。創新工場董事長李開復曾對外表示,隱私保護不是一個非白即黑的問題。作為AI技術以及多個科技公司的投資者,他的立場代表了許多支持者。

爭議和混亂,也許是人臉識別發展中必經的過程,從目前的狀況來看,這個過程還將持續很久。

1、誰在濫用人臉識別?

面部信息是個人重要的生物特征,具有強烈的個人身份屬性。

人臉識別技術正越來越多地出現在日常生活中,但人們沒想到的是,在你沒注意的時候,你的臉部數據就已經被“偷竊”了。

戴頭盔看房的反常行為背后,就是部分房地產公司用人臉識別技術進行精準營銷,甚至這是以犧牲買房者的利益為代價。

據南方都市報報道,這或與房企的分銷模式有關,售樓部裝有人臉識別系統,可以把到訪的客戶區分為自然到訪客戶和渠道客戶。

自然到訪客戶是指購房者自己得知信息到售樓部看房的客戶,渠道客戶則指的是通過中介介紹到訪的客戶。

一旦渠道客戶成交,房產公司便會從每筆房產的成交額中給中介返傭。中介可以憑借這筆返傭讓利給消費者,讓其享受到售樓部的渠道優惠。

多年和房地產商打交道的方真對連線Insight表示,“這種給中介返傭的模式在業內很常見,根據中介水平的不同,售樓部給到的中介返傭,占銷售額的0-13%。”

在此情況下,人臉識別系統,將自然到訪客戶和渠道客戶進行明確分類,可以更方便地計算傭金。

不過,部分房產公司,將流程稍加改變,便可能讓買房者利益受損。

房地產自媒體“重慶地產news”曾發布文章稱,某項目推出了一系列年底購房優惠,只要購房者第一次到訪項目并當場下單,各種折扣算下來可以少花30萬元。但購房者必須是第一次到訪,或者說此前沒有被攝像頭拍到過。

就在幾個月前,也發生了類似的事件。今年6月,據寧波晚報報道,宋先生的姐姐在房地產售樓部銷售吳經理的介紹下,購房返利拿到了2萬元,宋先生也打算購一套房,然而就在返利審批流程快要完結的時候,售樓經理反饋審批沒通過。

而審批未通過的原因是,如果想要拿到返利優惠,宋先生需要備案一個小時以后到售樓部,但宋先生備案不到一個小時就到售樓部,被人臉識別系統記錄下來。

對于房產這樣的高價產品,買房者通常購買時會咨詢多個渠道,房產公司利用人臉識別技術設定這一規則,實際上是“剝奪”了買房者對比的權利。

戴頭盔男子的行為,也許便是對房產公司這種規則的反抗和規避。同時,也是對于自身人臉信息的保護。

在這件事被曝出之前,很多人并不知道,售樓部裝了人臉識別系統,并且在毫無提前告知的情況下,房地產公司就抓取了消費者的人臉信息,這可以說是濫用人臉識別技術的一個典型案例。

而這只是人們臉部信息數據隱私被侵犯的冰山一角。

2、為什么要警惕人臉識別技術?

人臉識別技術準確率能夠達到98.52%,超過人眼識別能力的97.53%。

2014年,中國科學院深圳先進技術研究院副院長湯曉鷗帶領的團隊,發布了這一基于原創人臉識別算法的研究成果,也打開了人臉識別技術巨大的商業想象空間。

但是人臉識別技術大規模落地以來,人臉數據的隱私權一直沒有明確的法律規定,企業在人臉采集、人臉應用中沒有現行的規定和標準,而是更多依托自身的道德水平。

想要維護自身的信息安全,甚至變成了一個難題。

今年6月15日,“中國人臉識別第一案”在杭州市富陽區人民法院開庭審理,對簿公堂的是浙江理工大學副教授郭兵和杭州野生動物世界。

“中國人臉識別第一案”審理現場,圖源杭州市富陽區人民法院官網

回到事件剛發生時的2019年4月,郭兵購買了杭州野生動物世界1360元的年卡,并確認以指紋識別的形式進入園區,然而到了2019年7月、10月,杭州野生動物世界向郭兵發送短信通知,年卡的入園系統將由指紋識別更換為人臉識別,沒有激活人臉識別系統則無法入園,也無法辦理退卡退費。

這意味著杭州野生動物世界在強制性地讓郭兵使用人臉識別技術。

之后,雙方在入園方式、退卡退費上協商未果,郭兵把杭州野生動物世界告上了法庭,并表示杭州野生動物世界存在違約和欺詐,要求杭州野生動物世界賠償年卡卡費、交通費和刪除個人信息。

今年11月20日,“中國人臉識別第一案”正式公布結果,一審判決顯示商家無權強制消費者配合其人臉識別的管理方式,這也給國內一些企業強迫用戶使用人臉識別的行為敲響警鐘,這起案件的法律審判具有一定的參考意義。

對于人臉識別的警惕,并不是一件壞事。

在美國,人臉識別技術正成為侵犯人權和數據濫用的罪魁禍首,今年6月,微軟、亞馬遜和IBM相繼停止了人臉識別技術的應用。

IBM首席執行官克里希納在致國會信中寫道,“IBM堅決反對并且絕不容忍將任何技術(人臉識別技術)用于大規模監視,種族貌相,侵犯基本人權和自由,或任何與我們的價值觀和原則相抵觸的目的。”

關于人臉識別,一個典型案例是,Facebook未經用戶允許,非法收集用戶生物數據,對用戶海量照片的人臉進行識別,并分析出人物標簽信息。

這一侵犯用戶信息數據隱私的行為,最終引起了用戶的集體訴訟。

根據伊利諾伊州當地法律,每個受影響的用戶,罰款金額將達到5萬美元,考慮到此事波及5000萬Facebook用戶,其他州也可能提起類似的訴訟。這也釀成了堪稱Facebook有史以來的最大危機。

Facebook希望用5.5億美元進行和解,被伊利諾伊州的法官拒絕, 他認為這個和解方案,沒有充分懲罰侵犯隱私權的Facebook。

直到今年7月,Facebook表示愿意支付6.5億美元賠償終止訴訟,加州聯邦法官初步批準該和解協議,最終和解協議還未正式公布。

回到國內,數據被濫用也是家常便飯。

在個人信息黑產鏈條中,人臉數據正在被交易。今年10月,據央視新聞報道,大量人臉照片被私下交易,2元可買上千張照片,5000張人臉照片不到10元,這些照片落入不法分子手中,可能用于精準詐騙甚至洗錢、涉黑等違法犯罪活動。

除了強制使用、數據濫用,人臉識別技術還存在許多的爭議點。

如2019年陌陌公司旗下的一款AI換臉軟件ZAO,僅需上傳一張正臉照,就可以輕松實現明星、影視劇換臉,然而ZAO的一夜走紅也引起數據泄露的擔憂,事后人們才發現ZAO的用戶協議上寫明一旦上傳照片,則表示用戶同意ZAO及其關聯公司以及ZAO用戶全球范圍內完全免費、不可撤銷、永久、可轉授權和可再許可的權利。

另外,人臉識別領域的巨頭們被曝出的一些信息,也讓人感到擔憂。

今年9月,創新工廠董事長李開復公開演講時稱,曾在早期幫助曠視科技找到美圖和螞蟻金服等合作伙伴,讓他們拿到大量人臉數據。

雖然李開復事后澄清是自己口誤,但仍然沒有辦法消除外界對人臉數據被肆意共享的擔憂。

獲取人臉識別的設備越來越多,也有越來越多的企業,在采集人臉數據后,更多考慮如何給自己帶來更多營收,而忽視了隱私保護,這也削弱了消費者接受人臉技術的信心。

3、人臉識別需要一條“紅線”

人臉識別技術,原本應該幫助人們創造更美好的生活。

借助算法對人臉數據進行分析,可以檢測遺傳病,幫助盲人識別聊天對象的面部表情,在手機解鎖、刷臉消費等場景中也經常被使用。

除了對普通用戶的幫助,人臉識別技術也對政府機構提供了技術支持,比如在車站機場、街頭巷尾乃至演唱會,都可以使用人臉識別追蹤犯罪嫌疑人、尋找失蹤人口,技術可以幫助政府機構更有效地維護公共安全、公共利益。

不過,想讓人們享受這項技術,首先得讓人們有安全感。

人臉識別技術,有著遠距離分析、診斷的技術特點,可以輕松地、無接觸式地獲取信息,甚至是在用戶完全不知情的情況下。同時,人臉信息屬于重要的個人信息,一旦泄露并不當使用,會產生嚴重后果。

但在監管還未成熟的情況下,很多企業使用人臉識別技術時,卻沒有主動地給自己設限。

亞馬遜曾多次布局安防等應用人臉識別技術的領域,2018年,AWS全球公共部門業務副總裁卡爾森在面臨“亞馬遜在安防業務中是否有設‘紅線’標準”這一問題時,卻給出了令人意外的回答,“我們并未設線……我們堅定支持執法、安防和智能社區。”

如亞馬遜這樣的巨頭,都沒有設置“紅線”的意識,那么,整個市場中的其它企業的普遍態度可想而知。

人們對于數據信息安全的擔憂已經越來越嚴重。

目前,法律層面的保護也在完善。

一直以來,中國沒有對保護個人信息進行單獨立法,相關規定分散出現在其它法律中,系統性和可操作性欠缺。

直到2020年10月21日,《中華人民共和國個人信息保護法(草案)》(下稱《個人信息保護法》)公布,并公開征求社會公眾意見,征求意見截止日期為2020年11月19日。

《個人信息保護法》特別規定,在公共場所安裝圖像采集、個人身份識別設備,應當為維護公共安全所必需,遵守國家有關規定,設置顯著的提示標識。所收集的個人圖像、個人身份特征信息只能用于維護公共安全的目的,不得公開或者向他人提供。

這兩項規定直接指明,不能強制用戶使用人臉識別技術,也不可以濫用人臉識別技術所獲得的個人信息。雖有觀點認為,此條款的規定依然較為寬松,判斷標準相對模糊,有待更細節的界定,但目前而言已經是邁出了重要一步。

不過,技術的兩面性,其實給立法和監管造成的難度不小。美國是一個典型參考,今年7月,美國國會議員要求聯邦政府全面禁止面部識別技術,因為他們在民眾不知情或未同意的情況下進行人臉識別搜查,但雙方最終沒有對這一技術的監管問題達成一致。直到現在,美國人臉識別在法律和監管層面的爭議也一直存在。

目前而言,人臉識別技術還不夠安全,對于用戶而言,相信科技向善的同時,也無法放下警惕心。

每個人都有必要關注人臉識別技術對自身的侵犯,主動維護自己的個人信息安全。

在日常的生活中,對“危險”的應用和場景進行規避,比如每年都會有侵犯個人隱私的應用被中消協曝出。在適當的時候,每個人都有權拒絕使用人臉識別技術。

目前,人臉識別行業還處于技術跑在監管前面的境況,關于人臉識別的“紅線”應該盡快劃定,只有這樣,才能夠約束這一技術被大范圍濫用。

免責聲明:本文來自騰訊新聞客戶端自媒體,不代

文章評價
匿名用戶
發布