人臉識(shí)別的濫用遭到了315晚會(huì)的曝光。315晚會(huì)中，關(guān)于“誰(shuí)在‘偷’我的臉？”的一組新聞里，多個(gè)商家被曝光了一系列未經(jīng)顧客授權(quán)的行為，包括利用監(jiān)控設(shè)備采集人臉信息、識(shí)別顧客身份、儲(chǔ)存信息等。
在人臉識(shí)別濫用的背后，則是一整條完成的產(chǎn)業(yè)鏈，從人臉識(shí)別技術(shù)、攝像頭、系統(tǒng)到提供專業(yè)的人臉互動(dòng)營(yíng)銷解決方案。可以說(shuō)，在非法人臉信息采集鏈條上，人的信息逐漸被“透明化”。
當(dāng)前，人臉識(shí)別的“雙刃劍”效應(yīng)盡顯。正如所有新興的數(shù)字技術(shù)一樣，人臉識(shí)別在提高社會(huì)效率、增加便利性的同時(shí)，在隱私、安全、公平等方面引發(fā)的諸多爭(zhēng)議已經(jīng)不可忽視。人臉識(shí)別的應(yīng)用展現(xiàn)出“無(wú)節(jié)制”之勢(shì)，數(shù)據(jù)泄露的可能性急劇上升。
我們的臉究竟是如何丟掉的？又該怎樣規(guī)范失序的人臉識(shí)別？
“人臉”是怎么丟掉的？
人臉識(shí)別作為基于人的臉部特征信息進(jìn)行身份識(shí)別的一種生物識(shí)別技術(shù)，早已廣為人知。
人臉識(shí)別借由計(jì)算機(jī)來(lái)實(shí)現(xiàn)可以追溯到20世紀(jì)60年代。1964年，Woodrow Bledsoe首次嘗試以計(jì)算形式進(jìn)行人臉識(shí)別任務(wù)。最初，Bledsoe用計(jì)算出的人臉特征之間的距離矢量來(lái)對(duì)每個(gè)人進(jìn)行編碼。盡管成功實(shí)現(xiàn)人臉配對(duì)，但也面臨計(jì)算成本大、效率低的技術(shù)局限，因?yàn)锽ledsoe每小時(shí)只能處理大約40張圖片。
人臉識(shí)別技術(shù)的開發(fā)受到了市場(chǎng)的認(rèn)可。20世紀(jì)90年代，政府官員已經(jīng)承認(rèn)并接受了這樣一個(gè)事實(shí)：人臉是一種非侵入性的生物特征，可以用于跟蹤和識(shí)別個(gè)人，而不需要他們的主動(dòng)參與。
因此，1996年美國(guó)國(guó)防部和NIST提供了650萬(wàn)美元的資金，創(chuàng)建了FERET數(shù)據(jù)集，為研究人員提供在該領(lǐng)域取得進(jìn)展所需的數(shù)據(jù)。人臉識(shí)別技術(shù)（FERET）數(shù)據(jù)庫(kù)是首個(gè)用于學(xué)術(shù)和商業(yè)研究的大規(guī)模人臉數(shù)據(jù)集，也是人臉識(shí)別技術(shù)發(fā)展的第一個(gè)轉(zhuǎn)折點(diǎn)。
到了2000年，鑒于FERET數(shù)據(jù)庫(kù)成功激發(fā)了人臉識(shí)別領(lǐng)域的研究興趣，特別是該技術(shù)開始邁出商業(yè)化步伐，并推動(dòng)了NIST發(fā)布人臉識(shí)別算法測(cè)試（FVRTthe Facial Recognition Vendor Test）以評(píng)估新興的商業(yè)系統(tǒng)。當(dāng)然，早期方法在實(shí)際的應(yīng)用中也存在某些弊端，比如無(wú)法在各種環(huán)境中很好兼容，而且算法的準(zhǔn)確率和算力仍需要提升。
2007年LFW數(shù)據(jù)集的開發(fā)讓人臉識(shí)別技術(shù)迎來(lái)第二個(gè)關(guān)鍵性的轉(zhuǎn)折點(diǎn)。LFW數(shù)據(jù)集包含1680個(gè)人的超過(guò)13000張圖片，其中涵蓋了姿勢(shì)（poses）、照明條件（illumination conditions）和表情（expressions）的無(wú)限組合，滿足了研究人員獲取更自然定位和更多樣化數(shù)據(jù)的愿望。
由此，LFW激發(fā)了一波用于人臉識(shí)別模型訓(xùn)練和基準(zhǔn)測(cè)試的網(wǎng)絡(luò)人臉數(shù)據(jù)集的熱潮——包括許多未經(jīng)在線平臺(tái)同意而獲取圖像的數(shù)據(jù)集，比如谷歌圖像搜索（Google Image search）、雅虎資訊（Yahoo News）。
于2014年開發(fā)的DeepFace數(shù)據(jù)集，則是第一個(gè)在人臉驗(yàn)證任務(wù)上擊敗人類表現(xiàn)的人臉識(shí)別模型，主要使用目前主流的深度學(xué)習(xí)技術(shù)進(jìn)行訓(xùn)練。深度學(xué)習(xí)技術(shù)對(duì)人臉識(shí)別的影響無(wú)疑是巨大的，DeepFace模型在LFW測(cè)試集上取得了97.35%的準(zhǔn)確率，相較于之前的前沿技術(shù)方法，在誤差率上降低了27%。
這一快速進(jìn)展也引發(fā)了巨大的商業(yè)利益，是當(dāng)前廣泛發(fā)展的人臉識(shí)別基礎(chǔ)。當(dāng)下，人臉識(shí)別技術(shù)已經(jīng)嵌入到人們生產(chǎn)生活的各個(gè)方面。從全球人臉識(shí)別技術(shù)領(lǐng)域的應(yīng)用場(chǎng)景布局來(lái)看，安防、金融、交通是相對(duì)布局較為成熟的領(lǐng)域，而在零售、廣告、智能設(shè)備、教育、醫(yī)療、娛樂(lè)等領(lǐng)域也均有較多應(yīng)用場(chǎng)景。
從2015年到2019年，人臉識(shí)別、視頻監(jiān)控的專利申請(qǐng)數(shù)量從1000件飆升到3000件，其中四分之三在中國(guó)。Marketsand Markets咨詢公司研究預(yù)計(jì)，到2024年，全球人臉識(shí)別市場(chǎng)規(guī)模達(dá)70億美元。
然而，在巨大的利益驅(qū)使下，人臉識(shí)別技術(shù)也開始被包裝為各種各樣的“解決方案”，打包出售給商業(yè)客戶。對(duì)于資本以及各級(jí)管理部門來(lái)說(shuō)，身份的精準(zhǔn)識(shí)別，乃至收集、使用數(shù)據(jù)以獲益，顯然比保護(hù)隱私更加重要。于是，強(qiáng)大的推動(dòng)力，讓技術(shù)開發(fā)越走越遠(yuǎn)，且越來(lái)越向經(jīng)營(yíng)者、管理者，而不是實(shí)際用戶傾斜。
技術(shù)的開發(fā)偏好和使用傾斜，讓人們?cè)谌四樧R(shí)別這個(gè)技術(shù)應(yīng)用場(chǎng)景里，發(fā)出的聲音是有限的，甚至是無(wú)力的。資本的強(qiáng)力加上信息的不透明，讓人們?cè)絹?lái)越生活在一個(gè)無(wú)處不有的攝像頭的世界。人們?cè)跀?shù)據(jù)世界裸奔著，知之而無(wú)力為之。
人臉識(shí)別下的隱私裸奔
盡管人臉識(shí)別的商業(yè)價(jià)值得到了各行業(yè)的公認(rèn)，但人臉識(shí)別的濫用，從“中國(guó)人臉識(shí)別第一案”到售樓處人臉識(shí)別“殺熟”，一系列強(qiáng)制使用、暗中使用也讓爭(zhēng)議頻發(fā)，民意滔滔。
2019年，Ada Lovelace研究所（Ada Lovelace Institute）的一份調(diào)查發(fā)現(xiàn)，55%的受訪者希望政府限制警方使用該技術(shù)。受訪者對(duì)其商業(yè)用途也感到不安，只有17%的受訪者希望看到人臉識(shí)別技術(shù)用于超市的年齡驗(yàn)證，7%的人贊成將其用于追蹤顧客，僅4%的人認(rèn)為將其用于篩選求職者是適當(dāng)?shù)摹?/p>
人臉識(shí)別的濫用最直接地暴露出觸目驚心的隱私失序。盡管在法律層面上，在采集或使用人臉識(shí)別信息上，早已有相關(guān)明文規(guī)定。國(guó)家市場(chǎng)監(jiān)管總局發(fā)布的《個(gè)人信息安全規(guī)范》明確規(guī)定，人臉信息屬于生物識(shí)別信息，也屬于個(gè)人敏感信息，收集個(gè)人信息時(shí)應(yīng)獲得個(gè)人信息主體的授權(quán)同意。
但是在無(wú)感攝像頭（即不需要用戶主動(dòng)同意便可采集人臉信息）的使用下，在人們周圍，私自獲取涉及人們隱私、財(cái)產(chǎn)安全的人臉識(shí)別攝像頭數(shù)量依然驚人。甚至這些最核心的生物識(shí)別信息，已經(jīng)被和人們毫無(wú)關(guān)系的第三方公司所掌握。
比如，大部分公共場(chǎng)所在采集人臉信息時(shí)并未明確告知，使得被動(dòng)采集成為常態(tài)。在機(jī)場(chǎng)、火車站、公園、銀行、學(xué)校、公司（小區(qū)）門禁或考勤等人臉識(shí)別的應(yīng)用中用戶幾乎完全沒有選擇權(quán)利，只能被動(dòng)接受。
顯然，存儲(chǔ)人們面部信息的組織本質(zhì)上依舊是具體的人在運(yùn)作，也就是說(shuō)，大量身份指向性極強(qiáng)的人臉信息是由一部分人掌控的，這部分人將如何使用我們的個(gè)人數(shù)據(jù)，會(huì)不會(huì)因?yàn)橐患核接`規(guī)操作，都無(wú)從得知。
隱私的失序?qū)⑦M(jìn)一步提高風(fēng)險(xiǎn)發(fā)生的可能性。人臉識(shí)別要通過(guò)特定的代碼進(jìn)行翻譯、篩選對(duì)象，這種代碼的操作自然有被黑客入侵的可能性。而隨著人臉偽造技術(shù)的發(fā)展和反實(shí)名制產(chǎn)業(yè)鏈條的日趨成熟，破譯人臉信息，用“假人臉”頂替“真人臉”已成為可能。
于是，有了人臉照片和系統(tǒng)識(shí)別的人臉特征，就可以捕捉相關(guān)的人臉特征信息進(jìn)行針對(duì)性的訓(xùn)練，復(fù)制人臉圖像，包括來(lái)回轉(zhuǎn)動(dòng)或者眨眼等，從而通過(guò)使用他人的面部信息開啟對(duì)應(yīng)的服務(wù)。
顯然，人臉識(shí)別生物信息具有唯一性、永久性，且終身無(wú)法修改，一旦泄露即是終身泄露。隨著海量的人臉數(shù)據(jù)被收集，人臉數(shù)據(jù)或?qū)⑴c電話、身份證號(hào)一樣成為不法分子牟利的新工具。比如，此前就有媒體曝出，南寧有不法中介通過(guò)欺騙業(yè)主“刷臉”將10多套房成功過(guò)戶，私自抵押套取資金1000多萬(wàn)元。
此外，人臉識(shí)別技術(shù)的應(yīng)用還可能形成對(duì)特定群體的歧視。比如，一些具有特殊面部特征的群體或者通過(guò)面部信息識(shí)別出其他特殊信息的群體就可能成為重點(diǎn)關(guān)注的對(duì)象。這是因?yàn)?，無(wú)論基于何種算法的人臉識(shí)別，都依賴于大數(shù)據(jù)，而大數(shù)據(jù)并非中立。它們從真實(shí)社會(huì)中抽取，必然帶有社會(huì)固有的不平等、排斥性和歧視的痕跡。
已有研究表明，在人臉識(shí)別中存在種族偏見。在機(jī)場(chǎng)、火車站等人臉識(shí)別應(yīng)用情景中，部分群體的面部信息可能由于系統(tǒng)的算法偏見無(wú)法被正常識(shí)別，從而不得不接受工作人員的審問(wèn)和例行檢查。除了在對(duì)個(gè)體面部掃描時(shí)存在偏見與誤判外，在面部識(shí)別后所享有的服務(wù)中也可能存在歧視。
于是，人臉背后的人格因素及其所承載的信任與尊嚴(yán)等價(jià)值被稀釋，被技術(shù)俘獲并遮蔽。計(jì)算機(jī)技術(shù)和新型的測(cè)量手段，成功地將一個(gè)具有獨(dú)立人格的人，變成一系列的數(shù)字和符碼。此時(shí)，識(shí)別的是人臉，得到的是數(shù)據(jù)，貶損的是信任，而這正是人臉識(shí)別將震動(dòng)世界的現(xiàn)實(shí)危機(jī)。
拯救人臉識(shí)別信任危機(jī)
從開發(fā)到使用，技術(shù)從來(lái)都不是中立的。技術(shù)一旦投入社會(huì)，就不再僅僅作為“工具”而存在了。
一個(gè)技術(shù)的使用，數(shù)據(jù)與數(shù)據(jù)構(gòu)建的身份，為人與人、人與企業(yè)之間的關(guān)系定下了基調(diào)，也為這些“數(shù)據(jù)”賦予了社會(huì)含義。人臉識(shí)別和監(jiān)控技術(shù)的濫用，無(wú)疑扭曲了人與人、人與商業(yè)的關(guān)系，公平與信任也因而受到質(zhì)疑。追問(wèn)技術(shù)存在的理由，追問(wèn)技術(shù)與人的關(guān)系，是拯救信任危機(jī)的第一步。
事實(shí)上，當(dāng)下科技逐漸顯示的副作用，其背后的邏輯正是社會(huì)解釋系統(tǒng)的發(fā)展已經(jīng)遠(yuǎn)遠(yuǎn)滯后于科技的發(fā)展。技術(shù)由人創(chuàng)造，為人服務(wù)，這也將使我們的價(jià)值觀變得更加重要。
這意味著，在考慮人臉識(shí)別技術(shù)時(shí)，我們不僅應(yīng)該辯論什么是合法的，還應(yīng)該辯論什么是道德的。當(dāng)下，人臉識(shí)別已經(jīng)給社會(huì)治理帶來(lái)嚴(yán)峻的挑戰(zhàn)。其在應(yīng)用時(shí)涉及到重要的個(gè)人信息已經(jīng)和影響到數(shù)字人權(quán)的實(shí)現(xiàn)，都提示我們應(yīng)真正找到人臉識(shí)別的正當(dāng)性邊界并且審慎適用。
首先，需盡快完善包括人臉識(shí)別在內(nèi)的人體生物信息使用法律法規(guī)。應(yīng)劃定人臉識(shí)別技術(shù)使用邊界，建立人臉識(shí)別技術(shù)應(yīng)用申報(bào)備案和審批制度。遵循“必要性”原則，防止因商業(yè)利益濫用此技術(shù)。比如，個(gè)人身份核驗(yàn)準(zhǔn)確性不會(huì)影響到個(gè)人重大利益或社會(huì)公共利益的情形可不優(yōu)先考慮使用人臉識(shí)別技術(shù)。
其次，要保障用戶的選擇權(quán)，不應(yīng)將人臉識(shí)別技術(shù)設(shè)置為唯一的身份核驗(yàn)的手段，不應(yīng)強(qiáng)制要求或頻繁推薦用戶開通基于人臉識(shí)別的相關(guān)功能。確保授權(quán)同意后采集，未經(jīng)用戶同意或法律法規(guī)授權(quán)，不能通過(guò)高清攝像頭等私自采集人臉信息，不得使用人臉信息追蹤個(gè)人行為。
同時(shí)，對(duì)于一些商業(yè)或娛樂(lè)性應(yīng)用，不僅必須履行告知義務(wù)，還需為用戶提供“退出”選項(xiàng)。即當(dāng)用戶不想再繼續(xù)授權(quán)使用其面部數(shù)據(jù)時(shí)，應(yīng)用提供方必須提供“退出”或“刪除”路徑，以確保被采集方的“選擇權(quán)”和“被遺忘權(quán)”。
最后，還應(yīng)持續(xù)提升準(zhǔn)確度和安全性?，F(xiàn)階段，數(shù)據(jù)采集、存儲(chǔ)與使用等規(guī)范缺失，導(dǎo)致數(shù)據(jù)泄漏風(fēng)險(xiǎn)極高。一方面，當(dāng)前關(guān)于人臉識(shí)別技術(shù)產(chǎn)品生產(chǎn)企業(yè)資質(zhì)、產(chǎn)品的安全標(biāo)準(zhǔn)和市場(chǎng)準(zhǔn)入標(biāo)準(zhǔn)，數(shù)據(jù)的存儲(chǔ)資質(zhì)和時(shí)限，以及對(duì)已獲取數(shù)據(jù)的使用權(quán)限等缺少明確規(guī)定。另一方面，生產(chǎn)企業(yè)和提供應(yīng)用服務(wù)的企業(yè)在數(shù)據(jù)存儲(chǔ)和使用中缺乏透明度。
加強(qiáng)人臉識(shí)別技術(shù)、相關(guān)信息系統(tǒng)和終端設(shè)備的安全性的檢測(cè)與認(rèn)證，推動(dòng)人臉識(shí)別技術(shù)成熟度不斷提升刻不容緩。只有防止人臉信息的偽造、冒用、泄露和丟失，才能進(jìn)一步保障人臉識(shí)別的安全，從而建立人們對(duì)其的信任度。
當(dāng)前，產(chǎn)業(yè)、技術(shù)和民意的背離已經(jīng)把人臉識(shí)別推向爭(zhēng)議的風(fēng)口，技術(shù)的底線始終是一個(gè)安全、可信任的社會(huì)。這也提示我們?cè)诓煌瑘?chǎng)景下細(xì)致辨析人臉識(shí)別的風(fēng)險(xiǎn)所在，真正地控制它、馴化它，以使其不離科技為人的正道。
