本文來自FreeBuf，作者/蘇蘇。
移動(dòng)互聯(lián)網(wǎng)的發(fā)展讓人們的生活更加便捷，但與此同時(shí)也讓每個(gè)人，都被動(dòng)地變成了一個(gè)個(gè)可量化的數(shù)據(jù)，儲(chǔ)存在互聯(lián)網(wǎng)上，并且很可能一直在互聯(lián)網(wǎng)上流轉(zhuǎn)，永不消逝。當(dāng)我們舉著手機(jī)自由地享受互聯(lián)網(wǎng)，也必將深陷于這張看不見的網(wǎng)中，越來越?jīng)]有自由。
2022年秋，全國(guó)迎來了一波破紀(jì)錄的熱潮，而互聯(lián)網(wǎng)大廠也曝出了兩個(gè)大瓜，引得一眾網(wǎng)友群情激奮，其熱度和這極端炎熱的天氣相比都毫不遜色。它們一個(gè)是“WPS被指刪除本地文檔”事件，一個(gè)是“百度網(wǎng)盤人工審核照片”事件。
兩大事件的接連爆發(fā)徹底點(diǎn)燃了網(wǎng)友的憤怒，作為方便人們生活的工具，竟然每時(shí)每刻都在審視人們的隱私。同時(shí)也再次勾起了網(wǎng)友那些埋藏深底的，對(duì)個(gè)人隱私安全深深的憂慮，并發(fā)出一聲充滿不解的吶喊：我們真的“活在監(jiān)控之下”？
對(duì)于企業(yè)來說，內(nèi)容安全和隱私保護(hù)的邊界又在哪里?
WPS、百度網(wǎng)盤事件回顧
7月11日，WPS“刪除用戶本地文件”沖上微博熱搜。網(wǎng)友“米兔只想賺錢”發(fā)帖稱，自己利用WPS寫作編輯的一百多萬字小說，被WPS以“文件含有違禁內(nèi)容，禁止訪問”的理由進(jìn)行封鎖，完全打不開。
對(duì)此WPS回應(yīng)稱，“刪除用戶本地文件”屬于謠言，近期一位用戶分享的在線文檔鏈接涉嫌違規(guī)，WPS依法禁止了他人訪問該鏈接。
但網(wǎng)友“米兔只想賺錢”表示自己的文件完全合法合規(guī)，不存在違禁內(nèi)容，并稱被封文件除了配合WPS調(diào)查分享給WPS工作人員外，并未給其他人分享過。有網(wǎng)友推測(cè)WPS的敏感詞探測(cè)功能在探測(cè)出敏感信息后，可能會(huì)鎖死文件，甚至是刪除文件。
于是，網(wǎng)友們的怒火被點(diǎn)燃了，無數(shù)網(wǎng)友在平臺(tái)上紛紛對(duì)WPS進(jìn)行質(zhì)問和討伐：作為一個(gè)碼字的工具，WPS憑什么可以行使主人的權(quán)利，直接鎖定或刪除文件？
在這起事件中，網(wǎng)友們有關(guān)注的點(diǎn)在于：1、WPS會(huì)不會(huì)偷偷審查用戶的文檔，這是否侵犯用戶的隱私權(quán)；2、WPS會(huì)不會(huì)鎖定或刪除用戶的文檔，侵犯用戶的合法權(quán)益。
受此事件影響，碼子圈內(nèi)一時(shí)間竟呈現(xiàn)出風(fēng)聲鶴唳的趕腳，作者們紛紛轉(zhuǎn)而使用Word或其他的編輯軟件，存儲(chǔ)在WPS云上的文稿也轉(zhuǎn)而存儲(chǔ)到其他的云平臺(tái)。
而就在WPS事件的影響逐漸淡化之際，百度網(wǎng)盤事件的出現(xiàn)猶如在平靜的湖面投下一個(gè)巨石，再度激起無數(shù)浪花，朝著網(wǎng)友們那根本就脆弱的隱私神經(jīng)，又狠狠撥了一下。
8月18日，網(wǎng)絡(luò)作家 邊想轉(zhuǎn)發(fā)上述視頻截圖，發(fā)文稱“我一直以為百度網(wǎng)盤是機(jī)器審核的，沒想到是真人審核？審核人員還能隨隨便便把用戶的照片截下來保存發(fā)到網(wǎng)上？”此后，該微博迅速引發(fā)眾多網(wǎng)友的關(guān)注和熱議，相關(guān)話題直接沖上了熱搜榜。
隨后，還有網(wǎng)友找到了另一個(gè)自稱是百度網(wǎng)盤審核員的短視頻截圖，視頻中的女子曬出疑似待審核的文件夾列表。兩條短視頻都明確曬出了疑似青團(tuán)社發(fā)布的兼職招聘信息和錄取短信，幾乎實(shí)錘了百度網(wǎng)盤大量招聘兼職人員審核照片及資源。
對(duì)此，百度網(wǎng)盤回應(yīng)稱，不存在“人工審核用戶照片”，網(wǎng)絡(luò)上關(guān)于百度網(wǎng)盤照片真人審核的內(nèi)容是謠言，并強(qiáng)調(diào)“在技術(shù)和產(chǎn)品等任何層面，均不存在人工審核用戶照片的情況”。青團(tuán)社也表示，沒有發(fā)布類似崗位，而兩位短視頻博主的視頻也因投訴已經(jīng)被下架。
20日，百度網(wǎng)盤再發(fā)聲明表示，“青團(tuán)社招聘人工審核”截圖純屬惡意造謠，已報(bào)警，并再度強(qiáng)調(diào)“百度網(wǎng)盤不存在照片人工審核”，也“并未委托任何機(jī)構(gòu)招聘兼職人員”。“百度網(wǎng)盤擁有規(guī)范且嚴(yán)密的隱私管理機(jī)制和安全防御體系，有效保護(hù)用戶隱私和數(shù)據(jù)安全。”
對(duì)此，網(wǎng)友并不買賬，同時(shí)也加劇了對(duì)于百度網(wǎng)盤隱私泄露的擔(dān)憂，主要集中在兩個(gè)方面：1、為什么會(huì)有人工來審核網(wǎng)盤，諸如照片等個(gè)人隱私信息是否會(huì)被曝光；2、為什么審核員還可以清楚看到審查對(duì)象的具體信息，且審核員還可以將這些信息在互聯(lián)網(wǎng)上發(fā)布？
有意思的是，無論是WPS還是百度網(wǎng)盤，都認(rèn)為己方?jīng)]有任何問題，也不存在侵犯用戶隱私的行為，為此不惜連續(xù)發(fā)布公告，到派出所報(bào)案等；而網(wǎng)友的訴求也十分明確，對(duì)于上述兩大平臺(tái)的質(zhì)問也是合情合理。
那么，問題來了，到底是哪個(gè)環(huán)節(jié)出現(xiàn)了問題，WPS和百度網(wǎng)盤被罵到底冤不冤，普通用戶的隱私保護(hù)邊界又在哪里？
上云必定觸發(fā)內(nèi)容審核機(jī)制
在探討上述問題前，我們首先要明確一個(gè)前提：在上傳至云端后，內(nèi)容必定會(huì)進(jìn)行審核，這也是非常必要的措施。
近年來，我國(guó)在加強(qiáng)內(nèi)容安全建設(shè)方面投入了大量的精力，不斷強(qiáng)化企業(yè)內(nèi)容合規(guī)要求，開展多個(gè)系列專項(xiàng)活動(dòng)對(duì)內(nèi)容安全進(jìn)行治理，持續(xù)清理網(wǎng)絡(luò)空間中的涉黃、涉暴等諸多不良信息，方才有當(dāng)下清朗的網(wǎng)絡(luò)環(huán)境。
作為網(wǎng)絡(luò)安全領(lǐng)域的根本大法，2017年6月1日正式實(shí)施的《網(wǎng)絡(luò)安全法》對(duì)于內(nèi)容安全提出了明確的要求。其中第十二條指出，任何個(gè)人和組織不得傳播暴力、淫穢色情信息，編造、傳播虛假信息擾亂經(jīng)濟(jì)秩序和社會(huì)秩序，以及侵害他人名譽(yù)、隱私、知識(shí)產(chǎn)權(quán)和其他合法權(quán)益等活動(dòng)。
2019年，中國(guó)網(wǎng)絡(luò)視聽節(jié)目服務(wù)協(xié)會(huì)正式發(fā)布《網(wǎng)絡(luò)短視頻平臺(tái)管理規(guī)范》，提出提出網(wǎng)絡(luò)短視頻平臺(tái)上播出的所有短視頻均應(yīng)經(jīng)內(nèi)容審核后方可播出，包括節(jié)目的標(biāo)題、簡(jiǎn)介、彈幕、評(píng)論等內(nèi)容。2021年發(fā)布的《關(guān)于進(jìn)一步壓實(shí)網(wǎng)站平臺(tái)信息內(nèi)容管理主體責(zé)任的意見》就要求網(wǎng)站平臺(tái)健全內(nèi)容審核機(jī)制，包括完善人工審核制度，進(jìn)一步擴(kuò)大人工審核范圍，細(xì)化審核標(biāo)準(zhǔn)，完善審核流程，確保審核質(zhì)量。
此外，在內(nèi)容安全領(lǐng)域還有《互聯(lián)網(wǎng)信息服務(wù)管理辦法》《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》以及2022年發(fā)布的《移動(dòng)互聯(lián)網(wǎng)應(yīng)用程序信息服務(wù)管理規(guī)定》等法規(guī)，對(duì)于健全信息內(nèi)容安全管理等管理制度，確保信息內(nèi)容安全，營(yíng)造良好網(wǎng)絡(luò)生態(tài)都提出了相應(yīng)的要求。
與之相對(duì)應(yīng)的是，內(nèi)容合規(guī)細(xì)致也越來越清晰，企業(yè)和平臺(tái)的合規(guī)動(dòng)作也有了確定性。在云端提供存儲(chǔ)空間的服務(wù)商具有審核上傳到云端文件的法定義務(wù)和監(jiān)管要求，并對(duì)違法文件進(jìn)行處理。
在WPS和百度網(wǎng)盤事件中，內(nèi)容都曾涉及上傳至云端，因此這些內(nèi)容毫無疑問需要被審核，也應(yīng)該進(jìn)行審核。其余諸如閱文集團(tuán)、騰訊視頻、B站等網(wǎng)絡(luò)社交、媒體平臺(tái)也皆是如此，他們都有明確的內(nèi)容安全的合規(guī)要求。
至于那些未能踐行內(nèi)容安全或?qū)徍瞬坏降钠髽I(yè)或平臺(tái)，輕則約談、刪稿，重則下架整頓，并對(duì)企業(yè)和直接負(fù)責(zé)人進(jìn)行相應(yīng)的處罰，嚴(yán)重者甚至還有可能承擔(dān)刑事責(zé)任。
WPS和百度網(wǎng)盤被罵一點(diǎn)都不冤
對(duì)于企業(yè)來說，內(nèi)容審核是一個(gè)必選項(xiàng)，但這并不意味著WPS和百度網(wǎng)盤被罵就可以喊冤。近年來，隨著內(nèi)容行業(yè)的蓬勃發(fā)展以及內(nèi)容合規(guī)要求不斷細(xì)化，各平臺(tái)也在不斷加強(qiáng)內(nèi)容審核方面的投入，到目前為止已經(jīng)基本形成“機(jī)器+人工”的審核模式。
眾所周知，內(nèi)容審核從易到難分別是文字、圖片和視頻。審核流程一般是先由人工智能進(jìn)行初步審核，通過比對(duì)違規(guī)數(shù)據(jù)庫，或參考各家的審核邏輯規(guī)則，對(duì)確定違規(guī)的內(nèi)容進(jìn)行過濾，以及對(duì)無法判斷或判斷存疑的內(nèi)容進(jìn)行標(biāo)注，再轉(zhuǎn)入人工審核環(huán)節(jié)?；蛘呤怯脩魧?duì)于審核結(jié)果不滿意并發(fā)起上訴，此時(shí)也需要人工審核的介入。
有專家表示，在現(xiàn)有的人工智能技術(shù)下，基本可實(shí)現(xiàn)文字審核百分百由機(jī)器完成，人工只需承擔(dān)極少部分工作。照片也可以實(shí)現(xiàn)機(jī)器審核，但是誤報(bào)率將會(huì)比文字高，至于視頻則無法完全依賴于機(jī)器，誤報(bào)率是三者中最高的，也是最依賴人工的內(nèi)容，此時(shí)人工審核將承擔(dān)更多的任務(wù)。這也是為什么會(huì)有“鑒黃師”這一職業(yè)存在。
此時(shí)再回到WPS和百度網(wǎng)盤事件中。
用戶并非不理解平臺(tái)內(nèi)容審核，而是不清楚“只要向外分享即會(huì)上傳至云端”的機(jī)制，WPS作為平臺(tái)方有義務(wù)說清楚此類規(guī)則，而不是簡(jiǎn)單粗暴地封禁，留下一臉懵逼的用戶。正所謂“不教而誅是為虐”，可惜的是，在長(zhǎng)期的使用過程中，WPS也從未對(duì)這類機(jī)制進(jìn)行敘述。
另外，WPS在將分享鏈接禁止之后，為何又對(duì)作者本地文件下手封禁，此舉明顯有侵犯用戶隱私的跡象。無論內(nèi)容是不是符合法律法規(guī)，這只是作者本人的思考和想法，它屬于私人文檔，可能涉及用戶隱私信息，WPS作為一種工具，是否真的具備掃描、封禁線下文檔的權(quán)力？長(zhǎng)此以往誰又敢繼續(xù)使用WPS進(jìn)行創(chuàng)作？
畢竟誰也不想，自己辛辛苦苦付諸于紙筆上的文字，某一天會(huì)自動(dòng)消失。在筆者看來，WPS需要認(rèn)真吸取此次事件的教訓(xùn)，真正站在用戶的角度進(jìn)行思考，劃出云端內(nèi)容和本地內(nèi)容的界限，切實(shí)保護(hù)好用戶的隱私信息。
而在百度網(wǎng)盤事件中，平臺(tái)一直強(qiáng)調(diào)只會(huì)使用機(jī)器進(jìn)行審核。對(duì)此有不少網(wǎng)友表示不信，用戶上傳的資源包括文字、圖片和視頻，僅依靠人工智能無法保證準(zhǔn)確率，那么勢(shì)必要引入人工審核。
事實(shí)上，用戶對(duì)內(nèi)容審核感到膈應(yīng)的不是百度網(wǎng)盤引入人工審核，而是人工審核時(shí)沒有對(duì)數(shù)據(jù)進(jìn)行脫敏，從截圖中可以清楚看到內(nèi)容就直觀呈現(xiàn)在審核員面前。更關(guān)鍵的是，審核員可以將這些內(nèi)容發(fā)布，那么百度網(wǎng)盤在保護(hù)用戶隱私信息方面是否還存在其他缺陷？
這也是企業(yè)必須要思考改進(jìn)的地方，而不是一味撇清責(zé)任。須知人工審核和用戶隱私泄露并不是對(duì)立的二極管，可通過脫敏、防泄漏、溯源等多種方式方法進(jìn)行彌補(bǔ)，確保用戶隱私信息的安全。
做好隱私防護(hù)是一個(gè)必選項(xiàng)
隨著用戶網(wǎng)絡(luò)安全意識(shí)的覺醒，能否保護(hù)好隱私信息已經(jīng)成為用戶十分關(guān)注的因素。誠(chéng)然，企業(yè)和平臺(tái)必須要做好內(nèi)容安全，但是我國(guó)也出臺(tái)了《個(gè)人信息法》等多部重磅法律，要求企業(yè)必須保護(hù)個(gè)人信息安全。
在WPS和百度網(wǎng)盤事件中，用戶直觀感受到的是個(gè)人隱私信息完全不受控制，且明顯存在泄露的可能性，而平臺(tái)方的回應(yīng)并沒有打消用戶的顧慮，反倒點(diǎn)起了網(wǎng)友們更多的怒火。
在內(nèi)容審核和隱私保護(hù)的抉擇中，企業(yè)在做好隱私保護(hù)工作的同時(shí)，還需要充分保障用戶的知情同意權(quán)，這也是引發(fā)上述兩大事件的重要因素。如果WPS沒有默認(rèn)上傳至云端，如果用戶知曉百度網(wǎng)盤的審核規(guī)則，那么是否還會(huì)有如此之多的爭(zhēng)議呢？
比如在將文檔上傳至云端時(shí)向用戶申請(qǐng)一下權(quán)限，或者是在隱私保護(hù)政策中將審核要求寫清楚，什么時(shí)候使用AI審核，什么時(shí)候使用人工審核等，將這些信息都明明白白告知用戶，是對(duì)于用戶的尊重，也讓用戶真切感受到企業(yè)對(duì)于隱私保護(hù)的責(zé)任與付出。
