近期卡巴斯基發(fā)布了一份題為“算法時(shí)代的愛(ài)情”的調(diào)查報(bào)告，報(bào)告中提到了婚戀App中算法的使用，以及算法在推薦與匹配潛在戀愛(ài)對(duì)象（用戶）方面的情況。
這份巴斯基委托進(jìn)行的調(diào)查報(bào)告顯示了一些比較有意思的結(jié)果：
64%受訪者表示婚戀App的推薦匹配效果很好，44%的人會(huì)相信人工智能或算法來(lái)為他們找到匹配的對(duì)象；
當(dāng)然，也有39%的受訪者發(fā)現(xiàn)按算法排序是不科學(xué)的，56%的人不相信算法能夠真正理解戀愛(ài)中的復(fù)雜性。
人工智能興起
算法豈能成為“脫韁野馬”
不只在婚戀方面，這類推薦算法連同價(jià)格算法、評(píng)價(jià)算法等在其他領(lǐng)域也大行其道，幾乎無(wú)處不在。
新聞資訊、社交、購(gòu)物、餐飲、出行以及短視頻等App通過(guò)各類算法給用戶推薦他們感興趣的話題和內(nèi)容，深深地將用戶綁定在他們所精心構(gòu)筑的“牢籠”。
這些技術(shù)的興起得益于近年來(lái)以人工智能、大數(shù)據(jù)等為代表的新技術(shù)新應(yīng)用的快速發(fā)展。
這些新應(yīng)用在服務(wù)人們社會(huì)生活的過(guò)程中，通過(guò)各種算法將大數(shù)據(jù)進(jìn)行收集和處理，并為用戶進(jìn)行畫像，精準(zhǔn)的描繪出用戶的各種喜好，最終控制用戶行為或精準(zhǔn)推送各類廣告。
可以說(shuō)算法是許多App的技術(shù)基礎(chǔ)，甚至是數(shù)字社會(huì)發(fā)展的重要基石。雖然這些算法特別是AI算法為社會(huì)生活創(chuàng)造了巨大價(jià)值，但其對(duì)用戶隱私的侵犯、大數(shù)據(jù)殺熟等弊端也逐漸暴露出來(lái)。
并且，與其他傳統(tǒng)方式不同，算法的應(yīng)用也讓許多惡意行為變得更為隱蔽。
對(duì)此，賽迪智庫(kù)指出，算法濫用會(huì)帶來(lái)嚴(yán)重的社會(huì)危害：濫用數(shù)據(jù)分析和算法推薦，侵害消費(fèi)者合法權(quán)；利用算法實(shí)現(xiàn)利益侵占，壓榨平臺(tái)商家和從業(yè)者；基于缺陷數(shù)據(jù)集訓(xùn)練算法，導(dǎo)致算法偏見(jiàn)和不公平?jīng)Q策。
與此同時(shí)，算法濫用問(wèn)題也成為世界性危害，許多國(guó)家對(duì)此進(jìn)行了法律和制度的約束。
歐盟的《通用數(shù)據(jù)保護(hù)條例》中規(guī)定“收集個(gè)人數(shù)據(jù)進(jìn)行自動(dòng)化決策時(shí)，應(yīng)當(dāng)向數(shù)據(jù)主體提供關(guān)于此類問(wèn)題處理的邏輯及預(yù)期后果的有效信息”。
2019年4月美國(guó)發(fā)布的《算法問(wèn)責(zé)法案（草案）》中涉及相關(guān)算法影響評(píng)估的規(guī)定，要求衡量算法在設(shè)計(jì)和訓(xùn)練數(shù)據(jù)中，對(duì)準(zhǔn)確性、公平性、偏見(jiàn)、歧視及對(duì)隱私和安全的影響。
隨著《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》《個(gè)人信息保護(hù)法》等法律的陸續(xù)出臺(tái)，我國(guó)在數(shù)字治理方面的法律法規(guī)也在逐漸完善。
過(guò)度信息收集和過(guò)度索權(quán)是“算法作惡”的常見(jiàn)形式。
《個(gè)人信息保護(hù)法》明確規(guī)定了“個(gè)人信息處理者利用個(gè)人信息進(jìn)行自動(dòng)化決策，應(yīng)當(dāng)保證決策的透明度和結(jié)果公平、公正，不得對(duì)個(gè)人在交易價(jià)格等交易條件上實(shí)行不合理的差別待遇；
通過(guò)自動(dòng)化決策方式向個(gè)人進(jìn)行信息推送、商業(yè)營(yíng)銷，應(yīng)當(dāng)同時(shí)提供不針對(duì)其個(gè)人特征的選項(xiàng)，或者向個(gè)人提供便捷的拒絕方式”等，從法律層面向信息過(guò)度收集和過(guò)度索權(quán)行為說(shuō)NO。
為了規(guī)范互聯(lián)網(wǎng)信息服務(wù)算法推薦活動(dòng)，國(guó)家互聯(lián)網(wǎng)信息辦公室就《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定（征求意見(jiàn)稿）》（以下簡(jiǎn)稱“管理規(guī)定”）公開(kāi)征求意見(jiàn)。
管理規(guī)定提出，算法推薦服務(wù)提供者應(yīng)當(dāng)“保護(hù)消費(fèi)者合法權(quán)益，不得根據(jù)消費(fèi)者的偏好、交易習(xí)慣等特征，利用算法在交易價(jià)格等交易條件上實(shí)行不合理的差別待遇等違法行為。”
人工智能技術(shù)的發(fā)展也為算法問(wèn)題增加了新的不確定性。
2021年7月，中國(guó)信息通信研究院與京東探索研究院聯(lián)合發(fā)布的《可信人工智能白皮書》中指出，當(dāng)前人工智能技術(shù)風(fēng)險(xiǎn)引發(fā)信任危機(jī)，其中包括算法安全導(dǎo)致的應(yīng)用風(fēng)險(xiǎn)、黑箱模型導(dǎo)致算法不透明、數(shù)據(jù)歧視導(dǎo)致智能決策偏見(jiàn)、系統(tǒng)決策復(fù)雜導(dǎo)致責(zé)任事故主題難以界定、數(shù)據(jù)濫用導(dǎo)致隱私泄露風(fēng)險(xiǎn)，因此發(fā)展可信人工智能正在成為全球共識(shí)。
保護(hù)隱私、規(guī)范算法
技術(shù)和管理并重
隱私問(wèn)題是算法濫用帶來(lái)的嚴(yán)重問(wèn)題之一，盡管在網(wǎng)絡(luò)安全領(lǐng)域，數(shù)據(jù)安全和隱私保護(hù)始終是重中之重，但時(shí)至今日出現(xiàn)的數(shù)據(jù)安全問(wèn)題仍屢見(jiàn)不鮮。
在解決隱私泄露方面，業(yè)界出現(xiàn)了許多更為針對(duì)性的技術(shù)措施，其中包括差分隱私和基于聯(lián)邦學(xué)習(xí)的隱私保護(hù)。
差分隱私早在2006年就已提出，是人工智能系統(tǒng)隱私保護(hù)能力的一個(gè)量化指標(biāo)，旨在提供一種當(dāng)從統(tǒng)計(jì)數(shù)據(jù)庫(kù)查詢時(shí)，最大化數(shù)據(jù)查詢的準(zhǔn)確性，同時(shí)最大限度減少識(shí)別其記錄的機(jī)會(huì)。
它通過(guò)對(duì)數(shù)據(jù)信息順序置換、添加噪聲等方式來(lái)防御攻擊。
聯(lián)邦學(xué)習(xí)技術(shù)于2015年提出，可在滿足用戶隱私保護(hù)、數(shù)據(jù)安全和法規(guī)的要求下，進(jìn)行數(shù)據(jù)使用和機(jī)器學(xué)習(xí)建模。
聯(lián)邦學(xué)習(xí)通過(guò)將模型部署到用戶設(shè)備，各設(shè)備使用自己的私有數(shù)據(jù)計(jì)算模型參數(shù)的梯度，進(jìn)而利用通過(guò)中央服務(wù)器進(jìn)行融合后的數(shù)據(jù)來(lái)更新模型參數(shù)。
針對(duì)算法治理方面，賽迪智庫(kù)建議：
應(yīng)當(dāng)探索建立算法應(yīng)用監(jiān)管制度體系，一是建立算法應(yīng)用影響評(píng)估制度，二是建立算法透明度制度，三是建立算法問(wèn)責(zé)機(jī)制；
加強(qiáng)算法應(yīng)用的安全測(cè)試與監(jiān)測(cè)，一是組織開(kāi)展算法應(yīng)用安全測(cè)試，二是利用大數(shù)據(jù)、人工智能等技術(shù)手段，加強(qiáng)對(duì)網(wǎng)絡(luò)平臺(tái)算法數(shù)據(jù)采集、運(yùn)行、社會(huì)影響等方面的動(dòng)態(tài)監(jiān)測(cè)，強(qiáng)化監(jiān)管；
依托行業(yè)組織強(qiáng)化企業(yè)算法倫理建設(shè)，一是加快研究制定算法倫理規(guī)則，二是支持設(shè)立算法社區(qū)、行業(yè)聯(lián)盟等組織，指導(dǎo)企業(yè)建立內(nèi)部治理框架、控制機(jī)制和責(zé)任體系，防止算法濫用。
技術(shù)是把雙刃劍，算法的“原罪”背后，永遠(yuǎn)是人。
