時(shí)至今日，科技巨頭及其基于AI的數(shù)字平臺(tái)與解決方案，完全有能力影響全球領(lǐng)導(dǎo)人、民族國(guó)家、跨國(guó)企業(yè)、全球股市乃至每位個(gè)人的命運(yùn)。
目前，各大主要數(shù)字平臺(tái)的建立者、以及各類(lèi)AI系統(tǒng)的設(shè)計(jì)人員與開(kāi)發(fā)人員，仍然在將個(gè)人視為用戶、客戶或者數(shù)據(jù)點(diǎn)，但卻常常忽略個(gè)人作為公民的角色與權(quán)利。
結(jié)果就是，個(gè)人用戶及客戶被從社會(huì)背景下徹底剝離出來(lái)，并引發(fā)了可怕的后果。這些個(gè)人可能會(huì)在不自覺(jué)中成為錯(cuò)誤信息的傳播載體;得不到第一手正確信息的使用者有可能被拉攏為暴力叛亂分子;而在申請(qǐng)工作或更新保險(xiǎn)訂單時(shí)，用戶也有可能遭到有偏見(jiàn)AI系統(tǒng)的不公平對(duì)待。
為什么要推動(dòng)公民體驗(yàn)設(shè)計(jì)?
如今，隨著AI解決方案的社會(huì)影響日益明顯，我們需要從公民乃至社會(huì)的角度考慮AI技術(shù)的效果以及設(shè)計(jì)/開(kāi)發(fā)原理。
通過(guò)種種現(xiàn)實(shí)證據(jù)，我們已經(jīng)意識(shí)到有偏見(jiàn)的AI系統(tǒng)正在給醫(yī)療保健、科學(xué)研究、刑事司法乃至金融服務(wù)等各個(gè)領(lǐng)域帶來(lái)嚴(yán)重影響。此外，我們也一直在見(jiàn)證關(guān)于數(shù)據(jù)權(quán)利與慣例的積極發(fā)展。
但僅從GDPR或數(shù)據(jù)治理計(jì)劃等角度出發(fā)對(duì)高科技企業(yè)進(jìn)行監(jiān)管，顯然還遠(yuǎn)遠(yuǎn)不夠。同樣的，對(duì)新興算法的審計(jì)方法還不夠成熟，不足以直接影響AI的開(kāi)發(fā)及其實(shí)踐。當(dāng)前的AI道德委員會(huì)甚至沒(méi)有能力快速、成規(guī)模地調(diào)整AI發(fā)展的具體方向。
只有確保以公民為中心的價(jià)值觀與原則對(duì)AI解決方案的設(shè)計(jì)與開(kāi)發(fā)加以引導(dǎo)，才有可能對(duì)AI領(lǐng)域施加有效且可持續(xù)的正確影響。
以往，“公民體驗(yàn)”僅被劃為純公共服務(wù)領(lǐng)域，但僅此而已。今天，我們需要一種更全面、更多以公民為中心的方法，并據(jù)此構(gòu)建起面向每一位AI設(shè)計(jì)師及開(kāi)發(fā)人員的通用工具箱。
具體而言，我們需要這種秉持以公民為中心的思維與行動(dòng)方針的AI企業(yè)、數(shù)據(jù)科學(xué)家與設(shè)計(jì)師。我們還需要公民體驗(yàn)專家，將對(duì)社會(huì)的認(rèn)知納入產(chǎn)品構(gòu)思、設(shè)計(jì)以及開(kāi)發(fā)的核心環(huán)節(jié)當(dāng)中。
如何構(gòu)思AI的公民體驗(yàn)設(shè)計(jì)問(wèn)題
那么，我們?cè)鯓硬拍転楣耋w驗(yàn)設(shè)計(jì)的可持續(xù)性實(shí)踐，創(chuàng)建起一套能夠真正將個(gè)人視為公民、并融入廣泛社會(huì)結(jié)構(gòu)的AI解決方案框架?
首先，公民體驗(yàn)設(shè)計(jì)需要跨學(xué)科努力，包括將社會(huì)科學(xué)、數(shù)據(jù)科學(xué)與設(shè)計(jì)思路結(jié)合起來(lái)。公民體驗(yàn)設(shè)計(jì)還對(duì)數(shù)據(jù)素養(yǎng)與算法素養(yǎng)提出了更高要求，包括要求了解不同數(shù)據(jù)中的利弊、評(píng)估應(yīng)用程序以及不同算法帶來(lái)的潛在影響。而這項(xiàng)目標(biāo)，必須通過(guò)多學(xué)科交叉形式實(shí)現(xiàn)。
其次，公民體驗(yàn)設(shè)計(jì)應(yīng)幫助設(shè)計(jì)師及開(kāi)發(fā)人員將個(gè)人視為公民用戶與公民消費(fèi)者。公民體驗(yàn)設(shè)計(jì)還需要提供具體工具，幫助開(kāi)發(fā)者將個(gè)人視為真實(shí)的個(gè)體，幫助企業(yè)在更廣泛的社會(huì)背景下評(píng)估自身產(chǎn)品決策。這些工具還有望在用戶體驗(yàn)與客戶體驗(yàn)層面，提供更深刻的數(shù)據(jù)科學(xué)設(shè)計(jì)與實(shí)踐洞見(jiàn)。
第三，公民體驗(yàn)設(shè)計(jì)應(yīng)該覆蓋到產(chǎn)品設(shè)計(jì)與開(kāi)發(fā)的所有要素，包括用例與目標(biāo)設(shè)置、應(yīng)用指標(biāo)與用戶界面設(shè)計(jì)、數(shù)據(jù)管道及AI技術(shù)選擇、乃至用戶研究與分析等等。
第四，必須與公民一起制定公民體驗(yàn)設(shè)計(jì)的基本原則。這些共同建立的實(shí)踐將帶來(lái)新的洞見(jiàn)，并將公民作為活躍力量引入這場(chǎng)AI變革的核心當(dāng)中。
公民體驗(yàn)設(shè)計(jì)的基本原則
一切均始于此：AI從業(yè)者首先應(yīng)承認(rèn)個(gè)人的身份，即成熟公民的身份，并相應(yīng)予以尊重與關(guān)照。永遠(yuǎn)不應(yīng)脫離社會(huì)背景，在孤立產(chǎn)品或平臺(tái)當(dāng)中考慮AI解決方案。
下面來(lái)看關(guān)于迭代的更多具體建議：
AI系統(tǒng)的設(shè)計(jì)與開(kāi)發(fā)應(yīng)強(qiáng)調(diào)維護(hù)公民權(quán)利。算法應(yīng)以負(fù)責(zé)任且透明的方式創(chuàng)建完成，且AI系統(tǒng)不應(yīng)根據(jù)公民的身份對(duì)其做出區(qū)別對(duì)待、或損害其豁免權(quán)或完整性。
以安全、負(fù)責(zé)的方式處理公民數(shù)據(jù)。AI系統(tǒng)不應(yīng)以不必要的方式收集個(gè)人數(shù)據(jù)，或在未經(jīng)明確同意的前提下使用個(gè)人數(shù)據(jù)。同樣，當(dāng)公民與AI系統(tǒng)交互或受后者影響時(shí)，必須明確向公民發(fā)出通報(bào)。AI系統(tǒng)絕不應(yīng)愚弄或操縱公民，例如通過(guò)偽裝為人類(lèi)、或誘導(dǎo)不健康行為的方式在推薦系統(tǒng)中愚弄或操縱公民。
在從公民角度出發(fā)考量AI系統(tǒng)時(shí)，必須對(duì)數(shù)據(jù)的個(gè)人控制視為數(shù)字產(chǎn)品需要遵循的基本特征。將公民隱私權(quán)設(shè)定為最核心的權(quán)益，即可保證基于AI的監(jiān)管系統(tǒng)不以任何不必要的方式觸及這部分信息。
AI系統(tǒng)不應(yīng)促進(jìn)任何有違現(xiàn)有法律或其他公民權(quán)利的行為。AI系統(tǒng)必須尊重現(xiàn)有法規(guī)與公序良俗。簡(jiǎn)而言之，AI設(shè)計(jì)人員、開(kāi)發(fā)人員或其AI解決方案不應(yīng)獨(dú)立做出好壞、公平、適度或合法等層面的判斷。
公民體驗(yàn)設(shè)計(jì)，要求從業(yè)者與來(lái)自不同領(lǐng)域的專家保持持續(xù)對(duì)話，結(jié)合社會(huì)背景主動(dòng)審視其解決方案。AI解決方案目前已被廣泛認(rèn)定為與人類(lèi)社會(huì)無(wú)縫整合的社會(huì)性技術(shù)系統(tǒng)，因此必須得到持續(xù)監(jiān)控、評(píng)估、審計(jì)與迭代，盡可能緩解潛在的問(wèn)題或利益沖突。
AI系統(tǒng)還應(yīng)允許人們自主學(xué)習(xí)關(guān)于AI技術(shù)的使用及效應(yīng)。當(dāng)個(gè)人被視為成熟公民時(shí)，即應(yīng)對(duì)自己使用的AI解決方案負(fù)責(zé)。為此，民眾需要培養(yǎng)新的公民技能，包括良好的數(shù)據(jù)素養(yǎng)、算法素養(yǎng)以及數(shù)字媒體素養(yǎng)。這一點(diǎn)需要公民與AI從業(yè)者的共同努力。例如，公民應(yīng)能夠以易于訪問(wèn)的方式觀察自身數(shù)據(jù)足跡是否暴露于算法系統(tǒng)當(dāng)中。
這種教育上的透明性，有助于人們了解AI系統(tǒng)及其創(chuàng)建者的動(dòng)機(jī)與意圖，幫助公民與AI開(kāi)發(fā)者之間建立起信任。以公民為中心、且具有社會(huì)意識(shí)的設(shè)計(jì)，可以及時(shí)向公民盡通報(bào)義務(wù)，同時(shí)增強(qiáng)行為與安全機(jī)制，例如使有害信息更易于檢測(cè)、緩解甚至預(yù)防。
建立原則
在理想情況下，將公民體驗(yàn)設(shè)計(jì)引入AI應(yīng)該成為一項(xiàng)前提性原則，據(jù)此指導(dǎo)AI解決方案的設(shè)計(jì)與開(kāi)發(fā)，而非做出回顧性的評(píng)估或系統(tǒng)內(nèi)容迭代。
縱觀全局，很明顯，公民體驗(yàn)設(shè)計(jì)將為AI創(chuàng)新帶來(lái)新的機(jī)會(huì)，確保現(xiàn)有乃至未來(lái)的解決方案不能忽視個(gè)人用戶作為公民的這一角色定位。
構(gòu)建及迭代公民體驗(yàn)設(shè)計(jì)應(yīng)該成為一項(xiàng)核心原則，而這條漫長(zhǎng)道路的起點(diǎn)就在當(dāng)下。
來(lái)源丨Venture Beat
作者丨Jarno M.Koponen
編譯丨科技行者
