人工智能(AI)有望在幾乎每個(gè)行業(yè)帶來(lái)變革性變革并節(jié)省成本。實(shí)際上，人工智能帶來(lái)的生產(chǎn)力和創(chuàng)新能力的提高目前正在引發(fā)“第四次工業(yè)革命”，普華永道估計(jì)，到2030年，這將為全球經(jīng)濟(jì)貢獻(xiàn)超過(guò)15.7萬(wàn)億美元，并為北歐GDP至少增長(zhǎng)9.9%。
但是，如果我們的社會(huì)未能正確實(shí)施該技術(shù)，則AI可能會(huì)釋放出大量社會(huì)不公。歐盟目前沒(méi)有專門的標(biāo)準(zhǔn)或立法工具來(lái)規(guī)范AI的開(kāi)發(fā)和實(shí)施，以幫助防止AI成為不公正的根源。在未來(lái)的幾年中，我認(rèn)為我們需要看到與GDPR范圍類似的立法在這一領(lǐng)域發(fā)揮作用。
人工智能的風(fēng)險(xiǎn)
盡管潛力巨大，但人們對(duì)AI的廣泛采用存在合理和合理的擔(dān)憂。惡意行為者對(duì)AI的使用會(huì)給個(gè)人和組織的網(wǎng)絡(luò)安全帶來(lái)很多風(fēng)險(xiǎn)，而AI在預(yù)測(cè)個(gè)人決策中的使用會(huì)引起一系列隱私問(wèn)題。我們還知道，人工智能將給某些行業(yè)帶來(lái)的工作流離失所可能會(huì)威脅到生計(jì)，更不用說(shuō)人工智能將帶來(lái)的較少討論的心理健康挑戰(zhàn)了。
更陰險(xiǎn)的是，人工智能的不當(dāng)實(shí)踐可能導(dǎo)致它使社會(huì)中的不良偏見(jiàn)長(zhǎng)期存在。數(shù)據(jù)科學(xué)家和開(kāi)發(fā)人員對(duì)AI系統(tǒng)進(jìn)行“培訓(xùn)”的數(shù)據(jù)對(duì)其輸出的發(fā)現(xiàn)和決策具有直接影響，這意味著提供有AI模型偏差的數(shù)據(jù)可能導(dǎo)致其做出社會(huì)不公正的決策。例如，美國(guó)許多預(yù)測(cè)性警務(wù)認(rèn)可機(jī)構(gòu)都受到了偽造數(shù)據(jù)的“訓(xùn)練”，這些數(shù)據(jù)使他們的決策偏向少數(shù)族裔。這是一個(gè)非常棘手的問(wèn)題，并突出顯示了使用經(jīng)過(guò)仔細(xì)評(píng)估和具有代表性的數(shù)據(jù)來(lái)??訓(xùn)練AI模型的重要性。
此外，存在個(gè)人和組織可以將決策完全委派給AI系統(tǒng)的風(fēng)險(xiǎn)，這降低了責(zé)任感并增加了歧義。這很危險(xiǎn)，因?yàn)锳I模型做出的決策會(huì)影響重大決策，例如某人獲得貸款，被雇用從事工作或受到執(zhí)法部門的懷疑。
