本文來(lái)自通信信息報(bào)，作者/林婉玲。
利用算法進(jìn)行“AI招聘”已成為職場(chǎng)中的一大新熱點(diǎn)，如何規(guī)避AI算法可能帶來(lái)的歧視問題成為保障就業(yè)公平面臨的一個(gè)新問題。近日，上海市政協(xié)在一場(chǎng)重點(diǎn)提案督辦專題調(diào)研暨辦理推進(jìn)會(huì)上，就針對(duì)這一問題進(jìn)行了重點(diǎn)討論，旨在通過加強(qiáng)監(jiān)管、強(qiáng)化技術(shù)手段等，更好地維護(hù)勞動(dòng)者權(quán)益。
（圖片來(lái)源：攝圖網(wǎng)）
AI應(yīng)用領(lǐng)域不斷擴(kuò)容
隨著數(shù)字化時(shí)代的到來(lái)，大數(shù)據(jù)、大模型等AI算法正不斷進(jìn)入各場(chǎng)景進(jìn)行探索應(yīng)用。例如，在家居、制造、金融、醫(yī)療、安防、交通、零售、教育和物流等多領(lǐng)域都有涉獵，包括上述的“AI招聘”。
簡(jiǎn)單舉幾個(gè)例子。在自動(dòng)駕駛領(lǐng)域，AI可用在自動(dòng)駕駛技術(shù)中，通過感知、決策和控制使車輛能夠自主行駛，這一技術(shù)的發(fā)展將帶來(lái)更高的交通安全性。在醫(yī)療保健領(lǐng)域，AI技術(shù)在輔助診斷、醫(yī)療影像分析、個(gè)性化治療和健康監(jiān)測(cè)等領(lǐng)域有著廣泛的應(yīng)用，AI能夠處理大量的醫(yī)療數(shù)據(jù)并提取有用的信息，幫助醫(yī)生進(jìn)行更準(zhǔn)確的診斷和治療決策；此外，AI還可以通過智能設(shè)備和監(jiān)測(cè)系統(tǒng)，對(duì)個(gè)人健康狀況進(jìn)行實(shí)時(shí)監(jiān)測(cè)和預(yù)測(cè)。在教育和培訓(xùn)領(lǐng)域，AI可以提供個(gè)性化學(xué)習(xí)和智能教育工具，根據(jù)學(xué)習(xí)者的特點(diǎn)和需求，為其提供定制化的教育，個(gè)性化的學(xué)習(xí)方案；智能教育工具能夠根據(jù)學(xué)生的學(xué)習(xí)進(jìn)度和理解程度，提供有針對(duì)性輔導(dǎo)……
AI的“一體兩面”引人深思
“一公斤的磚和兩公斤的棉花，哪個(gè)比較重？”對(duì)于這個(gè)簡(jiǎn)單的問題，人工智能（AI）問答軟件卻答錯(cuò)了。
前不久在福州舉行的2023年國(guó)家網(wǎng)絡(luò)安全宣傳周主論壇——網(wǎng)絡(luò)安全技術(shù)高峰論壇上，一位演講嘉賓談及人工智能時(shí)列舉了上述案例，由此反映出的人工智能“一本正經(jīng)地胡說八道”現(xiàn)象引發(fā)熱議。
同時(shí)，粵港澳大灣區(qū)數(shù)字經(jīng)濟(jì)研究院創(chuàng)院理事長(zhǎng)沈向洋也認(rèn)為，不完美的數(shù)據(jù)源，將導(dǎo)致人工智能“一本正經(jīng)地胡說八道”，以及產(chǎn)生更難被察覺的“AI謠言”。包括在日常生活中，人們使用AIGC工具經(jīng)常會(huì)發(fā)現(xiàn)生成的內(nèi)容存在不準(zhǔn)確或自相矛盾的地方，這種現(xiàn)象就屬于“AI在一本正經(jīng)地胡說八道”。
可見，人工智能既帶來(lái)技術(shù)變革、效率和生產(chǎn)力提升、改善生活質(zhì)量和社會(huì)福祉，也帶來(lái)了技術(shù)倫理和治理方面的挑戰(zhàn)，統(tǒng)籌生成式人工智能的發(fā)展和安全逐漸變得至關(guān)重要。
建立長(zhǎng)效治理機(jī)制勢(shì)在必行
而應(yīng)如何統(tǒng)籌人工智能發(fā)展和安全、提高安全治理的能力和水平，做到更好地應(yīng)對(duì)新的風(fēng)險(xiǎn)和挑戰(zhàn)呢？
華為云CTO張宇昕就曾表示，希望構(gòu)建一個(gè)負(fù)責(zé)任、可信賴的人工智能體系，就自身而言，華為重視人工智能技術(shù)創(chuàng)新和治理責(zé)任，堅(jiān)持負(fù)責(zé)任地開發(fā)、合法地部署AI產(chǎn)品，促進(jìn)AI普惠。
清華大學(xué)人工智能研究院副院長(zhǎng)朱軍建議，加強(qiáng)技術(shù)理論研究，不斷提高內(nèi)生安全水平，持續(xù)構(gòu)建第三代人工智能；加強(qiáng)技術(shù)手段建設(shè)，不斷提升訓(xùn)練數(shù)據(jù)質(zhì)量和安全評(píng)測(cè)能力；同時(shí)，持續(xù)演進(jìn)人工智能治理的有效工具。
此外，我國(guó)也發(fā)布了法規(guī)政策和標(biāo)準(zhǔn)規(guī)范來(lái)進(jìn)行合規(guī)引導(dǎo)，例如《新一代人工智能倫理規(guī)范》《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理辦法（征求意見稿）》等文件，為人工智能技術(shù)發(fā)展和應(yīng)用提供了很好的安全指引。
