本文來自千家網(wǎng)。
歷時3天的“馬拉松式”談判圓滿結(jié)束，理事會主席與談判代表剛剛就人工智能協(xié)調(diào)規(guī)則達成協(xié)議，預計最終將成為《人工智能監(jiān)管的人工智能法案》。該法規(guī)草案的重點是提供一個合規(guī)框架，優(yōu)先考慮在歐盟部署安全和尊重人權(quán)的人工智能系統(tǒng)。這一人工智能法規(guī)超越了歐洲國家在人工智能領(lǐng)域投資和創(chuàng)新的靈感。
《人工智能法案》是一項具有里程碑意義的立法，它可以創(chuàng)造一個有利的環(huán)境，在這種環(huán)境中，人工智能的使用將成為一種更優(yōu)秀的安全和信任的工具，確保整個歐盟的公共和私人機構(gòu)利益相關(guān)者的參與。其主要思想是，根據(jù)人工智能對社會造成傷害的能力，遵循“基于風險”的方法來監(jiān)管人工智能:風險的危險程度越高，需要做出的限制就越多。這第一部法律為其他司法管轄區(qū)的人工智能監(jiān)管建立了一個全球先例。相比之下，GDPR以同樣的方式已經(jīng)在保護個人數(shù)據(jù)方面做到了這一點，因此在全球范圍內(nèi)推廣了歐盟的技術(shù)監(jiān)管方式。
臨時協(xié)定的主要內(nèi)容
●與歐盟委員會的初步提案相比，人工智能監(jiān)管臨時協(xié)議的主要新內(nèi)容可以總結(jié)如下:
●對具有未來系統(tǒng)性風險的高影響通用人工智能模型和控制該系統(tǒng)的高風險人工智能系統(tǒng)進行分類。
●在歐盟一級改進具有協(xié)調(diào)權(quán)力的治理制度或全面改革經(jīng)濟政策。
●擴大了違禁物品清單,但警務(wù)人員可在公共場所使用遠程生物鑒別識別；不過,這是在不受濫用的條件下進行的。
●更好地執(zhí)行權(quán)利,這是因為要求部署有潛在風險的系統(tǒng)的人工智能行為者在使用這些系統(tǒng)之前先了解這些系統(tǒng)的基本權(quán)利影響。
更具體地,臨時協(xié)定包括以下方面:
●定義和范圍
根據(jù)選擇協(xié)議，試圖選擇經(jīng)合組織庇護所的人工智能系統(tǒng)的定義與建議的程序相對應(yīng)。這樣，人工智能系統(tǒng)的標準有助于更清楚地區(qū)分簡單的軟件系統(tǒng)。
此外，臨時協(xié)議更詳細地解釋了該條例的規(guī)則不包括屬于歐盟法律領(lǐng)域的部門，不能以任何方式削弱成員國在國家安全領(lǐng)域或在國家安全領(lǐng)域分擔責任的各方的能力。不僅如此，《人工智能法案》也不會擴展到僅用于軍事或國防目的的人工智能系統(tǒng)。同時，該條約還指出，人工智能系統(tǒng)不僅用于科學和研究目的，而且用于非科學和非創(chuàng)新原因，包括非人工智能技術(shù)人員或?qū)＜业那闆r下，法律應(yīng)適用于人工智能系統(tǒng)。
●將人工智能系統(tǒng)分類為高風險和被禁止的人工智能實踐
它創(chuàng)建了一個橫向安全屏障,其中包括1.1級"可能的嚴重/重大權(quán)利損害",以排除未預測會造成這種威脅的人工智能系統(tǒng)。那些對用戶有輕微傷害風險的人工智能系統(tǒng)將具有最低的透明度要求。例如,其應(yīng)該通知用戶內(nèi)容是人工智能生成的，這樣就可以決定是否使用該內(nèi)容或執(zhí)行進一步的操作。
將批準在歐盟領(lǐng)土上運行的各種基于人工智能的系統(tǒng)。然而，必須滿足進入歐盟市場的要求和責任。這些共同立法委員增加和修訂了一些規(guī)定，使之在技術(shù)上更簡單明了，減輕了持份者的負擔，例如，關(guān)于數(shù)據(jù)質(zhì)量的供應(yīng)，以及中小企業(yè)需要編寫的技術(shù)文件，以證明其人工智能系統(tǒng)已安全構(gòu)建并符合現(xiàn)行規(guī)定。
由于人工智能系統(tǒng)是在要求苛刻的價值鏈環(huán)境中創(chuàng)建和提供的，因此折衷安排將要求除其他外，對企業(yè)的行為進行修訂，以反映對該鏈中各種行為者(即該技術(shù)系統(tǒng)的提供商和用戶)的責任/影響范圍的澄清。它還闡明了《人工智能法案》中衍生的人工智能特定義務(wù)如何相互作用，并與其他法律中規(guī)定的義務(wù)發(fā)生沖突，如歐盟的數(shù)據(jù)立法和部門立法。
人工智能的應(yīng)用將會因為高風險而被拒絕，這對于人工智能的某些用途是被禁止的。因此，這些設(shè)備將不會被引入歐盟。根據(jù)初步協(xié)議，禁止的行為包括行為控制的認知技術(shù)、從網(wǎng)絡(luò)上無目的地收集面部圖像等、機構(gòu)和教育中的情感識別、社會評分、用于確定性取向或宗教信仰的生物識別方法，以及用于警務(wù)目的的一些個人家譜。
●執(zhí)法例外
考慮到執(zhí)法組織的特殊性和其在履行職責時使用計算機的必要性,對委員會關(guān)于執(zhí)法的規(guī)則AI的建議作出了若干修改,這是至關(guān)重要的。只要制定了謹慎的措施,這些變革就會轉(zhuǎn)化為運營商保護信息隱私的必要性。這方面的一個例子是啟動高風險人工智能實施的緊急程序,但不包括在緊急情況下進行符合性評估。除此之外,還制定了一項具體行動,為保障人權(quán),防止濫用人工智能申請?zhí)峁?quán)限。
此外,臨時協(xié)議的案文明確表達了在公共場所使用實時遠程生物鑒別識別系統(tǒng)的原因,但僅出于執(zhí)法原因,只有在例外情況下才允許當局這樣做。折衷協(xié)定規(guī)定了額外的保障措施,并將這些例外情況限于殺害犯罪嫌疑人的案件,確保只有在真正威脅的情況下才進行搜查,以及在人們涉嫌犯下最嚴重罪行時才防止恐怖襲擊和搜查。
●通用人工智能系統(tǒng)和基礎(chǔ)模型
對于人工智能系統(tǒng)用于多種目的的場景,即通用人工智能和獨立系統(tǒng),制定了新的規(guī)定。另一個高風險系統(tǒng)，即自行駕駛汽車，與通用人工智能集成?！哆^渡協(xié)定》還包括GPA(GPAI)。GPA監(jiān)管是協(xié)議的核心部分。
基礎(chǔ)模型被描述為能夠在復雜活動中表現(xiàn)出能力的系統(tǒng)，如文本生成、視頻分割、處理自然語言、渲染代碼和許多更多的計算機任務(wù)，也已經(jīng)得出結(jié)論。臨時安排要求基本模型在上市前滿足去污染要求。建立"高影響"基礎(chǔ)模型所需的政策要嚴格得多。這些具有巨大規(guī)模和非常先進的復雜性、能力和性能的平均數(shù)據(jù)模型可以在企業(yè)的價值鏈中帶來系統(tǒng)性風險；所有參與企業(yè)都可以分擔這些風險。
●新的治理架構(gòu)
根據(jù)新的GPAI模式的限制措施及其在歐盟一級的標準化監(jiān)測的必要性,委員會設(shè)立了一個獨特的人工智能辦公室,負責監(jiān)督這些最先進的人工智能模式,促進建立規(guī)范和測試程序,并在所有成員國執(zhí)行主要規(guī)則。一個獨立的技術(shù)專家科學小組將就模型規(guī)模向GPAIAI辦公室提供咨詢意見,方法是制定評估基礎(chǔ)模型和技術(shù)力量的方法,對準備上市的GPAI狀態(tài)和基礎(chǔ)模型進行評估,并可能監(jiān)測與基礎(chǔ)模型有關(guān)的材料的安全性。
為此目的,由成員國組成的人工智能委員會作為其成員，并作為委員會的協(xié)調(diào)平臺和咨詢機構(gòu)，應(yīng)在其領(lǐng)域內(nèi)使成員國在實施條例方面發(fā)揮突出和關(guān)鍵的作用,將其作為基礎(chǔ)模式的業(yè)務(wù)守則。最后但并非最不重要的是,將建立一個論壇,由行業(yè)參與者、中小型企業(yè)、初創(chuàng)企業(yè)、公民社會和大學代表個人利益相關(guān)者。這可以提供人工智能委員會可以使用的技術(shù)知識。
●處罰
對違反《人工智能法》的企業(yè)進行對接和制裁，罰款金額最低為一定數(shù)額，最高可達上一財政年度全球年營業(yè)額的百分比。違反上述人工智能應(yīng)用將被處以3500萬歐元(7%)的罰款，違反《人工智能法》義務(wù)將被處以1500萬歐元(3%)的罰款，提供誤導性信息將被處以750萬歐元(1.5%)的罰款。盡管如此，該臨時協(xié)議包括特殊罰款，當中小企業(yè)和初創(chuàng)企業(yè)承諾遵守人工智能法案的規(guī)定時，這些罰款對其影響較小。
與《人工智能法》的簡明協(xié)議規(guī)定，自然人或法人有權(quán)向相關(guān)市場監(jiān)督實體提出正式投訴。此外，該機構(gòu)在處理上述投訴時應(yīng)遵循其特定和規(guī)定的程序。
●透明度和保護基本權(quán)利
值得注意的是，臨時協(xié)議要求人工智能系統(tǒng)部署人員在將高風險系統(tǒng)投放市場之前，對終端用戶的保障措施進行權(quán)利影響評估。這項臨時協(xié)議也為廣泛使用復雜的人工智能和自動真相檢測系統(tǒng)提供了一個良好的起點。其將使該系統(tǒng)的實施范圍清晰。值得注意的是，擬議委員會的一些規(guī)定已經(jīng)修改，參考了高風險人工智能系統(tǒng)的各種偶爾的政府用戶，這些用戶也在歐盟數(shù)據(jù)庫中注冊了高風險人工智能機器學習系統(tǒng)。除此之外，更新后的產(chǎn)品線還會向操作情緒識別系統(tǒng)的用戶發(fā)送一條消息，告知其何時接觸到該系統(tǒng)。
●支持創(chuàng)新的措施
這一部分的規(guī)定受到了重大修改,鼓勵創(chuàng)新,這是委員會提議建立一個更加科學的創(chuàng)新框架的一個重要方面,該框架不斷適應(yīng),以確保在整個歐盟范圍內(nèi)建立可持續(xù)的監(jiān)管環(huán)境。
應(yīng)要求人工智能監(jiān)管沙箱,旨在確保開發(fā)、測試和驗證新人工智能系統(tǒng)的控制環(huán)境,也允許在真實情況下測試機構(gòu)。此外，在人工智能系統(tǒng)在現(xiàn)實環(huán)境中進行測試的情況下，已經(jīng)啟用了新的限制，以便在特定條件下使用系統(tǒng)。此次臨時協(xié)議是為了減輕中小企業(yè)的行政負擔，制定了收入低的中小企業(yè)支援方案。在這種情況下，如果克減受到合法限制和嚴格具體，則允許克減。
●生效日期
《人工智能管理臨時協(xié)議》規(guī)定，除某些例外情況外，《人工智能法》的規(guī)定自生效之日起適用2年。
