91视频观看免费-91视频观看网站-91视频观看在线-91视频官方下载-91视频官网-91视频官网国产-91视频官网入口-91视频官网下载-91视频管网-91视频国

當(dāng)前，全球數(shù)字經(jīng)濟(jì)正逐漸向以人工智能(AI)為核心驅(qū)動(dòng)力的智能經(jīng)濟(jì)新階段邁進(jìn)。AI技術(shù)在各行業(yè)得到廣泛應(yīng)用，但在為經(jīng)濟(jì)和社會(huì)發(fā)展注入新動(dòng)能的同時(shí)，也帶來(lái)了監(jiān)管難題。為此，2021年4月，歐盟發(fā)布《人工智能法》提案(以下簡(jiǎn)稱《法案》)，提出了AI統(tǒng)一監(jiān)管規(guī)則，旨在從國(guó)家法律層面限制AI技術(shù)發(fā)展帶來(lái)的潛在風(fēng)險(xiǎn)和不良影響，使AI技術(shù)在符合歐洲價(jià)值觀和基本權(quán)利的基礎(chǔ)上技術(shù)應(yīng)用創(chuàng)新得到進(jìn)一步加強(qiáng)，讓歐洲成為可信賴的全球AI中心。作為AI領(lǐng)域的“GDPR”，該《法案》是全球首部AI管制法律，研究其內(nèi)容和創(chuàng)新點(diǎn)，對(duì)制定我國(guó)AI等數(shù)字技術(shù)治理方案具有重要借鑒意義。

　　《法案》核心內(nèi)容

　　寬泛定義了AI系統(tǒng)，并設(shè)置了AI規(guī)則的域外適用性。一方面，《法案》定義了AI系統(tǒng)、AI系統(tǒng)供應(yīng)鏈上涉及到的相關(guān)環(huán)節(jié)以及不同類別的AI數(shù)據(jù)等相關(guān)要素，對(duì)監(jiān)管對(duì)象(AI系統(tǒng))的定義表現(xiàn)出極強(qiáng)的寬泛性，幾乎涵蓋了全部使用傳統(tǒng)及新興AI技術(shù)的系統(tǒng)(AI技術(shù)使用常態(tài)化的互聯(lián)網(wǎng)服務(wù)均為監(jiān)管對(duì)象)，與GDPR中對(duì)受監(jiān)管的個(gè)人數(shù)據(jù)的寬泛定義保持一致。另一方面，《法案》明確了所有在歐盟市場(chǎng)投放、使用AI系統(tǒng)及相關(guān)服務(wù)的國(guó)內(nèi)外供應(yīng)商、服務(wù)商和公共服務(wù)用戶提供者，只要其AI系統(tǒng)影響到歐盟及歐盟公民的，均將受到《法案》約束，從而保證了AI規(guī)則的域外適用性。

　　對(duì)不同應(yīng)用場(chǎng)景的AI系統(tǒng)實(shí)施風(fēng)險(xiǎn)定級(jí)，并分別提出規(guī)制路徑。《法案》基于不同應(yīng)用場(chǎng)景的風(fēng)險(xiǎn)差異性，將AI系統(tǒng)分為“不可接受、高、有限、極小”四個(gè)風(fēng)險(xiǎn)等級(jí)，并針對(duì)不同級(jí)別風(fēng)險(xiǎn)實(shí)施不同程度的規(guī)制，從而構(gòu)建起以風(fēng)險(xiǎn)為基礎(chǔ)的四級(jí)治理體系。一是將對(duì)基本人權(quán)和社會(huì)公平構(gòu)成明顯威脅的AI系統(tǒng)視為“不可接受”；二是將可能危及公民人身安全及生活基本權(quán)利場(chǎng)景中的AI系統(tǒng)視為“高風(fēng)險(xiǎn)”；三是將具有特定透明度義務(wù)的AI系統(tǒng)視為“有限風(fēng)險(xiǎn)”；四是將提供簡(jiǎn)單工具性功能的AI系統(tǒng)視為“極小風(fēng)險(xiǎn)”。

　　為在特定領(lǐng)域提供“高風(fēng)險(xiǎn)”AI系統(tǒng)的企業(yè)提出“全生命周期”式的多重合規(guī)要求，旨在增強(qiáng)AI產(chǎn)品及服務(wù)的透明度?！斗ò浮分攸c(diǎn)對(duì)“高風(fēng)險(xiǎn)”AI系統(tǒng)的開(kāi)發(fā)、部署和應(yīng)用等全生命周期提出了系列規(guī)范，并要求企業(yè)等AI系統(tǒng)供應(yīng)商履行以下透明化義務(wù)：一是在AI系統(tǒng)開(kāi)發(fā)過(guò)程中，建立風(fēng)險(xiǎn)管理系統(tǒng)、進(jìn)行數(shù)據(jù)質(zhì)量檢驗(yàn)、設(shè)計(jì)用戶告知和日志追溯功能、搭建網(wǎng)絡(luò)安全保障能力、編制用于監(jiān)管審計(jì)的技術(shù)信息文件等。二是在AI系統(tǒng)首次運(yùn)營(yíng)前或系統(tǒng)升級(jí)迭代后，及時(shí)開(kāi)展合規(guī)性評(píng)估，并在歐盟委員會(huì)建立和管理的大數(shù)據(jù)庫(kù)中進(jìn)行備案登記。三是在AI系統(tǒng)投入使用過(guò)程中，建立與AI風(fēng)險(xiǎn)級(jí)別相匹配適應(yīng)的售后監(jiān)測(cè)系統(tǒng)與人為監(jiān)督機(jī)制，對(duì)AI應(yīng)用中的風(fēng)險(xiǎn)進(jìn)行監(jiān)控預(yù)警，在發(fā)現(xiàn)可能的風(fēng)險(xiǎn)后召回系統(tǒng)處理并通知相關(guān)監(jiān)管機(jī)構(gòu)。四是在AI系統(tǒng)發(fā)生故障或嚴(yán)重事故時(shí)，應(yīng)立即采取補(bǔ)救措施，并在半個(gè)月內(nèi)向相關(guān)監(jiān)管部門(mén)報(bào)告。

　　設(shè)立專項(xiàng)AI監(jiān)督機(jī)構(gòu)，加大監(jiān)管執(zhí)法力度。在AI監(jiān)管主體方面，《法案》提出將通過(guò)建立歐洲人工智能委員會(huì)，推動(dòng)AI新規(guī)則的實(shí)施完善，以及后續(xù)AI標(biāo)準(zhǔn)的制定出臺(tái)，并借此構(gòu)建各國(guó)監(jiān)管部門(mén)的聯(lián)絡(luò)渠道，協(xié)調(diào)歐盟層面的AI監(jiān)管政策，以保持AI監(jiān)管體系的統(tǒng)一性。此外，要求各成員國(guó)建立通知機(jī)構(gòu)，指定和通知第三方合格評(píng)定機(jī)構(gòu)開(kāi)展監(jiān)管評(píng)估，并定期將監(jiān)管調(diào)查信息發(fā)送至AI委員會(huì)。在AI監(jiān)管執(zhí)法方面，《法案》提出將對(duì)創(chuàng)建或應(yīng)用AI系統(tǒng)過(guò)程中的違法企業(yè)處以高達(dá)約3600萬(wàn)美元的行政罰款，或全球年度總營(yíng)業(yè)額的2%-6%，取兩者中最高的金額進(jìn)行處罰。相比GDPR中4%年?duì)I業(yè)額的罰款金額，《法案》的AI監(jiān)管處罰力度進(jìn)一步加大。此外，將撤回未在規(guī)定時(shí)間內(nèi)實(shí)施整改措施企業(yè)的AI系統(tǒng)，并限制其市場(chǎng)銷售。

　　《法案》亮點(diǎn)分析

　　與GDPR有效銜接，進(jìn)一步明確了AI系統(tǒng)的數(shù)據(jù)治理要求。數(shù)據(jù)和算法是AI技術(shù)的核心要素，AI系統(tǒng)通過(guò)數(shù)據(jù)喂養(yǎng)進(jìn)行算法模型優(yōu)化，算法模型也應(yīng)用于對(duì)個(gè)人數(shù)據(jù)的深度挖掘，實(shí)現(xiàn)基于學(xué)習(xí)的智能化服務(wù)。為此，《法案》重點(diǎn)關(guān)注了AI系統(tǒng)的數(shù)據(jù)安全和算法歧視偏見(jiàn)等問(wèn)題，并進(jìn)行了明確規(guī)制，包括：AI系統(tǒng)在收集用戶數(shù)據(jù)前需履行告知義務(wù)，以保證用戶的知情權(quán)和選擇權(quán)，確保數(shù)據(jù)采集的合法性；在訓(xùn)練、驗(yàn)證、測(cè)試“高風(fēng)險(xiǎn)”AI系統(tǒng)數(shù)據(jù)集時(shí)，應(yīng)完成數(shù)據(jù)質(zhì)量檢驗(yàn)、算法偏見(jiàn)評(píng)估檢查等要求；在AI監(jiān)管沙盒中處理個(gè)人數(shù)據(jù)時(shí)，應(yīng)保證個(gè)人數(shù)據(jù)均處于功能獨(dú)立、隔離且受保護(hù)的數(shù)據(jù)處理環(huán)境中，并需實(shí)施授權(quán)訪問(wèn)和數(shù)據(jù)刪除機(jī)制。

　　搭建具備可拓展性的法律框架，彌補(bǔ)了技術(shù)監(jiān)管的滯后性缺陷。面對(duì)飛速發(fā)展的AI等新興數(shù)字技術(shù)，法律的適用性持續(xù)時(shí)間往往較短，新制定的法律規(guī)定可能很快就無(wú)法適用于實(shí)際情況，難以實(shí)現(xiàn)對(duì)迭代快速的AI技術(shù)進(jìn)行全面監(jiān)管，AI領(lǐng)域的法制體系滯后性凸顯。為此，《法案》專門(mén)預(yù)留了及時(shí)調(diào)整更新法律的空間，通過(guò)設(shè)臵“動(dòng)態(tài)清單”，巧妙化解了法律滯后性和技術(shù)飛速發(fā)展之間的矛盾。例如，對(duì)AI系統(tǒng)的定義，《法案》以附件形式詳細(xì)列舉了屬于AI范圍內(nèi)的技術(shù)和方法清單，并通過(guò)更新清單機(jī)制，保持與最前沿AI技術(shù)的同步性；針對(duì)“高風(fēng)險(xiǎn)”AI系統(tǒng)的界定，《法案》制定了“高風(fēng)險(xiǎn)”清單，并賦予人工智能委員會(huì)結(jié)合風(fēng)險(xiǎn)多邊性判斷并提出添加新“高風(fēng)險(xiǎn)”應(yīng)用場(chǎng)景建議的權(quán)利，以確保法律的及時(shí)更新。

　　實(shí)施對(duì)人工智能系統(tǒng)的分類分級(jí)監(jiān)管，構(gòu)建系統(tǒng)性AI治理體系。AI技術(shù)具有跨學(xué)科、前沿知識(shí)融合等復(fù)雜屬性，不同AI系統(tǒng)在相同場(chǎng)景中可造成不同種類的風(fēng)險(xiǎn)，相同AI系統(tǒng)在不同場(chǎng)景中應(yīng)用也可能帶來(lái)不同種類或不同程度的風(fēng)險(xiǎn)。為此，《法案》采用分類分級(jí)思路，在梳理重點(diǎn)應(yīng)用場(chǎng)景類別的基礎(chǔ)上，對(duì)不同應(yīng)用場(chǎng)景按照AI系統(tǒng)風(fēng)險(xiǎn)可能的影響程度和危害性質(zhì)實(shí)施不同等級(jí)的分類治理，替代對(duì)不同場(chǎng)景的AI風(fēng)險(xiǎn)進(jìn)行分散專項(xiàng)治理的傳統(tǒng)路徑。通過(guò)構(gòu)建清晰且系統(tǒng)性的治理框架，實(shí)現(xiàn)對(duì)AI系統(tǒng)復(fù)雜性風(fēng)險(xiǎn)的“降維”治理。

　　率先建立AI監(jiān)管沙盒機(jī)制，探索監(jiān)管人工智能風(fēng)險(xiǎn)的新模式。技術(shù)規(guī)制的法律制定常見(jiàn)難點(diǎn)之一就是如何在實(shí)現(xiàn)有效監(jiān)管的同時(shí)，兼顧技術(shù)創(chuàng)新發(fā)展，鼓勵(lì)企業(yè)負(fù)責(zé)任的創(chuàng)新行為。為此，《法案》提出通過(guò)建立AI監(jiān)管沙盒，為AI系統(tǒng)的開(kāi)發(fā)、部署、驗(yàn)證、測(cè)試提供了一個(gè)可控的隔離環(huán)境，使歐洲企業(yè)可在免責(zé)條件下進(jìn)行AI相關(guān)的試驗(yàn)和創(chuàng)新，且試驗(yàn)全過(guò)程受到監(jiān)管部門(mén)的監(jiān)督。通過(guò)在可控范圍內(nèi)實(shí)行容錯(cuò)糾錯(cuò)機(jī)制，在杜絕AI未知問(wèn)題向不可控外部環(huán)境擴(kuò)散風(fēng)險(xiǎn)的同時(shí)，也為AI創(chuàng)新企業(yè)創(chuàng)造了相對(duì)寬松的發(fā)展環(huán)境。

　　四點(diǎn)啟示

　　強(qiáng)化AI立法，制定具備銜接性與靈活性的法律監(jiān)管框架?；贏I風(fēng)險(xiǎn)的復(fù)雜性、多變性，以及其與數(shù)據(jù)安全的緊密關(guān)聯(lián)性，在探索AI法律規(guī)制路徑時(shí)，可參考?xì)W盟《法案》亮點(diǎn)，增強(qiáng)法律內(nèi)容的銜接協(xié)調(diào)與靈活開(kāi)放特性。一方面，確保AI法律與《網(wǎng)絡(luò)安全法》、《民典法》、《數(shù)據(jù)安全法》、《個(gè)人信息保護(hù)法(草案)》四項(xiàng)數(shù)據(jù)和個(gè)人信息保護(hù)基本法的有效銜接，明確AI語(yǔ)境下的數(shù)據(jù)安全及個(gè)人隱私保護(hù)原則，規(guī)制AI數(shù)據(jù)安全風(fēng)險(xiǎn)。另一方面，針對(duì)AI技術(shù)、“高中低”風(fēng)險(xiǎn)應(yīng)用場(chǎng)景等具有變化特征的概念實(shí)施動(dòng)態(tài)定義，通過(guò)設(shè)臵清單列表并建立類數(shù)據(jù)庫(kù)功能的“增刪改查”調(diào)整機(jī)制，確保法律在技術(shù)發(fā)展和場(chǎng)景變更下的時(shí)效性和靈活性，防止AI法律內(nèi)容滯后帶來(lái)的監(jiān)管困境。

　　探索分類分級(jí)監(jiān)管路徑，依據(jù)不同應(yīng)用場(chǎng)景精準(zhǔn)施策。可考慮采用《法案》中的分類分級(jí)治理思路，依托對(duì)不同場(chǎng)景類別的梳理，以及場(chǎng)景風(fēng)險(xiǎn)對(duì)個(gè)人生命和生活權(quán)利、社會(huì)秩序影響大小，將不同應(yīng)用場(chǎng)景進(jìn)行分級(jí)，對(duì)歸屬于同一風(fēng)險(xiǎn)級(jí)別場(chǎng)景中的AI系統(tǒng)進(jìn)行統(tǒng)一管控，對(duì)不同風(fēng)險(xiǎn)級(jí)別場(chǎng)景中的AI系統(tǒng)分別采取具有不同約束程度的治理方式，從而建立起自下而上限制逐步加深的“風(fēng)險(xiǎn)金字塔”規(guī)制模型。嘗試以“風(fēng)險(xiǎn)金字塔”為抓手，構(gòu)建系統(tǒng)精準(zhǔn)的AI監(jiān)管治理體系，解決長(zhǎng)久以來(lái)面臨復(fù)雜多樣的AI系統(tǒng)風(fēng)險(xiǎn)時(shí)監(jiān)管效能低下的困境。

　　明確企業(yè)在AI產(chǎn)品開(kāi)發(fā)、運(yùn)營(yíng)過(guò)程中的強(qiáng)制性義務(wù)，提高AI系統(tǒng)的透明度。要求企業(yè)在AI產(chǎn)品開(kāi)發(fā)過(guò)程中，建立完善的AI系統(tǒng)風(fēng)險(xiǎn)管控流程，包括開(kāi)展數(shù)據(jù)質(zhì)量檢驗(yàn)避免數(shù)據(jù)投毒等事件發(fā)生、建立日志追溯機(jī)制強(qiáng)化風(fēng)險(xiǎn)的歸因溯源、建設(shè)網(wǎng)絡(luò)安全保障能力防止數(shù)據(jù)泄露等；在AI產(chǎn)品投入市場(chǎng)使用前或系統(tǒng)改造后，定期通過(guò)第三方評(píng)估機(jī)構(gòu)開(kāi)展評(píng)估認(rèn)證，向監(jiān)管部門(mén)備案AI算法的設(shè)計(jì)運(yùn)行機(jī)制、可能的偏見(jiàn)和漏洞、AI數(shù)據(jù)安全保護(hù)和風(fēng)險(xiǎn)管控措施；在AI產(chǎn)品投入使用后，及時(shí)開(kāi)展監(jiān)控預(yù)警，建立應(yīng)急響應(yīng)機(jī)制，及時(shí)處理可能的AI風(fēng)險(xiǎn)事故并同步監(jiān)管部門(mén)。

　　多措并舉構(gòu)建體系化的AI監(jiān)管機(jī)制，制定包容審慎的技術(shù)監(jiān)管措施。一是建立AI監(jiān)管專項(xiàng)負(fù)責(zé)機(jī)構(gòu)，及時(shí)跟蹤和制約AI風(fēng)險(xiǎn)。AI監(jiān)管機(jī)構(gòu)負(fù)責(zé)跟蹤AI技術(shù)發(fā)展和應(yīng)用場(chǎng)景變化，及時(shí)提出AI新風(fēng)險(xiǎn)應(yīng)對(duì)、監(jiān)管范圍更新等相關(guān)建議；對(duì)各類不負(fù)責(zé)任的AI提供者實(shí)施約談處罰，進(jìn)行有效制約和威懾。二是完善標(biāo)準(zhǔn)體系，建立第三方機(jī)構(gòu)開(kāi)展AI風(fēng)險(xiǎn)檢測(cè)認(rèn)證。加快制定AI相關(guān)技術(shù)和應(yīng)用的安全標(biāo)準(zhǔn)，明確各領(lǐng)域AI系統(tǒng)的審計(jì)、日志、告知等透明性要求與衡量指標(biāo)；培育權(quán)威的第三方AI風(fēng)險(xiǎn)評(píng)估機(jī)構(gòu)，開(kāi)展AI算法、透明度、數(shù)據(jù)安全風(fēng)險(xiǎn)等相關(guān)評(píng)估。三是探索設(shè)立AI沙盒監(jiān)管，探尋風(fēng)險(xiǎn)制約和創(chuàng)新保護(hù)之間的最佳結(jié)合點(diǎn)。建議由AI監(jiān)管的專項(xiàng)負(fù)責(zé)機(jī)構(gòu)確定沙盒監(jiān)管基本原則和條件，將具備創(chuàng)新性但風(fēng)險(xiǎn)未知的AI產(chǎn)品或商業(yè)模式在進(jìn)入市場(chǎng)前，預(yù)先在沙盒環(huán)境進(jìn)行迭代驗(yàn)證，使用戶在受保護(hù)的環(huán)境使用AI產(chǎn)品或服務(wù)。