筑牢人工智能發(fā)展的安全屏障
◆◆◆
文 | 傅聯(lián)英
隨著人工智能技術(shù)的快速迭代與應(yīng)用場景的泛在滲透，智能鴻溝、算法偏見、數(shù)據(jù)泄露、深度偽造、系統(tǒng)失控等新型安全風(fēng)險(xiǎn)正呈現(xiàn)出加速蔓延態(tài)勢，其潛在威脅已突破傳統(tǒng)技術(shù)治理框架的應(yīng)對邊界。經(jīng)濟(jì)合作與發(fā)展組織對全球人工智能事件的監(jiān)測數(shù)據(jù)顯示，2024年人工智能風(fēng)險(xiǎn)事件總數(shù)較2022年增加了約21.8倍，呈現(xiàn)急速增長態(tài)勢。近6年間，在所發(fā)生的人工智能風(fēng)險(xiǎn)事件中，約74%與安全問題直接相關(guān)。其中，2024年與安全直接相關(guān)的人工智能風(fēng)險(xiǎn)事件數(shù)量同比增長了約83.7%。
2025年4月25日，習(xí)近平總書記在中央政治局第二十次集體學(xué)習(xí)時(shí)強(qiáng)調(diào)，“人工智能帶來前所未有發(fā)展機(jī)遇，也帶來前所未遇風(fēng)險(xiǎn)挑戰(zhàn)。要把握人工智能發(fā)展趨勢和規(guī)律，加緊制定完善相關(guān)法律法規(guī)、政策制度、應(yīng)用規(guī)范、倫理準(zhǔn)則，構(gòu)建技術(shù)監(jiān)測、風(fēng)險(xiǎn)預(yù)警、應(yīng)急響應(yīng)體系，確保人工智能安全、可靠、可控”。在推進(jìn)人工智能健康有序發(fā)展進(jìn)程中，以法律規(guī)范為保障，技術(shù)端需構(gòu)建技術(shù)檢測網(wǎng)絡(luò)、完善風(fēng)險(xiǎn)預(yù)警機(jī)制、打造應(yīng)急響應(yīng)體系，筑牢人工智能發(fā)展的安全屏障，加快形成具有中國特色的人工智能發(fā)展范式。
堅(jiān)守倫理準(zhǔn)則防線。在頂層設(shè)計(jì)層面，制定統(tǒng)一的人工智能倫理準(zhǔn)則，推動(dòng)《人工智能倫理治理標(biāo)準(zhǔn)化指南》從倡議性文件向強(qiáng)制性標(biāo)準(zhǔn)的轉(zhuǎn)換落地，將公平性、透明性、可解釋性等價(jià)值要素嵌入算法設(shè)計(jì)準(zhǔn)則。在政府層面，建立人工智能倫理審查委員會機(jī)制，對重大人工智能項(xiàng)目進(jìn)行前置倫理風(fēng)險(xiǎn)評估。在企業(yè)層面，建立企業(yè)倫理治理“雙審機(jī)制”，即內(nèi)部設(shè)立倫理審查委員會，外部引入第三方機(jī)構(gòu)對算法進(jìn)行年度倫理審計(jì)，并將結(jié)果納入企業(yè)信用評價(jià)體系。在公共領(lǐng)域，實(shí)施“倫理一票否決”機(jī)制，對存在加劇數(shù)字鴻溝、誘發(fā)群體歧視風(fēng)險(xiǎn)的項(xiàng)目禁止立項(xiàng)，禁止違背人類尊嚴(yán)、加劇社會歧視的人工智能應(yīng)用進(jìn)入民生場景。同時(shí)，鼓勵(lì)高校開設(shè)人工智能倫理通識課程，培育兼具技術(shù)能力與人文素養(yǎng)的復(fù)合型智能人才，從人才源頭上塑造“智能向善”的科技基因。
健全法律法規(guī)體系。首先，制定專門的人工智能基本法。立足我國國情與技術(shù)發(fā)展實(shí)際，加快制定專門的人工智能基本法，明確研發(fā)主體、平臺企業(yè)、終端用戶等多方責(zé)任邊界。其次，完善相關(guān)配套法律法規(guī)。一方面，對網(wǎng)絡(luò)安全法、數(shù)據(jù)安全法、個(gè)人信息保護(hù)法等現(xiàn)行法律法規(guī)中與人工智能發(fā)展不相適應(yīng)的條款，應(yīng)對其進(jìn)一步細(xì)化和補(bǔ)充，使法律法規(guī)能夠高效、科學(xué)、完備地覆蓋人工智能領(lǐng)域的各類問題。另一方面，完善跨境治理規(guī)則，建立跨境數(shù)據(jù)流動(dòng)、模型開源共享等場景下的適配法律機(jī)制，積極探索“數(shù)據(jù)主權(quán)沙盒”機(jī)制，明確數(shù)據(jù)跨境傳輸?shù)暮弦?guī)邊界。最后，加大監(jiān)管執(zhí)法力度。明確監(jiān)管主體及其職責(zé)，確保相關(guān)法律法規(guī)得到有效執(zhí)行。
構(gòu)建技術(shù)監(jiān)測網(wǎng)絡(luò)。一方面，建立覆蓋“數(shù)據(jù)——算法——算力——系統(tǒng)”全要素的技術(shù)檢測網(wǎng)絡(luò)。在數(shù)據(jù)層面，建設(shè)國家級人工智能技術(shù)監(jiān)測平臺，對萬億參數(shù)以上大模型實(shí)施數(shù)據(jù)來源標(biāo)簽化管理、訓(xùn)練數(shù)據(jù)溯源追蹤和能耗動(dòng)態(tài)監(jiān)測，實(shí)時(shí)追蹤數(shù)據(jù)采集合法性、數(shù)據(jù)清洗規(guī)范性。在算法層面，研發(fā)“算法顯微鏡”工具包，對推薦系統(tǒng)的信息過濾規(guī)則、生成式人工智能建立內(nèi)容的合規(guī)性進(jìn)行動(dòng)態(tài)掃描，通過異常行為模式識別觸發(fā)預(yù)警。在重點(diǎn)行業(yè)部署人工智能異常行為感知節(jié)點(diǎn)，實(shí)時(shí)捕獲模型歧視、隱私泄露等風(fēng)險(xiǎn)信號。此外，構(gòu)建并擴(kuò)大開源社區(qū)監(jiān)測聯(lián)盟，對高風(fēng)險(xiǎn)模型代碼(如深度偽造生成工具)進(jìn)行自動(dòng)化標(biāo)記，防止技術(shù)惡意和肆意擴(kuò)散。另一方面，建立涵蓋“政產(chǎn)學(xué)研用”多方主體的協(xié)同監(jiān)測機(jī)制。加強(qiáng)政府、企業(yè)、科研機(jī)構(gòu)、社會組織等之間的合作與協(xié)同，形成寬領(lǐng)域、多維度、全方位的技術(shù)監(jiān)測網(wǎng)絡(luò)。
完善風(fēng)險(xiǎn)預(yù)警機(jī)制。多維度構(gòu)建風(fēng)險(xiǎn)評估模型，完善人工智能風(fēng)險(xiǎn)預(yù)警機(jī)制。技術(shù)層面，建立涵蓋數(shù)據(jù)質(zhì)量、算法偏差等的風(fēng)險(xiǎn)評估指標(biāo)體系。社會治理方面，整合輿情分析、用戶投訴、專家研判等多元信號，開發(fā)“人工智能風(fēng)險(xiǎn)熱力圖”，實(shí)時(shí)顯示生成式人工智能虛假信息傳播鏈路。政府方面，搭建多模態(tài)風(fēng)險(xiǎn)情報(bào)分析系統(tǒng)，聚合網(wǎng)絡(luò)輿情、用戶投訴、測試漏洞等多源數(shù)據(jù)，實(shí)現(xiàn)從技術(shù)缺陷到社會風(fēng)險(xiǎn)的穿透式預(yù)警。尤其是對深度偽造、自動(dòng)駕駛等場景實(shí)施分級預(yù)警。同時(shí)，建立“風(fēng)險(xiǎn)沙盒”模擬平臺，通過數(shù)字孿生技術(shù)推演人工智能失控情景，提前制定應(yīng)急預(yù)案與響應(yīng)機(jī)制。
打造應(yīng)急響應(yīng)體系。設(shè)計(jì)“平戰(zhàn)結(jié)合”的應(yīng)急管理框架。常態(tài)化階段，要求平臺企業(yè)建立“模型熔斷——數(shù)據(jù)隔離——產(chǎn)品修復(fù)”的標(biāo)準(zhǔn)化響應(yīng)流程。危機(jī)響應(yīng)階段，構(gòu)建政企協(xié)同的人工智能安全事件聯(lián)合處置機(jī)制，組建跨部門人工智能應(yīng)急指揮中心，整合網(wǎng)信、工信、公安等相關(guān)部門，建立“初步研判——影響遏制——溯源整改——持續(xù)監(jiān)測”的作戰(zhàn)時(shí)序。同時(shí)，還要加強(qiáng)信息發(fā)布的及時(shí)性與溝通的有效性。對內(nèi)，要建立權(quán)威的風(fēng)險(xiǎn)信息發(fā)布渠道，及時(shí)、準(zhǔn)確地向公眾發(fā)布人工智能風(fēng)險(xiǎn)預(yù)警信息，避免信息不對稱引發(fā)社會恐慌和市場混亂。對外，要建立全球人工智能安全事件共享數(shù)據(jù)庫，增強(qiáng)跨國協(xié)同處理能力，避免風(fēng)險(xiǎn)跨境溢出。
桂公網(wǎng)安備 45040502000037號