編者按：
為深入學(xué)習(xí)貫徹黨的二十屆四中全會(huì)精神，把學(xué)習(xí)好、宣傳好、貫徹好黨的二十屆四中全會(huì)精神作為當(dāng)前和今后一個(gè)時(shí)期的重大政治任務(wù)，集團(tuán)宣傳平臺(tái)特開(kāi)設(shè)“學(xué)習(xí)貫徹黨的二十屆四中全會(huì)精神”專欄，選取人民網(wǎng)、新華網(wǎng)、央視網(wǎng)、學(xué)習(xí)強(qiáng)國(guó)等權(quán)威媒體平臺(tái)的相關(guān)內(nèi)容定期推送，以權(quán)威深度、生動(dòng)新穎的內(nèi)容和形式，在集團(tuán)廣大干部職工中迅速興起學(xué)習(xí)宣傳貫徹黨的二十屆四中全會(huì)精神的熱潮，推動(dòng)全會(huì)精神深入人心、落地見(jiàn)效。
黨的二十屆四中全會(huì)通過(guò)的《中共中央關(guān)于制定國(guó)民經(jīng)濟(jì)和社會(huì)發(fā)展第十五個(gè)五年規(guī)劃的建議》（以下簡(jiǎn)稱《建議》）提出，“加快人工智能等數(shù)智技術(shù)創(chuàng)新，突破基礎(chǔ)理論和核心技術(shù)，強(qiáng)化算力、算法、數(shù)據(jù)等高效供給。”全會(huì)立足新的時(shí)代方位和發(fā)展階段，以深遠(yuǎn)的戰(zhàn)略眼光與系統(tǒng)的全局謀劃，開(kāi)啟了未來(lái)五年經(jīng)濟(jì)社會(huì)發(fā)展的新航程。這將成為加快人工智能等數(shù)智技術(shù)創(chuàng)新、促進(jìn)實(shí)體經(jīng)濟(jì)和數(shù)字經(jīng)濟(jì)深度融合發(fā)展的重要驅(qū)動(dòng)力。實(shí)踐中，人工智能越來(lái)越多地運(yùn)用于工業(yè)、醫(yī)療、家居、零售、交通、公共安全、環(huán)境保護(hù)等諸多領(lǐng)域。然而，人工智能等數(shù)智技術(shù)是一把“雙刃劍”，它在成為推動(dòng)社會(huì)進(jìn)步強(qiáng)大引擎的同時(shí)，也潛藏著濫用或失控風(fēng)險(xiǎn)，可能給社會(huì)帶來(lái)安全、倫理、輿情等諸多方面的問(wèn)題。對(duì)此，習(xí)近平總書記強(qiáng)調(diào)，要加強(qiáng)人工智能發(fā)展的潛在風(fēng)險(xiǎn)研判和防范，維護(hù)人民利益和國(guó)家安全，確保人工智能安全、可靠、可控?！督ㄗh》要求，“加強(qiáng)人工智能治理，完善相關(guān)法律法規(guī)、政策制度、應(yīng)用規(guī)范、倫理準(zhǔn)則”。因此，亟須加強(qiáng)人工智能立法促進(jìn)數(shù)智技術(shù)創(chuàng)新發(fā)展。
人工智能可能帶來(lái)的問(wèn)題
第一，人工智能可能帶來(lái)的安全問(wèn)題。所謂人工智能，是指通過(guò)機(jī)器學(xué)習(xí)、深度學(xué)習(xí)、自然語(yǔ)言處理等技術(shù)，模擬人類智能，從數(shù)據(jù)中識(shí)別規(guī)律和特征，并進(jìn)行一定程度的自動(dòng)化決策。實(shí)踐中，人工智能帶來(lái)的安全風(fēng)險(xiǎn)主要體現(xiàn)在以下方面：一是處理數(shù)據(jù)資源過(guò)程中的安全風(fēng)險(xiǎn)。數(shù)據(jù)是人工智能的基礎(chǔ)，它既是人工智能和訓(xùn)練人工智能的“養(yǎng)料”，又是人工智能處理問(wèn)題和作出決策的依據(jù)。然而，人工智能在處理數(shù)據(jù)時(shí)可能存在數(shù)據(jù)泄露、侵犯隱私、植入惡意信息等問(wèn)題。二是人工智能系統(tǒng)錯(cuò)誤帶來(lái)的安全風(fēng)險(xiǎn)。人工智能主要包括傳感系統(tǒng)、算法系統(tǒng)和執(zhí)行系統(tǒng)等。任何一個(gè)系統(tǒng)出現(xiàn)問(wèn)題都可能偏離預(yù)設(shè)目標(biāo)，輸出不可預(yù)期的結(jié)果，引發(fā)系統(tǒng)失控風(fēng)險(xiǎn)。三是關(guān)鍵基礎(chǔ)設(shè)施的安全問(wèn)題。人工智能廣泛運(yùn)用于金融、交通、電網(wǎng)、水利等關(guān)鍵領(lǐng)域。一旦人工智能系統(tǒng)出現(xiàn)問(wèn)題，就可能引發(fā)系統(tǒng)性安全風(fēng)險(xiǎn)。
第二，人工智能可能帶來(lái)的倫理問(wèn)題。受算法主導(dǎo)，人工智能主要遵循概率統(tǒng)計(jì)邏輯和效率邏輯。其在運(yùn)行過(guò)程中易出現(xiàn)關(guān)聯(lián)歧視、特征選擇歧視等問(wèn)題。這些歧視具有較強(qiáng)的隱蔽性，難以有效追責(zé)和糾正。同時(shí)，算法在很大程度上是一個(gè)“黑箱子”，普通人很難知道算法決策如何產(chǎn)生，也不知道算法決策所依據(jù)的具體數(shù)據(jù)和遵循的決策原則。“算法黑箱”的存在使得傳統(tǒng)透明性原則和告知同意原則對(duì)人工智能的規(guī)范作用愈來(lái)愈小，使得人容易成為被計(jì)算的對(duì)象。除此之外，人工智能對(duì)于不同主體的賦能也有區(qū)別，如弱勢(shì)群體可能不僅缺乏訪問(wèn)人工智能技術(shù)和互聯(lián)網(wǎng)的必要設(shè)備、網(wǎng)絡(luò)和資金，而且缺乏使用和理解人工智能所需要的數(shù)字素養(yǎng)和技能。這又反過(guò)來(lái)進(jìn)一步加劇了弱勢(shì)群體的弱勢(shì)地位。
第三，人工智能可能帶來(lái)的輿情問(wèn)題。人工智能在推動(dòng)社會(huì)發(fā)展的同時(shí)，對(duì)相關(guān)部門的輿情處置與網(wǎng)絡(luò)治理工作帶來(lái)巨大挑戰(zhàn)。一方面，它通過(guò)大型語(yǔ)言模型和深度偽造技術(shù)，可以快速生成以假亂真的文字、圖片和視頻，憑空捏造虛假新聞。犯罪分子可能通過(guò)人工智能操縱社交機(jī)器人網(wǎng)絡(luò)、偽裝信息源等手段進(jìn)行病毒式傳播，并動(dòng)態(tài)優(yōu)化內(nèi)容，混淆視聽(tīng)、誤導(dǎo)公眾。另一方面，人工智能通過(guò)大數(shù)據(jù)分析，可根據(jù)用戶的興趣特點(diǎn)、行為動(dòng)態(tài)精準(zhǔn)投放信息，這成為一種高效且隱蔽的輿論操控工具。它通過(guò)對(duì)用戶海量數(shù)據(jù)的算法解析，為其勾勒出精細(xì)的“心理畫像”，并據(jù)此構(gòu)建高度個(gè)性化的“信息繭房”，從而為其“投喂”和灌輸某些片面或極端觀點(diǎn)，沖擊主流意識(shí)形態(tài)。
第四，人工智能可能帶來(lái)的就業(yè)替代問(wèn)題。人工智能高度智能化釋放出巨大的生產(chǎn)力，越來(lái)越多原本由人所從事的勞動(dòng)和工作被其接管，從而出現(xiàn)就業(yè)替代問(wèn)題。這種替代呈現(xiàn)出速度快、規(guī)模大、領(lǐng)域廣、全球性等特點(diǎn)。這會(huì)大大減少人類的工作崗位，而且被替代的勞動(dòng)者很難通過(guò)短期培訓(xùn)重新上崗。人工智能帶來(lái)的“技術(shù)鴻溝”也可能導(dǎo)致大量人群陷入永久性失業(yè)狀態(tài)，帶來(lái)大量社會(huì)保障難題和社會(huì)治理問(wèn)題。
人工智能立法應(yīng)堅(jiān)持的基本原則
面對(duì)人工智能帶來(lái)的一系列問(wèn)題，我們應(yīng)當(dāng)加強(qiáng)人工智能治理，盡快制定完善相關(guān)法律法規(guī)。這既關(guān)系到國(guó)家安全保障和產(chǎn)業(yè)發(fā)展，又涉及新一輪技術(shù)革命背景下的全球制度競(jìng)爭(zhēng)和人工智能全球治理中的話語(yǔ)權(quán)和影響力。具體來(lái)講，人工智能立法應(yīng)堅(jiān)持以下基本原則：
第一，堅(jiān)持發(fā)展和安全統(tǒng)籌原則。統(tǒng)籌高質(zhì)量發(fā)展和高水平安全，是以習(xí)近平同志為核心的黨中央站在“兩個(gè)一百年”奮斗目標(biāo)歷史交匯點(diǎn)，立足新發(fā)展階段國(guó)際國(guó)內(nèi)新形勢(shì)新情況所作出的重大戰(zhàn)略部署，是中國(guó)共產(chǎn)黨治國(guó)理政的一個(gè)重大原則。黨的二十屆四中全會(huì)進(jìn)一步指出，“十五五”時(shí)期經(jīng)濟(jì)社會(huì)發(fā)展必須堅(jiān)持統(tǒng)籌發(fā)展和安全。人工智能立法也應(yīng)堅(jiān)持這一原則。人工智能發(fā)展具有典型的復(fù)雜性、快速變化和不可預(yù)測(cè)性等特點(diǎn)。立法時(shí)，必須既要看到人工智能發(fā)展的重要性，又要看到人工智能潛在的風(fēng)險(xiǎn)性。應(yīng)當(dāng)推動(dòng)人工智能安全可靠可控發(fā)展，反對(duì)追求絕對(duì)安全和將人工智能安全泛化，堅(jiān)持在法律治理穩(wěn)定性與人工智能治理靈活性之間保持平衡。
第二，堅(jiān)持產(chǎn)業(yè)促進(jìn)與底線管控并重原則。作為引領(lǐng)未來(lái)的基礎(chǔ)性、戰(zhàn)略性技術(shù)，人工智能遠(yuǎn)超任何其他單一技術(shù)的戰(zhàn)略價(jià)值已經(jīng)在實(shí)踐中顯現(xiàn)，并且深刻改變著人類生產(chǎn)生活方式。人工智能立法的定位應(yīng)當(dāng)是大力推動(dòng)人工智能技術(shù)與產(chǎn)業(yè)創(chuàng)新發(fā)展，營(yíng)造開(kāi)放包容、充滿活力的制度環(huán)境；系統(tǒng)規(guī)范人工智能技術(shù)的研發(fā)與應(yīng)用行為，構(gòu)建敏捷協(xié)同、科學(xué)審慎的治理體系；切實(shí)維護(hù)個(gè)人的合法權(quán)益與人格尊嚴(yán)，筑牢以人為本、公平正義的法治屏障；堅(jiān)決確保國(guó)家安全與社會(huì)穩(wěn)定，防范化解各類潛在風(fēng)險(xiǎn)與挑戰(zhàn)。因此，人工智能立法既是人工智能產(chǎn)業(yè)的促進(jìn)法，又是公民合法權(quán)益的保障法。人工智能立法既要確立清晰的法律邊界與規(guī)則，提供穩(wěn)定的預(yù)期，掃清創(chuàng)新道路上的障礙，釋放產(chǎn)業(yè)活力，又要樹(shù)立底線管控意識(shí)，通過(guò)建立清晰、可預(yù)期的負(fù)面清單和監(jiān)管框架，將人工智能發(fā)展過(guò)程中的不確定性降至最低。
第三，堅(jiān)持軟法與硬法協(xié)同發(fā)展原則。人工智能是一種技術(shù)，具有不同的應(yīng)用場(chǎng)景，應(yīng)有不同的制度規(guī)則，且不同規(guī)則之間的規(guī)范強(qiáng)度應(yīng)有所區(qū)別。因此，我國(guó)在加強(qiáng)人工智能立法時(shí)，應(yīng)當(dāng)堅(jiān)持軟法與硬法相結(jié)合原則，除進(jìn)一步完善國(guó)家層面的《中華人民共和國(guó)網(wǎng)絡(luò)安全法》《中華人民共和國(guó)數(shù)據(jù)安全法》《中華人民共和國(guó)個(gè)人信息保護(hù)法》等法律外，還需要加快制定相關(guān)地方性和行業(yè)性法規(guī)、政策制度、標(biāo)準(zhǔn)規(guī)范、倫理準(zhǔn)則等。通過(guò)倡議、指南、標(biāo)準(zhǔn)、準(zhǔn)則等軟法方式彌補(bǔ)國(guó)家法律在應(yīng)對(duì)人工智能快速變化時(shí)的滯后性。
第四，堅(jiān)持國(guó)家治理與全球治理耦合原則。人工智能與互聯(lián)網(wǎng)之間存在緊密關(guān)系?；ヂ?lián)網(wǎng)增強(qiáng)了人工智能自我學(xué)習(xí)和進(jìn)化能力，人工智能增強(qiáng)了互聯(lián)網(wǎng)的創(chuàng)新應(yīng)用場(chǎng)景。人工智能與互聯(lián)網(wǎng)的深度融合使得其發(fā)展具有跨國(guó)性。因此，進(jìn)行人工智能立法時(shí)，既需要加強(qiáng)國(guó)內(nèi)層面的人工智能治理，又要考慮全球人工智能治理問(wèn)題，并將國(guó)家治理與全球治理進(jìn)行耦合。《建議》提出，“維護(hù)大國(guó)關(guān)系總體穩(wěn)定，深化同發(fā)展中國(guó)家團(tuán)結(jié)合作，落實(shí)全球發(fā)展倡議、全球安全倡議、全球文明倡議、全球治理倡議，引領(lǐng)國(guó)際秩序朝著更加公正合理的方向發(fā)展。”這自然也涉及人工智能的發(fā)展與安全問(wèn)題。因此，我國(guó)人工智能立法應(yīng)在充分考慮中國(guó)國(guó)情和國(guó)家治理需要的同時(shí)，呼應(yīng)全球范圍內(nèi)對(duì)于人工智能可信、安全、可控的共同關(guān)切，并在具體措施上借鑒其他國(guó)家先進(jìn)法律制度和經(jīng)驗(yàn)。總體來(lái)看，我國(guó)人工智能立法應(yīng)積極回應(yīng)全球人工智能治理過(guò)程中的關(guān)鍵問(wèn)題和重要問(wèn)題，為國(guó)際人工智能治理標(biāo)準(zhǔn)與規(guī)則的制定貢獻(xiàn)中國(guó)智慧、中國(guó)方案。
