習(xí)近平總書(shū)記指出：“要把握人工智能發(fā)展趨勢(shì)和規(guī)律，加緊制定完善相關(guān)法律法規(guī)、政策制度、應(yīng)用規(guī)范、倫理準(zhǔn)則，構(gòu)建技術(shù)監(jiān)測(cè)、風(fēng)險(xiǎn)預(yù)警、應(yīng)急響應(yīng)體系，確保人工智能安全、可靠、可控。”國(guó)務(wù)院近日印發(fā)的《關(guān)于深入實(shí)施“人工智能+”行動(dòng)的意見(jiàn)》提出，“共同研判、積極應(yīng)對(duì)人工智能應(yīng)用風(fēng)險(xiǎn)，確保人工智能發(fā)展安全、可靠、可控”。當(dāng)前，人工智能正以前所未有的深度與廣度重塑著社會(huì)運(yùn)行方式。同時(shí)，從大型語(yǔ)言模型的“幻覺(jué)”輸出到自動(dòng)駕駛系統(tǒng)的決策偏差，從深度偽造技術(shù)對(duì)社會(huì)信任的侵蝕到算法黑箱導(dǎo)致的不透明與偏見(jiàn)……人工智能系統(tǒng)在性能飛躍的同時(shí)，其內(nèi)生性安全與可靠性問(wèn)題成為制約其健康發(fā)展的不容忽視的因素。傳統(tǒng)的事后補(bǔ)救、外掛防護(hù)式的治理模式，如同在高速運(yùn)行的列車外部進(jìn)行修補(bǔ)，不僅效率低下，也難以觸及復(fù)雜系統(tǒng)內(nèi)部深層結(jié)構(gòu)性問(wèn)題。因此，探索以系統(tǒng)治理推動(dòng)人工智能安全可靠可控發(fā)展，具有實(shí)踐上的緊迫性。
從“外掛補(bǔ)丁”到“免疫系統(tǒng)”的范式更新
“外掛補(bǔ)丁”模式承襲傳統(tǒng)網(wǎng)絡(luò)安全思路，其特征表現(xiàn)為事后補(bǔ)救、外部附加和局部修正，其在人工智能治理初期發(fā)揮了重要作用。例如，當(dāng)發(fā)現(xiàn)人工智能系統(tǒng)學(xué)會(huì)了偏見(jiàn)和歧視，我們?cè)噲D用“過(guò)濾網(wǎng)”去篩查它的回答;當(dāng)發(fā)現(xiàn)它容易被“誤導(dǎo)”或“欺騙”，我們?cè)贋槠漕~外增加一道防護(hù)程序;當(dāng)人工智能系統(tǒng)的決策過(guò)程像一個(gè)黑箱難以理解，我們?cè)匍_(kāi)發(fā)一個(gè)外部工具去試圖解讀它。然而，這種模式存在固有局限性：其預(yù)警響應(yīng)往往滯后于風(fēng)險(xiǎn)顯現(xiàn)，難以覆蓋長(zhǎng)鏈?zhǔn)健⒖缒B(tài)的新型風(fēng)險(xiǎn);附加的安全模塊可能與原生系統(tǒng)存在適配沖突，影響模型性能的同時(shí)產(chǎn)生新的脆弱點(diǎn);規(guī)則化的應(yīng)對(duì)方式無(wú)法適應(yīng)快速迭代的攻擊手法。正如修補(bǔ)漏洞無(wú)法替代建設(shè)堅(jiān)固的城堡，依賴外部打補(bǔ)丁難以形成系統(tǒng)性的安全韌性。
確保人工智能系統(tǒng)安全可靠可控，需要從系統(tǒng)設(shè)計(jì)的底層邏輯出發(fā)，將安全與可靠目標(biāo)內(nèi)化為技術(shù)架構(gòu)、算法模型、數(shù)據(jù)流程乃至開(kāi)發(fā)范式的核心基因，使其具備類似生物免疫系統(tǒng)的自我識(shí)別、動(dòng)態(tài)適應(yīng)和協(xié)同防御功能，隨系統(tǒng)演化而自適應(yīng)進(jìn)化，進(jìn)而降低安全風(fēng)險(xiǎn)發(fā)生的概率與危害。這一范式涵蓋三個(gè)核心維度：架構(gòu)安全、過(guò)程安全與價(jià)值安全。具言之，筑牢架構(gòu)安全防線，將安全屬性嵌入模型底層，使其天生具備更強(qiáng)的抗干擾、抗欺騙能力，不易被“病毒”入侵，并能更好保護(hù)數(shù)據(jù)隱私;構(gòu)建過(guò)程安全監(jiān)控系統(tǒng)，在模型訓(xùn)練、部署、運(yùn)行的全流程實(shí)施動(dòng)態(tài)風(fēng)險(xiǎn)監(jiān)測(cè)與反饋調(diào)節(jié);設(shè)置價(jià)值安全指引，將價(jià)值觀、倫理準(zhǔn)則與社會(huì)規(guī)范內(nèi)化為人工智能系統(tǒng)的行為指引，通過(guò)價(jià)值觀對(duì)齊，使系統(tǒng)不僅能正確執(zhí)行任務(wù)，更能理解行動(dòng)的倫理意涵與社會(huì)影響。
從“概率正確”到“可知可控”的信任構(gòu)建
當(dāng)前，大多數(shù)人工智能系統(tǒng)基于大數(shù)據(jù)和概率模型運(yùn)行，通過(guò)分析大量數(shù)據(jù)找出重復(fù)出現(xiàn)的模式，進(jìn)而做出判斷，這通常表現(xiàn)為“概率正確”。這種方式雖然高效，但也存在明顯的局限和風(fēng)險(xiǎn)。一是結(jié)果的不確定性。模型可能會(huì)產(chǎn)生“幻覺(jué)”，即編造看似真實(shí)實(shí)則虛假的信息。在醫(yī)療診斷、司法輔助等嚴(yán)肅場(chǎng)景中，模型“幻覺(jué)”的代價(jià)是難以估量的。二是決策的不可溯性。當(dāng)系統(tǒng)做出某個(gè)決定時(shí)，使用者往往無(wú)法了解其具體推理過(guò)程，這既影響了對(duì)結(jié)果的驗(yàn)證，也阻礙了錯(cuò)誤發(fā)生后的糾正和改進(jìn)。三是風(fēng)險(xiǎn)的不可預(yù)見(jiàn)性。系統(tǒng)在常規(guī)環(huán)境下可能表現(xiàn)良好，但在面對(duì)新情況或受到干擾時(shí)，可能出現(xiàn)無(wú)法預(yù)見(jiàn)的錯(cuò)誤，給實(shí)際應(yīng)用帶來(lái)隱患。
人工智能系統(tǒng)的可靠性不能停留在統(tǒng)計(jì)意義上的“高概率正確”，而應(yīng)追求在復(fù)雜、開(kāi)放、動(dòng)態(tài)環(huán)境下的“高置信可靠”。其核心在于建立可知、可控、可信的技術(shù)閉環(huán)，使人工智能系統(tǒng)不再是神秘莫測(cè)的“黑箱”，而是行為可預(yù)期、風(fēng)險(xiǎn)可管理、決策可追責(zé)的“透明箱”或“玻璃箱”，具有以下特性：可解釋性，即系統(tǒng)不僅能輸出結(jié)果，更能提供清晰、可理解的決策依據(jù)和推理路徑，使其行為對(duì)開(kāi)發(fā)者與使用者而言是透明、可追溯的;預(yù)期一致性，即系統(tǒng)的行為表現(xiàn)嚴(yán)格處于其聲明的能力邊界和設(shè)計(jì)目標(biāo)之內(nèi)，不會(huì)產(chǎn)生無(wú)法預(yù)知的、超出其功能范圍的行為，確保其行動(dòng)結(jié)果與人類預(yù)期高度吻合;可驗(yàn)證性，系統(tǒng)的性能、邏輯和輸出結(jié)果可通過(guò)獨(dú)立的、系統(tǒng)化的方法進(jìn)行測(cè)試、檢驗(yàn)與審計(jì)，確保其行為始終符合預(yù)設(shè)的技術(shù)規(guī)范和倫理標(biāo)準(zhǔn);可干預(yù)性，即在關(guān)鍵決策點(diǎn)或系統(tǒng)表現(xiàn)異常時(shí)，人類能夠進(jìn)行及時(shí)干預(yù)、修正或中止，始終將最終控制權(quán)置于人類手中。
推進(jìn)融合技術(shù)、標(biāo)準(zhǔn)、倫理的系統(tǒng)性“治理工程”
推動(dòng)人工智能安全可靠可控發(fā)展，絕非單純的技術(shù)優(yōu)化，而是一項(xiàng)深度融合技術(shù)創(chuàng)新、標(biāo)準(zhǔn)規(guī)范、倫理準(zhǔn)則的系統(tǒng)性“治理工程”，即將治理要求結(jié)構(gòu)化、自動(dòng)化地嵌入人工智能系統(tǒng)的設(shè)計(jì)、開(kāi)發(fā)、部署、運(yùn)行、迭代全過(guò)程。
以技術(shù)創(chuàng)新為治理根基，筑牢安全可控的底層支撐。技術(shù)是實(shí)現(xiàn)有效治理的根基。應(yīng)重點(diǎn)發(fā)展以可信人工智能為核心的關(guān)鍵技術(shù)，從設(shè)計(jì)之初就內(nèi)置安全特性，確保系統(tǒng)行為的可靠性，為治理提供堅(jiān)實(shí)基礎(chǔ)。主要包括以下幾個(gè)方向：研發(fā)具有高穩(wěn)定性和抗干擾能力的算法模型，使系統(tǒng)在面對(duì)惡意攻擊或異常數(shù)據(jù)時(shí)仍能保持正常運(yùn)行;推進(jìn)可解釋人工智能技術(shù)，讓系統(tǒng)的決策過(guò)程變得清晰可見(jiàn);構(gòu)建測(cè)試驗(yàn)證和持續(xù)監(jiān)測(cè)體系，實(shí)現(xiàn)對(duì)系統(tǒng)風(fēng)險(xiǎn)的實(shí)時(shí)預(yù)警和動(dòng)態(tài)防護(hù)。
以標(biāo)準(zhǔn)規(guī)范為治理準(zhǔn)繩，確立清晰一致的行業(yè)標(biāo)尺。標(biāo)準(zhǔn)是治理體系的尺度，為技術(shù)創(chuàng)新和產(chǎn)業(yè)應(yīng)用提供統(tǒng)一規(guī)范。應(yīng)加快構(gòu)建覆蓋人工智能全生命周期、多維度的標(biāo)準(zhǔn)體系。在基礎(chǔ)共性方面，建立術(shù)語(yǔ)、架構(gòu)、評(píng)估基準(zhǔn)標(biāo)準(zhǔn);在關(guān)鍵技術(shù)領(lǐng)域，制定可解釋性、隱私保護(hù)等技術(shù)標(biāo)準(zhǔn);在行業(yè)應(yīng)用層面，推出面向醫(yī)療、交通、金融等重點(diǎn)領(lǐng)域的應(yīng)用規(guī)范和管理指南。這些標(biāo)準(zhǔn)不僅為產(chǎn)品研發(fā)和質(zhì)量評(píng)價(jià)提供依據(jù)，也為監(jiān)管執(zhí)法和社會(huì)監(jiān)督提供可靠參照，有助于推動(dòng)產(chǎn)業(yè)形成共識(shí)，避免無(wú)序發(fā)展，實(shí)現(xiàn)在規(guī)范中創(chuàng)新、在標(biāo)準(zhǔn)下落地。
以倫理準(zhǔn)則為治理靈魂，引領(lǐng)負(fù)責(zé)任的創(chuàng)新方向。倫理準(zhǔn)則能夠?yàn)榧夹g(shù)發(fā)展提供價(jià)值引導(dǎo)。倫理治理的目標(biāo)，是確保人工智能的發(fā)展始終遵循人類價(jià)值觀和共同福祉，實(shí)現(xiàn)科技向善。為此，應(yīng)當(dāng)將以人為本、公平包容、責(zé)任明確、可控可信等倫理原則深度融入人工智能研發(fā)與應(yīng)用全過(guò)程。具體而言，建立倫理審查和風(fēng)險(xiǎn)評(píng)估機(jī)制，對(duì)可能產(chǎn)生的倫理影響和社會(huì)后果進(jìn)行前瞻性研判;推動(dòng)算法公平性研究，努力消除數(shù)據(jù)偏見(jiàn)和歧視;明確研發(fā)者、使用者、監(jiān)管者等各方責(zé)任，建立健全問(wèn)責(zé)機(jī)制;鼓勵(lì)開(kāi)展人工智能倫理教育和公眾討論，提升全社會(huì)倫理意識(shí)。
當(dāng)前，人工智能正以磅礴之力塑造人類文明新圖景。唯有將安全、可靠、可控深植其技術(shù)生命基因，使其生長(zhǎng)出強(qiáng)大的內(nèi)在免疫系統(tǒng)，并輔以技術(shù)治理這一系統(tǒng)工程的精心雕琢，才能使人工智能真正成為驅(qū)動(dòng)高質(zhì)量發(fā)展的引擎而非脫韁野馬。治理邏輯與技術(shù)邏輯實(shí)現(xiàn)有機(jī)融合之際，一個(gè)可知、可控、可信、可持續(xù)的人工智能時(shí)代才能真正到來(lái)。
（作者：曾楠，系廣東省習(xí)近平新時(shí)代中國(guó)特色社會(huì)主義思想研究中心特約研究員，南方醫(yī)科大學(xué)馬克思主義學(xué)院院長(zhǎng)、教授）
責(zé)任編輯：王振華
