中國工程院院士吳世忠

中國社科院法學(xué)所研究員周漢華

清華大學(xué)教授申衛(wèi)星

12月18日，南都數(shù)字經(jīng)濟(jì)治理研究中心聯(lián)合清華大學(xué)智能法治研究院“第八屆啄木鳥數(shù)據(jù)治理論壇”在京舉辦，十余位專家學(xué)者分享了對數(shù)據(jù)和人工智能領(lǐng)域熱點話題的看法。中國工程院院士吳世忠警示了AI技術(shù)發(fā)展與安全研究之間的不平衡，強(qiáng)調(diào)全球范圍內(nèi)加強(qiáng)AI監(jiān)管的緊迫性。中國社會科學(xué)院法學(xué)所研究員周漢華批評了以數(shù)據(jù)交易為目標(biāo)的數(shù)據(jù)確權(quán)思路，提倡以數(shù)據(jù)互操作性作為數(shù)據(jù)價值實現(xiàn)的新途徑。清華大學(xué)教授申衛(wèi)星強(qiáng)調(diào)在AI時代探究事實真相的重要性，并指出國內(nèi)外人工智能立法經(jīng)驗的重要性及其局限性。這些討論不僅揭示了人工智能發(fā)展中的挑戰(zhàn)，也為未來的治理方向提供了寶貴的思考。

中國工程院院士吳世忠:

相較AI技術(shù)發(fā)展，安全研究明顯滯后

“AI治理的根本目的是要管控安全風(fēng)險。”中國工程院院士吳世忠在論壇上分享了對人工智能安全與治理現(xiàn)狀的觀察。他提到，AI在帶來發(fā)展奇跡的同時，安全隱患也相繼浮出水面。比如，2023年基于深度偽造的詐騙暴增3000%，釣魚郵件增長了1000%，有的還偽造了名人政要的視頻。此外AI賦能勒索病毒、數(shù)據(jù)竊密和網(wǎng)絡(luò)詐騙等，也給網(wǎng)絡(luò)安全帶來了新挑戰(zhàn)。

AI已進(jìn)入“大算力+大模型+大數(shù)據(jù)+大應(yīng)用”時代

當(dāng)天論壇上，吳世忠從發(fā)展、生態(tài)、安全和治理四個維度勾勒了AI發(fā)展的總體態(tài)勢。就發(fā)展而言，當(dāng)前AI技術(shù)可謂日新月異，它已成為一個重大的科技創(chuàng)新和重要的發(fā)展動力。

從2022年底GPT的橫空出世，到今年初SORA的文生圖景，從“大力出奇跡”的大模型到一舉天下知的GPU(圖形處理器)，“短短三年內(nèi)，AI不僅迅速改變了科學(xué)范式，而且在深度探究極限推理?！眳鞘乐艺f。

基于這樣巨大的發(fā)展?jié)摿Γ珹I成為各國高度重視的戰(zhàn)略科技，大國之間積極開啟布局，搶占先機(jī)。在吳世忠看來，目前AI已進(jìn)入“大算力+大模型+大數(shù)據(jù)+大應(yīng)用”的時代?！八懔词菣?quán)力，模型孕育智力，數(shù)據(jù)涵養(yǎng)能力，應(yīng)用形成實力——這既是當(dāng)前發(fā)展的主流生態(tài)，也是大國競爭的主要賽道?！?/p>

AI在推動科學(xué)研究的范式轉(zhuǎn)變的同時，AI的廣泛應(yīng)用也在極速放大安全風(fēng)險。著眼于近憂層面，吳世忠提到深度偽造技術(shù)的危害，AI賦能勒索病毒、數(shù)據(jù)竊密和網(wǎng)絡(luò)詐騙等安全新挑戰(zhàn)，以及在智能交通、智慧醫(yī)療等領(lǐng)域，也帶來復(fù)雜的價值對齊需求。

“雖然業(yè)界對AI安全的遠(yuǎn)慮也有不同聲音，但對智能時代的安全認(rèn)知卻日漸清晰?！眳鞘乐艺J(rèn)為，不同于IT時代的網(wǎng)絡(luò)安全、數(shù)據(jù)時代的信息安全，如今是智能時代的智慧安全，是AI自身安全(Safety)、AI攻防安全(Security)和倫理道德安全(Ethics)的系統(tǒng)疊加和綜合集成。

AI治理研究需加強(qiáng)跨學(xué)科綜合研究和各界力量參與

要應(yīng)對AI帶來挑戰(zhàn)，安全研究任重道遠(yuǎn)。據(jù)吳世忠介紹，安全內(nèi)容包括四大方向:基礎(chǔ)研究旨在識別安全風(fēng)險，探究安全機(jī)理；技術(shù)研究立足攻防兼?zhèn)?，深化測試評估；倫理研究重在支撐政策法規(guī)，落實治理要求；應(yīng)用研究則為了促進(jìn)行業(yè)應(yīng)用，保障發(fā)展安全。

在對近十年全球AI科技論文進(jìn)行統(tǒng)計分析后，他發(fā)現(xiàn)相較于AI技術(shù)的發(fā)展，安全研究明顯滯后，研究力量分布和資源利用也有待優(yōu)化。研究相對集中的基礎(chǔ)、技術(shù)、倫理和應(yīng)用四大方向進(jìn)展不一。圍繞安全問題的風(fēng)險、可信、攻擊、防御、測評、應(yīng)用和治理七個領(lǐng)域的研究也才剛剛興起，有待深化。

縱觀國際治理的動向趨勢，歐盟、美國、中國等紛紛基于自身立場和利益提出了不同的治理模式。據(jù)吳世忠介紹，歐盟基于風(fēng)險分級的方式，推出全球首部《人工智能法案》，在透明度和安全義務(wù)上施加最嚴(yán)格的限制；美國則采用“外緊內(nèi)松”的策略，積極主導(dǎo)AI國際治理進(jìn)程，在國內(nèi)的監(jiān)管則傾向于企業(yè)自律；中國采取的是統(tǒng)籌發(fā)展與安全的綜合性治理方式，堅持以人為本、智能向善。

值得關(guān)注的是，去年以來多國先后成立“人工智能安全研究所”和“安全研究聯(lián)盟”，加強(qiáng)安全研究、標(biāo)準(zhǔn)制定、安全測評，謀求人工智能全球治理主導(dǎo)權(quán)和話語權(quán)。

吳世忠認(rèn)為，AI全球治理已進(jìn)入提速換擋的關(guān)鍵期，治理方向逐步從各自為政向協(xié)作互動轉(zhuǎn)變，且越來越注重通過政策和技術(shù)落地來推動“最佳實踐”。

聚集AI治理的核心議題，吳世忠提到，由于法律制定滯后于技術(shù)發(fā)展，導(dǎo)致在AI應(yīng)用過程中出現(xiàn)了諸多監(jiān)管延遲，為潛在的風(fēng)險濫用提供了“溫床”。而全球范圍內(nèi)規(guī)范標(biāo)準(zhǔn)的不一也阻礙了國際技術(shù)的交流與合作。

那么，該怎么處理技術(shù)與倫理發(fā)展失衡問題?如何開展AI治理研究?吳世忠認(rèn)為，這需要加強(qiáng)跨學(xué)科綜合研究和社會各界的參與，以構(gòu)建一套適應(yīng)AI時代要求的倫理框架與法律體系，在確保技術(shù)進(jìn)步的同時，尊重和保護(hù)人類的尊嚴(yán)、權(quán)利與福祉。　　

我國布局智能社會實踐并積極發(fā)出國際治理倡議

吳世忠還分享了中國探索AI治理的路徑與方向。他提到在頂層設(shè)計方面，據(jù)不完全統(tǒng)計，截至目前已有超二十項人工智能相關(guān)國家政策，地方性政策文件甚至超百件。

南都記者注意到，2017年3月，“人工智能”被首次寫入國務(wù)院政府工作報告。今年3月，政府工作報告又將“人工智能+”上升到行動層面，明確提出深化大數(shù)據(jù)、人工智能等研發(fā)應(yīng)用。不久前剛舉行的中央經(jīng)濟(jì)工作會議，再提開展“人工智能+”行動，培育未來產(chǎn)業(yè)。

梳理這些政策文件，吳世忠發(fā)現(xiàn)，我國政策治理視角聚焦于鼓勵技術(shù)創(chuàng)新、建立標(biāo)準(zhǔn)規(guī)范、安全風(fēng)險治理和科技倫理治理四個方面。政策治理對象，主要體現(xiàn)在數(shù)據(jù)、算法和生成內(nèi)容上。在治理主體上也表現(xiàn)出多元化——不僅有政府部門，還有企業(yè)、行業(yè)協(xié)會、科研院所、標(biāo)準(zhǔn)化組織等，形成了軟規(guī)與硬法相結(jié)合、多元主體協(xié)同治理、多樣化舉措并舉的敏捷治理模式。

值得一提的是，中國也在積極提出AI國際治理的方案。比如7月，第78屆聯(lián)合國大會協(xié)商一致通過中國主提的加強(qiáng)人工智能能力建設(shè)國際合作決議，140多國參與聯(lián)署。決議旨在幫助各國特別是發(fā)展中國家從AI發(fā)展中平等受益，致力于彌合數(shù)字鴻溝。

基于以上觀察，吳世忠建議，我國要始終堅持強(qiáng)技術(shù)、重安全、引人才、推應(yīng)用的方向。不斷推動產(chǎn)業(yè)鏈核心關(guān)鍵環(huán)節(jié)的國產(chǎn)化；深入推進(jìn)和加強(qiáng)數(shù)據(jù)治理，布局建設(shè)國家級人工智能安全風(fēng)險測評體系和能力；廣泛吸納海外高端人才豐富我國人才儲備；統(tǒng)籌重點行業(yè)應(yīng)用試點以提升人工智能產(chǎn)業(yè)實力和影響力。

中國社科院法學(xué)所研究員周漢華:

數(shù)據(jù)確權(quán)需走出以數(shù)據(jù)交易為目標(biāo)的“誤區(qū)”

中國社科院法學(xué)所研究員周漢華認(rèn)為，當(dāng)前以數(shù)據(jù)交易為目標(biāo)的數(shù)據(jù)確權(quán)思路，在實踐中問題與爭議重重，難以發(fā)揮數(shù)據(jù)要素乘數(shù)效應(yīng)——促進(jìn)數(shù)據(jù)多場景應(yīng)用、多主體復(fù)用。周漢華在會上表示，要走出以數(shù)據(jù)交易為目標(biāo)的數(shù)據(jù)確權(quán)“誤區(qū)”，轉(zhuǎn)而以“數(shù)據(jù)互操作”作為數(shù)據(jù)價值的基本實現(xiàn)形式，也就是通過開放標(biāo)準(zhǔn)或者接口等，實現(xiàn)不同平臺企業(yè)(系統(tǒng)、應(yīng)用或設(shè)備)之間的兼容，使不同企業(yè)能夠交換數(shù)據(jù)，從而滿足“數(shù)據(jù)二十條”提出的增強(qiáng)“數(shù)據(jù)要素共享性、普惠性”的目標(biāo)。“數(shù)據(jù)產(chǎn)權(quán)并不需要界定數(shù)據(jù)為誰所有，而是強(qiáng)調(diào)數(shù)據(jù)相關(guān)方均有權(quán)使用數(shù)據(jù)，本質(zhì)是推動‘?dāng)?shù)據(jù)互操作’?！敝軡h華解釋說。

與“數(shù)據(jù)二十條”提出“增強(qiáng)數(shù)據(jù)要素共享性、普惠性”相去甚遠(yuǎn)

2022年底印發(fā)的“數(shù)據(jù)二十條”，提出構(gòu)建數(shù)據(jù)資源持有權(quán)、數(shù)據(jù)加工使用權(quán)、數(shù)據(jù)產(chǎn)品經(jīng)營權(quán)的數(shù)據(jù)產(chǎn)權(quán)“三權(quán)分置”?！皵?shù)據(jù)二十條”淡化了所有權(quán)觀念，強(qiáng)化使用權(quán)，讓數(shù)據(jù)高效流通使用賦能實體經(jīng)濟(jì)。

2023年底，國家數(shù)據(jù)局等17個中央部門印發(fā)《“數(shù)據(jù)要素×”三年行動計劃(2024—2026年)》，首次提出要充分發(fā)揮數(shù)據(jù)要素乘數(shù)效應(yīng)，發(fā)揮數(shù)據(jù)要素的放大、疊加、倍增作用。周漢華說，這為明確數(shù)據(jù)確權(quán)方向提供了更具有可操作性的標(biāo)準(zhǔn)，也可以用來判斷現(xiàn)有數(shù)據(jù)產(chǎn)權(quán)制度設(shè)計是否合理。

周漢華分析，當(dāng)前數(shù)據(jù)確權(quán)著眼于數(shù)據(jù)交易，并由此出發(fā)，進(jìn)行確權(quán)、估值、登記、入表、交易等一系列制度安排。這種制度思路背后，實際上是以確立數(shù)據(jù)實際持有者或控制者的權(quán)利為中心。而且，此種數(shù)據(jù)確權(quán)的目的在于保護(hù)數(shù)據(jù)持有者的支配權(quán)、排他權(quán)，實質(zhì)上沿襲了傳統(tǒng)的物權(quán)確權(quán)模式，尤其與土地確權(quán)模式類似——土地的所有權(quán)、承包權(quán)、經(jīng)營權(quán)“三權(quán)分置”。但是，和土地這類生產(chǎn)要素不同，數(shù)據(jù)具有非獨占性、非排他性的特征。因此，以數(shù)據(jù)交易數(shù)據(jù)為目標(biāo)的確權(quán)思路存在致命缺陷，與“數(shù)據(jù)二十條”提出的“增強(qiáng)數(shù)據(jù)要素共享性、普惠性”相去甚遠(yuǎn)。

數(shù)據(jù)交易模式下社會總收益未發(fā)生變化

實踐中，目前的數(shù)據(jù)確權(quán)模式涌現(xiàn)一系列問題:數(shù)據(jù)交易所場內(nèi)交易數(shù)量匱乏；企業(yè)數(shù)據(jù)資源入表積極性不高；資本市場(股價)對數(shù)據(jù)資源入表反應(yīng)冷淡；律所、會計師事務(wù)所等數(shù)據(jù)資產(chǎn)化第三方服務(wù)機(jī)構(gòu)，向數(shù)據(jù)交易所繳納會費，希望從數(shù)據(jù)交易市場分一杯羹，但實際上沒多少業(yè)務(wù)；數(shù)據(jù)確權(quán)登記的法律效力不明確，數(shù)據(jù)資產(chǎn)估值與定價難；不同企業(yè)入表的數(shù)據(jù)資源占總資產(chǎn)的比例差別巨大；數(shù)據(jù)資源入表可能觸碰財務(wù)造假刑法紅線；土地財政難以為繼后，大量城投企業(yè)將手中數(shù)據(jù)資源入表的積極性高，這導(dǎo)致土地城投風(fēng)險演變?yōu)閿?shù)據(jù)城投風(fēng)險；城投的數(shù)據(jù)屬于公共數(shù)據(jù)，原本應(yīng)開放給全社會使用，現(xiàn)在卻因授權(quán)運營，公共數(shù)據(jù)開放的空間被不斷擠壓；數(shù)據(jù)抵押融資后，風(fēng)險向銀行傳導(dǎo)，于是銀行從嚴(yán)控制數(shù)據(jù)資產(chǎn)抵押融資授信額度。

周漢華進(jìn)一步表示，數(shù)據(jù)交易模式下，賣方的收入來自于買方的支出，社會總收益并未發(fā)生變化，只是財富轉(zhuǎn)移。如果賣方收入過少或者沒有交易，而制度建設(shè)與中間環(huán)節(jié)過多，還會導(dǎo)致收入實質(zhì)性小于支出，造成社會效率損失。另外，賣方與買方信息不對稱，賣方希望有個好價錢，但價格越高，數(shù)據(jù)買方越少，雙方存在零和博弈，最終沒有增加收益。

周漢華據(jù)此認(rèn)為，如果不調(diào)整數(shù)據(jù)確權(quán)中沿襲的物權(quán)確權(quán)思路，會出現(xiàn)具體制度成本越大、制度建設(shè)越到位，反而交易成本可能越高，數(shù)據(jù)交易越少。

“數(shù)據(jù)互操作”給市場新進(jìn)入者機(jī)會

如何調(diào)整?周漢華給出的思路，是以“數(shù)據(jù)互操作”作為數(shù)據(jù)價值的基本實現(xiàn)形式。“互操作”創(chuàng)造價值有一個典型案例:不同地方、使用不同終端、語言的用戶均能通過互聯(lián)網(wǎng)進(jìn)行交流。“數(shù)據(jù)互操作”是以不特定數(shù)據(jù)使用者或者網(wǎng)絡(luò)用戶的權(quán)利為中心，不再以數(shù)據(jù)實際持有者的權(quán)利為中心，目的在于保證所有使用者均能接入網(wǎng)絡(luò)、使用數(shù)據(jù)。

周漢華說，“數(shù)據(jù)互操作”的意義，遠(yuǎn)非按物權(quán)確權(quán)模式那樣，僅僅增加一些數(shù)據(jù)交易量或者資產(chǎn)負(fù)債表中的資產(chǎn)可比。

但周漢華亦指出，我國目前的具體法律規(guī)則、制度、實踐很多都不支持“數(shù)據(jù)互操作權(quán)”。尤其互聯(lián)網(wǎng)大廠缺乏動力，因為選擇不兼容通常有利于大平臺，而“數(shù)據(jù)互操作”把機(jī)會給了市場的新進(jìn)入者。周漢華建議，在明確“數(shù)據(jù)互操作”的數(shù)據(jù)確權(quán)新方向后，需要對現(xiàn)行制度、規(guī)范進(jìn)行系統(tǒng)梳理、清理，以實現(xiàn)“數(shù)據(jù)二十條”的原則與基本設(shè)想。

清華大學(xué)教授申衛(wèi)星:

探究事實真相在人工智能時代至關(guān)重要

清華大學(xué)智能法治研究院院長、法學(xué)院教授申衛(wèi)星以視頻形式為論壇致辭。他表示，探究事實的真相在人工智能時代至關(guān)重要。

從研究者的角度看，申衛(wèi)星認(rèn)為需要深入了解中國產(chǎn)業(yè)現(xiàn)狀、消費者意識，才能把握中國人工智能治理的現(xiàn)實需求是什么?！皣獾娜斯ぶ悄芰⒎ńo我們提供了有益經(jīng)驗，但是也容易讓我們形成路徑依賴，導(dǎo)致不少研究者只能聚焦于法律移植研究?！?/p>

究其原因在于，研究者苦于缺乏真實情況的案例、數(shù)據(jù)支撐，司法案例有滯后性，乃至存在一定的刻意創(chuàng)造性。他說，期待更多中國本土的人工智能治理需求能夠被客觀、全面地揭示出來。

從消費者的角度來看，也需要提升人工智能的透明度輔助用戶正確地認(rèn)識AI的真相。當(dāng)前AIGC創(chuàng)作能力日益逼真，以至于“眼見不一定為實”，由此可能引發(fā)數(shù)字沉迷、財務(wù)詐騙、虛假信息等問題。

為警惕AIGC讓人難以區(qū)分虛擬與現(xiàn)實，消費者應(yīng)提高人工智能素養(yǎng)，掌握正確認(rèn)識和使用人工智能工具的能力。申衛(wèi)星還提到，從國內(nèi)外的人工智能治理趨勢來看，通過深度合成標(biāo)識、算法和數(shù)據(jù)披露等方式提高AI的透明度已經(jīng)成為人工智能治理最大的共識。

從市場秩序來看，申衛(wèi)星強(qiáng)調(diào)，需要客觀地表達(dá)人工智能的“能”與“不能”。在他看來，“科學(xué)研究的人工智能和現(xiàn)實落地的人工智能是存在差異的，要避免把科學(xué)研究中設(shè)置大量假設(shè)條件的AI能力在商業(yè)落地中進(jìn)行夸大的、片面的宣傳?！?/p>

也就是說，在產(chǎn)業(yè)應(yīng)用中，既要相信人工智能的巨大發(fā)展?jié)摿Γ惨硇钥创斯ぶ悄馨l(fā)展過程的階段性，認(rèn)識其不足并不斷探索改進(jìn)的方向。

“期待我們在AIGC時代依然具有掌握事實、掌握真相的能力和依據(jù)?！鄙晷l(wèi)星說?！　　　　?/p>

出品:南都數(shù)字經(jīng)濟(jì)治理研究中心

采寫:南都記者李玲　楊柳　發(fā)自北京

責(zé)編：李傳新

一審：李傳新

二審：楊丹

三審：楊又華

來源：南方都市報