以標(biāo)識塑信，以責(zé)任護(hù)界

YOCSEF廣州舉辦“標(biāo)識機(jī)器創(chuàng)作：人工智能生成合成內(nèi)容的權(quán)與責(zé)”技術(shù)論壇

學(xué)者網(wǎng)訊（編輯/劉秀 通訊員/思羽）2025年3月，中央網(wǎng)信辦印發(fā)《人工智能生成合同內(nèi)容標(biāo)識方法》，明確要求對利用人工智能生成的文字、圖片、音視頻等內(nèi)容進(jìn)行顯著標(biāo)識，旨在提升公眾對人工智能生成合成內(nèi)容的辨識能力，強(qiáng)化合成信息的可追溯性與可識別性，從源頭守護(hù)國家安全與社會公共利益。為響應(yīng)人工智能內(nèi)容治理的全球趨勢，中國計算機(jī)學(xué)會（CCF）青年計算機(jī)科技論壇（YOCSEF）廣州分論壇于2025年9月19日舉辦了“標(biāo)識機(jī)器創(chuàng)作：人工智能生成合成內(nèi)容的權(quán)與責(zé)”技術(shù)論壇，聚焦生成式AI內(nèi)容的版權(quán)確權(quán)與責(zé)任溯源，探索從技術(shù)標(biāo)識到權(quán)責(zé)認(rèn)定的實踐路徑，推動生成式內(nèi)容在可信可控治理框架下有序發(fā)展。本次論壇由CCF主辦，YOCSEF廣州學(xué)術(shù)委員會組織，暨南大學(xué)、廣東外語外貿(mào)大學(xué)以及杭州安恒信息技術(shù)股份有限公司廣州分公司支持，由CCF YOCSEF廣州現(xiàn)任副主席姜思羽（廣東外語外貿(mào)大學(xué)）和CCF YOCSEF廣州AC委員夏志華（暨南大學(xué)）共同擔(dān)任執(zhí)行主席。

論壇邀請了復(fù)旦大學(xué)教授張新鵬、公安部鑒定中心副處長康錦濤、華南農(nóng)業(yè)大學(xué)教授王春桃作為引導(dǎo)嘉賓，中山大學(xué)教授盧偉、奇安信科技集團(tuán)事業(yè)部總經(jīng)理姚磊、廣東外語外貿(mào)大學(xué)院長王常吉作為特邀思辨嘉賓。廣東省計算機(jī)學(xué)會理事長韓國強(qiáng)（華南理工大學(xué)）、黃治軍（粵港澳大灣區(qū)生成式人工智能安全發(fā)展聯(lián)合實驗室）、袁炯賢（廣東省網(wǎng)絡(luò)數(shù)據(jù)安全與個人信息保護(hù)協(xié)會）、YOCSEF廣州往屆主席黃棟（華南農(nóng)業(yè)大學(xué)）、優(yōu)秀AC委員劉雷（廣東科技報社），YOCSEF廣州現(xiàn)任主席蘇申（廣州大學(xué)），劉偉莉（廣東技術(shù)師范大學(xué)）、王幸濤（安恒信息）、李宇翔（頭歌平臺）等AC委員以及陽建華（廣東技術(shù)師范大學(xué)）等委員，YOCSEF 南京學(xué)術(shù)秘書臧天梓（南京航空航天大學(xué)），蔣盛益（廣東外語外貿(mào)大學(xué)），李佩雅（暨南大學(xué)），劉靜（廣州九盛電子有限公司），盧穎杰（華南理工大學(xué)智能算法研究中心），邊山（華南農(nóng)業(yè)大學(xué)）等來自多所高校及多家企業(yè)事業(yè)單位的代表共100多人參加本次論壇。

論壇首先由論壇執(zhí)行主席姜思羽介紹論壇背景等相關(guān)情況。廣東省計算機(jī)學(xué)會理事長韓國強(qiáng)致辭發(fā)言。韓國強(qiáng)理事長首先對參會嘉賓表示誠摯歡迎，并介紹道，當(dāng)前正處于AI研發(fā)加速突破、網(wǎng)絡(luò)安全備受關(guān)注、科技創(chuàng)新引領(lǐng)發(fā)展的重要階段。在此背景下，他期待青年學(xué)者們圍繞“標(biāo)識機(jī)器創(chuàng)作：人工智能生成合成內(nèi)容的權(quán)與責(zé)” 展開深入交流，凝聚共識，啟發(fā)思路，并預(yù)祝本次論壇取得圓滿成功。

論壇執(zhí)行主席姜思羽介紹論壇背景等情況

韓國強(qiáng)理事長致辭

由CCF YOCSEF廣州現(xiàn)任主席蘇申介紹YOCSEF的文化核心，他強(qiáng)調(diào)，YOCSEF 始終以 “思辨精神” 為底色，以“自由發(fā)言”和“平等交流”為核心原則，每位參會者都能自由表達(dá)見解，最后對支持單位表達(dá)了感謝。

復(fù)旦大學(xué)張新鵬教授以“從深度模型確權(quán)到AIGC溯源”為題作引導(dǎo)報告，針對“鑒偽”和“溯源”兩大核心問題，分享了應(yīng)對思路與技術(shù)方案，為 AIGC 內(nèi)容的全生命周期治理提供技術(shù)支撐。公安部鑒定中心副處長康錦濤以“AI生成偽造語音鑒定的挑戰(zhàn)與方法”為題作引導(dǎo)報告，指出傳統(tǒng)語言鑒定面臨的挑戰(zhàn)，接著提出構(gòu)建數(shù)據(jù)基礎(chǔ)、使用新算法等新范式，同時，他也拋出了當(dāng)前行業(yè)亟待解決的關(guān)鍵疑問“如何建立動態(tài)更新的數(shù)據(jù)集？如何訓(xùn)練出兼具通用性與針對性的鑒定模型？”這些問題為后續(xù)的技術(shù)研發(fā)與行業(yè)協(xié)作指明了需重點突破的方向。華南農(nóng)業(yè)大學(xué)王春桃教授以“面向溯源與鑒偽的潛在擴(kuò)散模型水印初探索”為題作引導(dǎo)報告，圍繞AIGC的“溯源”與“鑒偽”展開，介紹了后處理方法、開源場景模型權(quán)重微調(diào)、非開源場景模型適配器等方法。

張新鵬教授作引導(dǎo)報告

康錦濤副處長作引導(dǎo)報告

王春桃教授作引導(dǎo)報告

頒發(fā)引導(dǎo)嘉賓感謝牌

在三位引導(dǎo)發(fā)言嘉賓作報告后，由論壇執(zhí)行主席姜思羽、夏志華主持論壇思辨環(huán)節(jié)。思辨嘉賓中山大學(xué)教授盧偉、奇安信科技集團(tuán)事業(yè)部總經(jīng)理姚磊、廣東外語外貿(mào)大學(xué)院長王常吉圍繞“當(dāng)前給人工智能生成合成內(nèi)容做標(biāo)記的技術(shù)有哪些？目前如果要使用當(dāng)前技術(shù)來應(yīng)對攻擊/通過司法鑒定，還存在哪些不足”“人工智能標(biāo)記在現(xiàn)實應(yīng)用中可能面臨哪些技術(shù)攻擊手段？什么樣的標(biāo)記生成技術(shù)才能做到攻擊的容錯性？”“人工智能生成合成內(nèi)容的標(biāo)記如果要通過司法鑒定，還需要哪些技術(shù)、法律的支撐？”三個議題展開了深入思辨，總結(jié)得到以下觀點。

思辨議題1: 當(dāng)前給人工智能生成合成內(nèi)容做標(biāo)記的技術(shù)有哪些？目前如果要使用當(dāng)前技術(shù)來應(yīng)對攻擊或通過司法鑒定，還存在哪些不足？

針對此議題，盧偉教授聚焦模型的結(jié)構(gòu)性保護(hù)，并著重探討了在模型訓(xùn)練過程中，如何對數(shù)據(jù)集水印進(jìn)行保護(hù)這一核心問題。數(shù)據(jù)集水印是人工智能生成合成內(nèi)容標(biāo)記技術(shù)的重要載體，其有效性直接關(guān)系到后續(xù)內(nèi)容溯源、權(quán)屬認(rèn)定的準(zhǔn)確性，若能在模型訓(xùn)練階段就建立起對數(shù)據(jù)集水印的保護(hù)機(jī)制，可以提升水印對抗惡意攻擊的能力。陽建華副教授指出，人工智能生成合成內(nèi)容相關(guān)技術(shù)以數(shù)據(jù)驅(qū)動為核心，依賴于數(shù)據(jù)庫，基于這一特性，他進(jìn)一步提出疑問，在涉及此類技術(shù)的司法鑒定場景中，如何確定模型在不同數(shù)據(jù)場景下具備可靠性?？靛\濤副處長針對這一疑問給出如下回答，他指出在當(dāng)前的實踐中，檢驗人員會將輸出結(jié)果中固有的不確定性轉(zhuǎn)換為確定性結(jié)果，他認(rèn)為這樣操作存在較大風(fēng)險，可能會存在主觀因素，導(dǎo)致司法判斷偏離技術(shù)客觀實際。因此，他提出優(yōu)化方向，未來在司法場景應(yīng)用模型結(jié)果時，不應(yīng)該只傳遞確定性結(jié)論，而應(yīng)將模型結(jié)果本身的不確定性同步傳遞給法院，為司法決策提供更全面、客觀的技術(shù)參考依據(jù)。此外，還有其他嘉賓補(bǔ)充了模型可解釋性的突出問題，即模型在得出結(jié)論的過程、依賴的關(guān)鍵特征難以清晰地拆解和說明，這一問題會進(jìn)一步影響司法等場景中對模型結(jié)果的信任度和采信度，是后續(xù)技術(shù)優(yōu)化的重要方向之一。

思辨議題2: 人工智能標(biāo)記在現(xiàn)實應(yīng)用中可能面臨哪些技術(shù)攻擊手段？什么樣的標(biāo)記生成技術(shù)才能做到攻擊的容錯性？

姚磊結(jié)合數(shù)據(jù)安全從業(yè)經(jīng)驗，明確指出當(dāng)前標(biāo)識技術(shù)的關(guān)鍵痛點，顯性/隱性標(biāo)識均面臨“去除攻擊”風(fēng)險，且商業(yè)市場水印產(chǎn)品應(yīng)用有限。此外，他還探討了“生成后加標(biāo)識”與“生成時同步加標(biāo)識”的技術(shù)可行性差異，以及大模型、數(shù)據(jù)、檢測程序備案對鑒定精準(zhǔn)度的影響，為技術(shù)落地難題提供了實踐視角。有嘉賓認(rèn)為，在涉及人工智能標(biāo)記的司法鑒定場景中，可以對整個鑒定過程（涵蓋所用數(shù)據(jù)、采用的模型及操作環(huán)節(jié)等關(guān)鍵要素）進(jìn)行全面?zhèn)浒?。備案的過程信息也可降低攻擊對鑒定結(jié)果準(zhǔn)確性的干擾，從流程層面為標(biāo)記技術(shù)的攻擊容錯性提供補(bǔ)充保障。同時，也有嘉賓針對“全流程備案”的建議提出疑問，聚焦其實施的可行性，一方面需考量技術(shù)落地問題，如大量備案數(shù)據(jù)的存儲安全性、調(diào)取便捷性，以及如何避免備案信息自身被篡改；另一方面需關(guān)注實踐適配性，如不同鑒定場景的技術(shù)標(biāo)準(zhǔn)差異是否會影響備案流程的統(tǒng)一性，且備案操作是否會額外增加鑒定成本、延長鑒定周期，這些均需結(jié)合實際場景進(jìn)一步驗證。

思辨議題3: 人工智能生成合成內(nèi)容的標(biāo)記如果要通過司法鑒定，還需要哪些技術(shù)/法律的支撐？

有嘉賓認(rèn)為，在技術(shù)層面需要優(yōu)先解決標(biāo)記自身的安全性與可靠性問題，當(dāng)前AIGC處于初級發(fā)展階段且未來變數(shù)大，標(biāo)記易被篡改、偽造，因此需研發(fā)能鑒定標(biāo)記真實性的技術(shù)，避免因標(biāo)記安全無保障加劇責(zé)任界定混亂，需適配AIGC技術(shù)的動態(tài)發(fā)展，避免因技術(shù)迭代導(dǎo)致現(xiàn)有標(biāo)記檢測、溯源技術(shù)失效。法律層面，首先需明確責(zé)任劃分細(xì)則，即便有標(biāo)記，仍需法律明確AIGC內(nèi)容引發(fā)不良后果時，內(nèi)容產(chǎn)生方、平臺與用戶自身的責(zé)任邊界，避免責(zé)任歸屬模糊。還有嘉賓認(rèn)為，在技術(shù)上要結(jié)合具體場景設(shè)計，避免單一技術(shù)依賴，通過在司法判定關(guān)鍵節(jié)點布設(shè)多技術(shù)、串聯(lián)各證據(jù)聯(lián)合提升可信度，并借鑒密碼學(xué)思路增強(qiáng)隱性標(biāo)識抗破解能力，應(yīng)對非法生成無標(biāo)識有害內(nèi)容的情況。

思辨現(xiàn)場熱烈討論

頒發(fā)思辨特邀嘉賓感謝牌

最后，YOCSEF 廣州往屆主席黃棟對論壇進(jìn)行總結(jié)。以標(biāo)識塑信，是技術(shù)共識；以責(zé)任護(hù)界，是制度方向。本次論壇針對人工智能生成合成內(nèi)容標(biāo)記的技術(shù)、法律、司法鑒定等核心議題展開深度交流，凝聚多方智慧形成系列共識。

與會嘉賓合影留念

未來，期待在專家學(xué)者的協(xié)同推動下，深化權(quán)責(zé)歸屬問題探討，強(qiáng)化行業(yè)引領(lǐng)作用，為人工智能技術(shù)在內(nèi)容安全場景下的可信應(yīng)用發(fā)展提供清晰指引。（完）