9月14日，國(guó)家互聯(lián)網(wǎng)信息辦公室發(fā)布關(guān)于《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》公開(kāi)征求意見(jiàn)的通知，還配套發(fā)布了國(guó)家標(biāo)準(zhǔn)《網(wǎng)絡(luò)安全技術(shù) 人工智能生成合成內(nèi)容標(biāo)識(shí)方法》。
新京報(bào)貝殼財(cái)經(jīng)記者瀏覽發(fā)現(xiàn)，《征求意見(jiàn)稿》共十四條，其中較為重要的條款包括要求人工智能生成合成內(nèi)容標(biāo)識(shí)包括顯式標(biāo)識(shí)和隱式標(biāo)識(shí)。
北京師范大學(xué)法學(xué)院博士生導(dǎo)師、中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)研究中心副主任吳沈括在接受新京報(bào)貝殼財(cái)經(jīng)記者采訪時(shí)表示，這是全球范圍內(nèi)第一部關(guān)于人工智能生成合成內(nèi)容的標(biāo)識(shí)國(guó)家標(biāo)準(zhǔn)，是關(guān)于人工智能內(nèi)容治理機(jī)制建設(shè)的重要探索，對(duì)人工智能內(nèi)容產(chǎn)業(yè)的有序發(fā)展和業(yè)務(wù)規(guī)則具有重要的指引意義，也有助于人工智能良性生態(tài)的培育。
文本、音頻、圖片、視頻、虛擬場(chǎng)景等均需添加顯著標(biāo)識(shí)
《征求意見(jiàn)稿》明確，人工智能生成合成內(nèi)容是指利用人工智能技術(shù)制作、生成、合成的文本、圖片、音頻、視頻等信息。而要求添加的標(biāo)識(shí)的具體解釋為，“顯式標(biāo)識(shí)是指在生成合成內(nèi)容或者交互場(chǎng)景界面中添加的，以文字、聲音、圖形等方式呈現(xiàn)并可被用戶明顯感知到的標(biāo)識(shí)。隱式標(biāo)識(shí)是指采取技術(shù)措施在生成合成內(nèi)容文件數(shù)據(jù)中添加的，不易被用戶明顯感知到的標(biāo)識(shí)?！?/p>
根據(jù)《征求意見(jiàn)稿》第四條，服務(wù)提供者提供的生成合成服務(wù)屬于《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第十七條第一款情形的，應(yīng)當(dāng)按照下列要求對(duì)生成合成內(nèi)容添加顯式標(biāo)識(shí)。
貝殼財(cái)經(jīng)記者注意到，《征求意見(jiàn)稿》第四條幾乎囊括了所有目前AI能夠生產(chǎn)的內(nèi)容，如對(duì)AI生成文本，要求在文本的起始、末尾、中間適當(dāng)位置添加文字提示或通用符號(hào)提示等標(biāo)識(shí)，或在交互場(chǎng)景界面或文字周邊添加顯著的提示標(biāo)識(shí)；AI生成音頻，要求在音頻的起始、末尾或中間適當(dāng)位置添加語(yǔ)音提示或音頻節(jié)奏提示等標(biāo)識(shí)，或在交互場(chǎng)景界面中添加顯著的提示標(biāo)識(shí)；AI生成視頻，要求在視頻起始畫(huà)面和視頻播放周邊的適當(dāng)位置添加顯著的提示標(biāo)識(shí)，可在視頻末尾和中間適當(dāng)位置添加顯著的提示標(biāo)識(shí)，等等。
《征求意見(jiàn)稿》還明確，提供網(wǎng)絡(luò)信息內(nèi)容傳播平臺(tái)服務(wù)的服務(wù)提供者應(yīng)當(dāng)采取措施，規(guī)范生成合成內(nèi)容傳播活動(dòng)，如應(yīng)當(dāng)核驗(yàn)文件元數(shù)據(jù)中是否含有隱式標(biāo)識(shí)，對(duì)于含有隱式標(biāo)識(shí)的，應(yīng)當(dāng)采取適當(dāng)方式在發(fā)布內(nèi)容周邊添加顯著的提示標(biāo)識(shí)，明確提醒用戶該內(nèi)容屬于生成合成內(nèi)容等。
專家解讀：?jiǎn)栴}導(dǎo)向，破解人工智能生成合成內(nèi)容新需求新風(fēng)險(xiǎn)
中國(guó)信息通信研究院人工智能研究所所長(zhǎng)魏凱分析稱，立足于生成式人工智能健康發(fā)展和規(guī)范應(yīng)用，《征求意見(jiàn)稿》以問(wèn)題為導(dǎo)向，通過(guò)系統(tǒng)性、創(chuàng)新性制度設(shè)計(jì)，全面回應(yīng)了對(duì)人工智能生成合成內(nèi)容標(biāo)識(shí)的要求。
魏凱表示，《征求意見(jiàn)稿》根植于我國(guó)發(fā)展實(shí)踐，通過(guò)標(biāo)準(zhǔn)完善補(bǔ)充生成式人工智能綜合治理機(jī)制，有力支撐了科技向善的治理理念，為世界貢獻(xiàn)發(fā)展與安全并行的人工智能治理中國(guó)方案。
據(jù)了解，早在2022年中央網(wǎng)信辦等就發(fā)布了《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，明確指出深度合成服務(wù)提供者應(yīng)當(dāng)在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進(jìn)行顯著標(biāo)識(shí)，向公眾提示深度合成情況。
魏凱表示，《規(guī)定》主要明確了需要添加標(biāo)識(shí)的情況，但對(duì)于添加標(biāo)識(shí)的位置、字形和表達(dá)并未做出具體要求，因此各類企業(yè)在實(shí)施過(guò)程中出現(xiàn)了文本內(nèi)容顯式標(biāo)識(shí)不明顯、難察覺(jué)，音頻、視頻等內(nèi)容顯式標(biāo)識(shí)未插入、淺提示，隱式標(biāo)識(shí)少信息、難校驗(yàn)等問(wèn)題，對(duì)于落實(shí)監(jiān)管提出了挑戰(zhàn)。
在他看來(lái)，出臺(tái)《征求意見(jiàn)稿》加強(qiáng)了服務(wù)商生成合成內(nèi)容標(biāo)識(shí)的規(guī)范性，是進(jìn)一步推進(jìn)生成合成內(nèi)容標(biāo)識(shí)工作的必要舉措，對(duì)規(guī)范互聯(lián)網(wǎng)信息服務(wù)深度合成管理、解決生成合成內(nèi)容標(biāo)識(shí)突出問(wèn)題、推進(jìn)信息網(wǎng)絡(luò)生態(tài)環(huán)境治理意義重大，影響深遠(yuǎn)。
魏凱認(rèn)為，《征求意見(jiàn)稿》進(jìn)一步完善生成式人工智能監(jiān)管問(wèn)責(zé)體系。生成式人工智能生成合成內(nèi)容涉及多種類型的主體，清晰界定各主體義務(wù)更有利于壓實(shí)主體責(zé)任，便利技術(shù)檢測(cè)實(shí)施，進(jìn)而落實(shí)精準(zhǔn)問(wèn)責(zé)?！墩髑笠庖?jiàn)稿》不僅界定了人工智能生成合成內(nèi)容的基本概念，更針對(duì)服務(wù)提供者、傳播平臺(tái)、應(yīng)用服務(wù)分發(fā)平臺(tái)和用戶分別規(guī)定了具體標(biāo)識(shí)要求，為各相關(guān)主體落實(shí)合規(guī)指明了方向。由此，《征求意見(jiàn)稿》在現(xiàn)行責(zé)任制度作出補(bǔ)充，充分細(xì)化了《規(guī)定》提出的深度合成服務(wù)提供者和技術(shù)支持者行為規(guī)范，為促進(jìn)新技術(shù)新應(yīng)用的規(guī)范發(fā)展提供了有益范例。
用戶評(píng)論