中新網(wǎng)北京10月30日電(記者 吳濤)“一眼看去像是某領(lǐng)域?qū)＜遥Y(jié)果發(fā)現(xiàn)人物和身份都是AI虛構(gòu)的?！薄靶麄鲌D片光鮮亮麗，實(shí)景卻相差萬里，后來才知是AI合成。”

　　隨著AI的廣泛應(yīng)用，AI廣告違規(guī)風(fēng)險(xiǎn)越來越突出，這些內(nèi)容涉嫌違背公序良俗、侵權(quán)抄襲、虛假宣傳等。如何構(gòu)建有效的AI廣告治理體系，成為目前多個(gè)行業(yè)面臨的問題。

　　仍有AI內(nèi)容未做標(biāo)識(shí)

　　一般來說，AI內(nèi)容指利用人工智能技術(shù)生成、合成的文本、圖片、音頻、視頻、虛擬場景等信息。如今，一些不法廣告主利用AI技術(shù)生成逼真但虛假的消費(fèi)場景，活躍在短視頻、電商等平臺(tái)上。

　　此前由國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部等四部門發(fā)布的《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》9月1日起正式實(shí)施，規(guī)定人工智能生成合成內(nèi)容應(yīng)有顯式標(biāo)識(shí)和隱式標(biāo)識(shí)。

　　記者在多個(gè)短視頻和電商平臺(tái)瀏覽發(fā)現(xiàn)，疑似為AI生成但同時(shí)又未打AI標(biāo)識(shí)的內(nèi)容仍然可能出現(xiàn)，尤其是在2025年9月1日之前的存量宣傳內(nèi)容。有業(yè)內(nèi)人士表示，受限于技術(shù)和算力成本，平臺(tái)多依靠自帶的AI水印或作者主動(dòng)聲明來識(shí)別，如果內(nèi)容非本平臺(tái)AI生成，則識(shí)別難度增加。

　　據(jù)CNNIC發(fā)布的數(shù)據(jù)顯示，截至2025年6月，我國生成式人工智能用戶規(guī)模達(dá)5.15億人，較2024年12月增長2.66億人。龐大的AI用戶數(shù)量背后，也給AI內(nèi)容治理提出更高的要求。

　　將如何治理AI廣告？

　　面對(duì)海量的AI內(nèi)容，傳統(tǒng)的人工審核方式已難以為繼。治理AI違規(guī)廣告，必須依靠技術(shù)本身。據(jù)了解，在AI生成活躍的短視頻社交平臺(tái)上，已有大模型技術(shù)應(yīng)用其中。

　　例如，有平臺(tái)表示，在AI標(biāo)識(shí)方面，90%素材10分鐘內(nèi)完成審核，對(duì)比傳統(tǒng)審核效率提升了75%。對(duì)于涉及違規(guī)的廣告，大模型通過推理判斷，能快速提供精細(xì)化拒審理由，告知違規(guī)內(nèi)容出現(xiàn)在視頻中的具體時(shí)間點(diǎn)或具體畫面。

　　巨量引擎商業(yè)安全治理標(biāo)準(zhǔn)負(fù)責(zé)人項(xiàng)韻對(duì)中新網(wǎng)記者表示，針對(duì)違規(guī)行為設(shè)置了從預(yù)警整改、限制新開、賬戶封停、主體清退等梯度化、多元化處置體系，“今年第三季度已前置攔截涉AI違規(guī)素材84萬余個(gè)。”

　　快手平臺(tái)則表示，會(huì)在AI生成的內(nèi)容中添加“AI生成”顯示標(biāo)識(shí)、以及嵌入文件元數(shù)據(jù)中的隱式標(biāo)識(shí)。如內(nèi)容被平臺(tái)檢測為疑似AI內(nèi)容時(shí)，則進(jìn)行顯著提示。

　　中國政法大學(xué)副教授、中國廣告協(xié)會(huì)法德委朱巍對(duì)中新網(wǎng)表示，鑒于AI技術(shù)的復(fù)雜性和應(yīng)用的廣泛性，AI治理需要實(shí)現(xiàn)跨領(lǐng)域的協(xié)同。需要監(jiān)管持續(xù)加碼，需要平臺(tái)強(qiáng)化責(zé)任，更需要網(wǎng)民切身參與。面對(duì)AI換臉宣傳、深度合成侵權(quán)等新型風(fēng)險(xiǎn)，需要組建監(jiān)管、平臺(tái)、倫理委員會(huì)的 “共治聯(lián)盟”，形成治理合力。

　　中國廣告協(xié)會(huì)會(huì)長張國華近日表示，目前專門用于AI訓(xùn)練的優(yōu)質(zhì)語料依然稀缺，要從源頭上確保AI語料的真實(shí)性、合規(guī)性及其導(dǎo)向的正確性。

　　而對(duì)于如何識(shí)別潛在的AI謊言？“公安部網(wǎng)安局”公眾號(hào)29日發(fā)消息稱，對(duì)于圖片和視頻，仔細(xì)觀察是否存在AI生成的典型痕跡，例如人物手指數(shù)量異常、光影效果不自然、視頻口型與聲音不同步或背景模糊扭曲等。(完)