圖片“隨心定制” AI時(shí)代的真?zhèn)尾┺?/h1>
平臺(tái)管理效果參差不齊 “去水印”即可繞過監(jiān)管
AI時(shí)代的真?zhèn)尾┺?/strong>
近日,安徽一名女子使用AI工具生成了高度逼真的“流浪漢臥坐餐廳”等圖片,發(fā)送給在外聚餐的丈夫,本想測(cè)試其反應(yīng),不料丈夫信以為真,當(dāng)即報(bào)警求助。
民警現(xiàn)場(chǎng)核實(shí)情況,確認(rèn)是虛假信息,對(duì)該女子的行為進(jìn)行了提醒:“AI技術(shù)生成的內(nèi)容雖逼真,但以此制造恐慌并引發(fā)警方出警,屬于浪費(fèi)公共資源的行為?!?table border=0 cellspacing=0 cellpadding=0 align=left class="adInContent">
類似由AI生成圖片引發(fā)的“烏龍事件”并非個(gè)例:廣東廣州某小區(qū)業(yè)主的孩子用AI生成圖片后發(fā)給父母稱“流浪漢試圖闖進(jìn)家門”,圖片被轉(zhuǎn)到業(yè)主群后引起樓棟業(yè)主恐慌;近日,多名電商平臺(tái)賣家曝光,有消費(fèi)者利用AI工具生成商品變質(zhì)、損壞的圖片,以此申請(qǐng)“僅退款”;山東威海網(wǎng)民張某為博取關(guān)注,使用AI工具編造“在監(jiān)獄直播帶貨”圖片的謠言信息并發(fā)布,引發(fā)大量網(wǎng)民關(guān)注討論,張某因擾亂公共秩序已被公安機(jī)關(guān)處以行政處罰。
今年9月1日,《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》正式實(shí)施,要求人工智能生成合成內(nèi)容應(yīng)當(dāng)通過顯著標(biāo)識(shí)、數(shù)字水印等方式進(jìn)行顯式與隱式標(biāo)注,以保障內(nèi)容的可識(shí)別性。這標(biāo)志著,AI生成內(nèi)容全面進(jìn)入“持證上崗”時(shí)代。
然而,《法治日?qǐng)?bào)》記者近日對(duì)多個(gè)主流平臺(tái)展開的調(diào)查顯示,新規(guī)落地效果參差不齊,仍有大量未標(biāo)識(shí)內(nèi)容在各大平臺(tái)持續(xù)傳播。這些愈發(fā)逼真的AI生成圖無標(biāo)識(shí)“裸奔”,使“有圖有真相”的傳統(tǒng)認(rèn)知面臨挑戰(zhàn),公眾難辨真?zhèn)巍?/p>
AI圖片“隨心定制”
記者在調(diào)查中發(fā)現(xiàn),如今網(wǎng)絡(luò)上存在多款A(yù)I制圖軟件,一些社交平臺(tái)甚至自帶AI生成圖功能。只需上傳相關(guān)人物、背景素材,輸入一句指令,短短幾秒便能生成一張幾可亂真的AI圖片,還可隨意按照個(gè)人喜好對(duì)圖片的細(xì)節(jié)和內(nèi)容進(jìn)行調(diào)整。
受訪專家指出,如今AI生成圖片或視頻已很難從面部表情、肢體結(jié)構(gòu)等方面識(shí)別真?zhèn)?,如果不?duì)內(nèi)容作顯著標(biāo)識(shí),很容易讓人信以為真。
為調(diào)查平臺(tái)與創(chuàng)作者對(duì)AI生成內(nèi)容的實(shí)際標(biāo)注情況,記者在一周時(shí)間內(nèi)于6個(gè)主流短視頻平臺(tái)及社交平臺(tái)的推薦頁面,分別隨機(jī)瀏覽并記錄了100條AI生成或高度疑似AI生成的視頻內(nèi)容,并就其標(biāo)注情況展開記錄。
經(jīng)統(tǒng)計(jì),在隨機(jī)瀏覽的視頻中,約有60%的視頻附有作者主動(dòng)標(biāo)注的AI創(chuàng)作聲明;約30%雖未獲作者標(biāo)注,但被平臺(tái)在顯著位置標(biāo)識(shí)為“內(nèi)容可能為AI生成”。然而,在各大平臺(tái)中,仍有部分高度疑似AI生成的視頻,既無作者標(biāo)識(shí),也無平臺(tái)提示。
以某短視頻平臺(tái)一個(gè)擁有30多萬名粉絲的賬號(hào)為例,其發(fā)布的內(nèi)容多以萌寵、兒童和農(nóng)村生活為主題。其置頂?shù)?條視頻,內(nèi)容均呈現(xiàn)明顯的AI生成痕跡:小狗輕易撞破機(jī)場(chǎng)玻璃;行李箱的顏色瞬間變化;數(shù)十名長相雷同、頭身比例嚴(yán)重失調(diào)的嬰兒一邊走一邊喊“奶奶”。然而,其中僅1條在視頻右下角有AI創(chuàng)作標(biāo)識(shí)。
在該賬號(hào)的首頁介紹中,明確附有其私人社交賬號(hào),并注明“可學(xué)習(xí)教學(xué)”。記者添加該賬號(hào)私聊咨詢后,對(duì)方承認(rèn)所有內(nèi)容均為AI生成,并表示“120元即可獲取提示詞以及全套教程,包教包會(huì)”“制作一條AI視頻僅需十幾分鐘”。
靠AI生成內(nèi)容引流賣貨
此外,AI生成內(nèi)容也被用于引流與商業(yè)推廣。
“在××(地名),女兒已經(jīng)過上了普通人里最好的生活”。近日,在某社交平臺(tái)中,記者頻繁刷到以此為標(biāo)題的帖文。不同的帖文中,這個(gè)地名被換成北京、長沙、珠海等不同城市。
在這些帖文中,孩子父母的“人設(shè)”高度一致:爸爸做生意、媽媽在國企工作,父母學(xué)歷均為985本/碩。雖然是不同賬號(hào)發(fā)布的內(nèi)容,但文案幾乎完全雷同,均為教育經(jīng)驗(yàn)分享或情感激勵(lì)類內(nèi)容,極易引發(fā)家長群體的共鳴。
這類帖文的配圖普遍采用父母和孩子在校門前或景點(diǎn)前的合照。盡管賬號(hào)的IP地址顯示在不同地區(qū),且背景不斷變化,但畫面中父母和孩子的形象高度一致。
同一張臉、同一個(gè)家庭,卻有多段“精彩人生”?記者下載相關(guān)帖文照片后發(fā)送給多個(gè)AI軟件詢問“是否為真實(shí)圖片”,得出的結(jié)論是“背景元素存在邏輯沖突、人物細(xì)節(jié)有AI特征,高度疑似AI生成圖”。
然而,平臺(tái)并未對(duì)這些圖片添加提示AI生成的相關(guān)內(nèi)容,圖片本身也未包含任何水印標(biāo)注。
記者進(jìn)一步觀察發(fā)現(xiàn),這些賬號(hào)用AI生成圖塑造“成功家庭”形象的目的實(shí)為兜售課程。在某賬號(hào)發(fā)布的帖文中,其表示“成功家庭”的核心秘訣是孩子的教育,進(jìn)而圍繞塑造孩子數(shù)學(xué)思維,展開長篇論述。評(píng)論區(qū)內(nèi)不少網(wǎng)友留言“求推數(shù)學(xué)思維課”。記者咨詢后,對(duì)方發(fā)來某數(shù)學(xué)課程商家賬號(hào),該賬號(hào)經(jīng)營的店鋪內(nèi)售賣標(biāo)價(jià)為5450元的新數(shù)理課程。
值得注意的是,部分賬號(hào)的主頁直接關(guān)聯(lián)某些線上教育機(jī)構(gòu)的官方賬號(hào),并在后綴標(biāo)注“產(chǎn)品體驗(yàn)官”“規(guī)劃師”等身份標(biāo)識(shí)。這類綁定關(guān)系顯示出其內(nèi)容與商業(yè)推廣間的明確關(guān)聯(lián),客觀上構(gòu)成軟性廣告,但大多數(shù)家長往往難以辨別其營銷性質(zhì)。
除此之外,AI生成技術(shù)也被廣泛應(yīng)用于直播帶貨與商品展示。
某社交平臺(tái)部分穿搭博主賬號(hào)分享的內(nèi)容中,AI生成特征較為明顯:背景雜志上的人物和標(biāo)題多為亂碼、電梯場(chǎng)景中樓層按鈕明顯失真,并非真人實(shí)穿。然而,平臺(tái)和博主均無任何關(guān)于AI生成的標(biāo)注,博主還會(huì)通過評(píng)論區(qū)與用戶積極互動(dòng):當(dāng)粉絲詢問服裝鏈接時(shí),博主會(huì)直接引導(dǎo)至商品櫥窗;對(duì)于涉及身高、體重等個(gè)人特征的問題,博主也未提示任何AI生成屬性。
在某購物平臺(tái)上,多家銷售睡蓮的店鋪均使用相同的商品宣傳圖,圖片呈現(xiàn)明顯的AI制作特征:背景失真、花朵呈半透明狀。相關(guān)商品的買家評(píng)論最多達(dá)7萬余條,而其評(píng)論區(qū)卻幾乎未見成功開花的反饋。在偶有的一些開花圖片中,花朵數(shù)量和形態(tài)也與宣傳圖相差甚遠(yuǎn)。而上述商品宣傳圖中,均未出現(xiàn)AI生成圖片的相應(yīng)提示。
去標(biāo)識(shí)就能“騙”過平臺(tái)
為驗(yàn)證平臺(tái)對(duì)AI內(nèi)容的識(shí)別能力,記者購買了一款宣稱“可去除品牌水印”的某AI軟件會(huì)員,使用該軟件可生成視頻并進(jìn)行去水印處理。隨后,記者將有水印與無水印版本同時(shí)發(fā)布于4個(gè)主流社交平臺(tái),且均未主動(dòng)標(biāo)注AI創(chuàng)作。
調(diào)查結(jié)果顯示,上述平臺(tái)對(duì)有水印的版本均作出“含AI生成內(nèi)容”的標(biāo)識(shí),對(duì)于無水印內(nèi)容,僅有一個(gè)平臺(tái)在后期補(bǔ)充了AI內(nèi)容標(biāo)識(shí),并在后臺(tái)私信發(fā)來風(fēng)險(xiǎn)提示外,其余平臺(tái)均無提示。
為驗(yàn)證AI生成內(nèi)容標(biāo)識(shí)系統(tǒng)的實(shí)際有效性,記者對(duì)當(dāng)前市面6款使用人數(shù)較多的生圖軟件展開調(diào)查。結(jié)果顯示,雖然在內(nèi)容生成時(shí)全部默認(rèn)標(biāo)注水印,但有些軟件只要充值成為“高級(jí)會(huì)員”,即可解鎖“去水印”功能。
此外,市面上存在多家提供低價(jià)去水印服務(wù)的商家。其中一款售價(jià)6元、宣傳“終身包更新”的軟件包,明確提示可去除圖片與視頻中的各類水印,并且不限使用時(shí)間和次數(shù)。
記者購買了該安裝包進(jìn)行實(shí)測(cè),在按照要求完成軟件安裝后,發(fā)現(xiàn)僅需對(duì)水印位置進(jìn)行簡單涂抹,即可完整去除AI標(biāo)識(shí),且不破壞畫面整體效果。隨后,記者將去水印后的圖片上傳至4個(gè)社交平臺(tái)進(jìn)行驗(yàn)證,結(jié)果顯示,這些原本帶有AI水印的內(nèi)容,在去除水印后均未觸發(fā)任何平臺(tái)的AI生成提示機(jī)制。
受訪專家認(rèn)為,平臺(tái)在AI內(nèi)容標(biāo)識(shí)的落地執(zhí)行方面還有很大的提升空間。不少網(wǎng)友把使用AI生成圖視為娛樂或惡作劇,卻忽視了背后可能存在擾亂社會(huì)治安、引發(fā)恐慌的風(fēng)險(xiǎn)。因此,在完善技術(shù)監(jiān)管機(jī)制的同時(shí),也要加強(qiáng)公眾網(wǎng)絡(luò)素養(yǎng)教育,提升公眾對(duì)AI生成內(nèi)容的辨識(shí)能力和社會(huì)責(zé)任意識(shí)。
本報(bào)記者 趙 麗
本報(bào)實(shí)習(xí)生 王藝霏
【編輯:劉陽禾】
平臺(tái)管理效果參差不齊 “去水印”即可繞過監(jiān)管
AI時(shí)代的真?zhèn)尾┺?/strong>
近日,安徽一名女子使用AI工具生成了高度逼真的“流浪漢臥坐餐廳”等圖片,發(fā)送給在外聚餐的丈夫,本想測(cè)試其反應(yīng),不料丈夫信以為真,當(dāng)即報(bào)警求助。
民警現(xiàn)場(chǎng)核實(shí)情況,確認(rèn)是虛假信息,對(duì)該女子的行為進(jìn)行了提醒:“AI技術(shù)生成的內(nèi)容雖逼真,但以此制造恐慌并引發(fā)警方出警,屬于浪費(fèi)公共資源的行為?!?table border=0 cellspacing=0 cellpadding=0 align=left class="adInContent">
類似由AI生成圖片引發(fā)的“烏龍事件”并非個(gè)例:廣東廣州某小區(qū)業(yè)主的孩子用AI生成圖片后發(fā)給父母稱“流浪漢試圖闖進(jìn)家門”,圖片被轉(zhuǎn)到業(yè)主群后引起樓棟業(yè)主恐慌;近日,多名電商平臺(tái)賣家曝光,有消費(fèi)者利用AI工具生成商品變質(zhì)、損壞的圖片,以此申請(qǐng)“僅退款”;山東威海網(wǎng)民張某為博取關(guān)注,使用AI工具編造“在監(jiān)獄直播帶貨”圖片的謠言信息并發(fā)布,引發(fā)大量網(wǎng)民關(guān)注討論,張某因擾亂公共秩序已被公安機(jī)關(guān)處以行政處罰。
今年9月1日,《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》正式實(shí)施,要求人工智能生成合成內(nèi)容應(yīng)當(dāng)通過顯著標(biāo)識(shí)、數(shù)字水印等方式進(jìn)行顯式與隱式標(biāo)注,以保障內(nèi)容的可識(shí)別性。這標(biāo)志著,AI生成內(nèi)容全面進(jìn)入“持證上崗”時(shí)代。
然而,《法治日?qǐng)?bào)》記者近日對(duì)多個(gè)主流平臺(tái)展開的調(diào)查顯示,新規(guī)落地效果參差不齊,仍有大量未標(biāo)識(shí)內(nèi)容在各大平臺(tái)持續(xù)傳播。這些愈發(fā)逼真的AI生成圖無標(biāo)識(shí)“裸奔”,使“有圖有真相”的傳統(tǒng)認(rèn)知面臨挑戰(zhàn),公眾難辨真?zhèn)巍?/p>
AI圖片“隨心定制”
記者在調(diào)查中發(fā)現(xiàn),如今網(wǎng)絡(luò)上存在多款A(yù)I制圖軟件,一些社交平臺(tái)甚至自帶AI生成圖功能。只需上傳相關(guān)人物、背景素材,輸入一句指令,短短幾秒便能生成一張幾可亂真的AI圖片,還可隨意按照個(gè)人喜好對(duì)圖片的細(xì)節(jié)和內(nèi)容進(jìn)行調(diào)整。
受訪專家指出,如今AI生成圖片或視頻已很難從面部表情、肢體結(jié)構(gòu)等方面識(shí)別真?zhèn)?,如果不?duì)內(nèi)容作顯著標(biāo)識(shí),很容易讓人信以為真。
為調(diào)查平臺(tái)與創(chuàng)作者對(duì)AI生成內(nèi)容的實(shí)際標(biāo)注情況,記者在一周時(shí)間內(nèi)于6個(gè)主流短視頻平臺(tái)及社交平臺(tái)的推薦頁面,分別隨機(jī)瀏覽并記錄了100條AI生成或高度疑似AI生成的視頻內(nèi)容,并就其標(biāo)注情況展開記錄。
經(jīng)統(tǒng)計(jì),在隨機(jī)瀏覽的視頻中,約有60%的視頻附有作者主動(dòng)標(biāo)注的AI創(chuàng)作聲明;約30%雖未獲作者標(biāo)注,但被平臺(tái)在顯著位置標(biāo)識(shí)為“內(nèi)容可能為AI生成”。然而,在各大平臺(tái)中,仍有部分高度疑似AI生成的視頻,既無作者標(biāo)識(shí),也無平臺(tái)提示。
以某短視頻平臺(tái)一個(gè)擁有30多萬名粉絲的賬號(hào)為例,其發(fā)布的內(nèi)容多以萌寵、兒童和農(nóng)村生活為主題。其置頂?shù)?條視頻,內(nèi)容均呈現(xiàn)明顯的AI生成痕跡:小狗輕易撞破機(jī)場(chǎng)玻璃;行李箱的顏色瞬間變化;數(shù)十名長相雷同、頭身比例嚴(yán)重失調(diào)的嬰兒一邊走一邊喊“奶奶”。然而,其中僅1條在視頻右下角有AI創(chuàng)作標(biāo)識(shí)。
在該賬號(hào)的首頁介紹中,明確附有其私人社交賬號(hào),并注明“可學(xué)習(xí)教學(xué)”。記者添加該賬號(hào)私聊咨詢后,對(duì)方承認(rèn)所有內(nèi)容均為AI生成,并表示“120元即可獲取提示詞以及全套教程,包教包會(huì)”“制作一條AI視頻僅需十幾分鐘”。
靠AI生成內(nèi)容引流賣貨
此外,AI生成內(nèi)容也被用于引流與商業(yè)推廣。
“在××(地名),女兒已經(jīng)過上了普通人里最好的生活”。近日,在某社交平臺(tái)中,記者頻繁刷到以此為標(biāo)題的帖文。不同的帖文中,這個(gè)地名被換成北京、長沙、珠海等不同城市。
在這些帖文中,孩子父母的“人設(shè)”高度一致:爸爸做生意、媽媽在國企工作,父母學(xué)歷均為985本/碩。雖然是不同賬號(hào)發(fā)布的內(nèi)容,但文案幾乎完全雷同,均為教育經(jīng)驗(yàn)分享或情感激勵(lì)類內(nèi)容,極易引發(fā)家長群體的共鳴。
這類帖文的配圖普遍采用父母和孩子在校門前或景點(diǎn)前的合照。盡管賬號(hào)的IP地址顯示在不同地區(qū),且背景不斷變化,但畫面中父母和孩子的形象高度一致。
同一張臉、同一個(gè)家庭,卻有多段“精彩人生”?記者下載相關(guān)帖文照片后發(fā)送給多個(gè)AI軟件詢問“是否為真實(shí)圖片”,得出的結(jié)論是“背景元素存在邏輯沖突、人物細(xì)節(jié)有AI特征,高度疑似AI生成圖”。
然而,平臺(tái)并未對(duì)這些圖片添加提示AI生成的相關(guān)內(nèi)容,圖片本身也未包含任何水印標(biāo)注。
記者進(jìn)一步觀察發(fā)現(xiàn),這些賬號(hào)用AI生成圖塑造“成功家庭”形象的目的實(shí)為兜售課程。在某賬號(hào)發(fā)布的帖文中,其表示“成功家庭”的核心秘訣是孩子的教育,進(jìn)而圍繞塑造孩子數(shù)學(xué)思維,展開長篇論述。評(píng)論區(qū)內(nèi)不少網(wǎng)友留言“求推數(shù)學(xué)思維課”。記者咨詢后,對(duì)方發(fā)來某數(shù)學(xué)課程商家賬號(hào),該賬號(hào)經(jīng)營的店鋪內(nèi)售賣標(biāo)價(jià)為5450元的新數(shù)理課程。
值得注意的是,部分賬號(hào)的主頁直接關(guān)聯(lián)某些線上教育機(jī)構(gòu)的官方賬號(hào),并在后綴標(biāo)注“產(chǎn)品體驗(yàn)官”“規(guī)劃師”等身份標(biāo)識(shí)。這類綁定關(guān)系顯示出其內(nèi)容與商業(yè)推廣間的明確關(guān)聯(lián),客觀上構(gòu)成軟性廣告,但大多數(shù)家長往往難以辨別其營銷性質(zhì)。
除此之外,AI生成技術(shù)也被廣泛應(yīng)用于直播帶貨與商品展示。
某社交平臺(tái)部分穿搭博主賬號(hào)分享的內(nèi)容中,AI生成特征較為明顯:背景雜志上的人物和標(biāo)題多為亂碼、電梯場(chǎng)景中樓層按鈕明顯失真,并非真人實(shí)穿。然而,平臺(tái)和博主均無任何關(guān)于AI生成的標(biāo)注,博主還會(huì)通過評(píng)論區(qū)與用戶積極互動(dòng):當(dāng)粉絲詢問服裝鏈接時(shí),博主會(huì)直接引導(dǎo)至商品櫥窗;對(duì)于涉及身高、體重等個(gè)人特征的問題,博主也未提示任何AI生成屬性。
在某購物平臺(tái)上,多家銷售睡蓮的店鋪均使用相同的商品宣傳圖,圖片呈現(xiàn)明顯的AI制作特征:背景失真、花朵呈半透明狀。相關(guān)商品的買家評(píng)論最多達(dá)7萬余條,而其評(píng)論區(qū)卻幾乎未見成功開花的反饋。在偶有的一些開花圖片中,花朵數(shù)量和形態(tài)也與宣傳圖相差甚遠(yuǎn)。而上述商品宣傳圖中,均未出現(xiàn)AI生成圖片的相應(yīng)提示。
去標(biāo)識(shí)就能“騙”過平臺(tái)
為驗(yàn)證平臺(tái)對(duì)AI內(nèi)容的識(shí)別能力,記者購買了一款宣稱“可去除品牌水印”的某AI軟件會(huì)員,使用該軟件可生成視頻并進(jìn)行去水印處理。隨后,記者將有水印與無水印版本同時(shí)發(fā)布于4個(gè)主流社交平臺(tái),且均未主動(dòng)標(biāo)注AI創(chuàng)作。
調(diào)查結(jié)果顯示,上述平臺(tái)對(duì)有水印的版本均作出“含AI生成內(nèi)容”的標(biāo)識(shí),對(duì)于無水印內(nèi)容,僅有一個(gè)平臺(tái)在后期補(bǔ)充了AI內(nèi)容標(biāo)識(shí),并在后臺(tái)私信發(fā)來風(fēng)險(xiǎn)提示外,其余平臺(tái)均無提示。
為驗(yàn)證AI生成內(nèi)容標(biāo)識(shí)系統(tǒng)的實(shí)際有效性,記者對(duì)當(dāng)前市面6款使用人數(shù)較多的生圖軟件展開調(diào)查。結(jié)果顯示,雖然在內(nèi)容生成時(shí)全部默認(rèn)標(biāo)注水印,但有些軟件只要充值成為“高級(jí)會(huì)員”,即可解鎖“去水印”功能。
此外,市面上存在多家提供低價(jià)去水印服務(wù)的商家。其中一款售價(jià)6元、宣傳“終身包更新”的軟件包,明確提示可去除圖片與視頻中的各類水印,并且不限使用時(shí)間和次數(shù)。
記者購買了該安裝包進(jìn)行實(shí)測(cè),在按照要求完成軟件安裝后,發(fā)現(xiàn)僅需對(duì)水印位置進(jìn)行簡單涂抹,即可完整去除AI標(biāo)識(shí),且不破壞畫面整體效果。隨后,記者將去水印后的圖片上傳至4個(gè)社交平臺(tái)進(jìn)行驗(yàn)證,結(jié)果顯示,這些原本帶有AI水印的內(nèi)容,在去除水印后均未觸發(fā)任何平臺(tái)的AI生成提示機(jī)制。
受訪專家認(rèn)為,平臺(tái)在AI內(nèi)容標(biāo)識(shí)的落地執(zhí)行方面還有很大的提升空間。不少網(wǎng)友把使用AI生成圖視為娛樂或惡作劇,卻忽視了背后可能存在擾亂社會(huì)治安、引發(fā)恐慌的風(fēng)險(xiǎn)。因此,在完善技術(shù)監(jiān)管機(jī)制的同時(shí),也要加強(qiáng)公眾網(wǎng)絡(luò)素養(yǎng)教育,提升公眾對(duì)AI生成內(nèi)容的辨識(shí)能力和社會(huì)責(zé)任意識(shí)。
本報(bào)記者 趙 麗
本報(bào)實(shí)習(xí)生 王藝霏




































京公網(wǎng)安備 11010202009201號(hào)