新聞1+1丨AI亂象治理 要“打假”也要能“辨真”

　　AI仿冒孫穎莎、王楚欽、全紅嬋帶貨，打的是什么算盤？一條評(píng)論引發(fā)全國(guó)首例AI誤判案，創(chuàng)作者如何自證“我不是AI”？當(dāng)技術(shù)應(yīng)用的門檻越來(lái)越低，當(dāng)內(nèi)容檢測(cè)的難度越來(lái)越大，AI亂象治理，如何加速加力？《新聞1+1》連線中國(guó)社會(huì)科學(xué)院大學(xué)互聯(lián)網(wǎng)法治研究中心主任劉曉春、北京互聯(lián)網(wǎng)法院綜合審判一庭法官?gòu)堎?，共同分析解讀。

　　01

　　AI仿冒奧運(yùn)冠軍聲音帶貨

　　法律上怎么看？

　　短視頻平臺(tái)上，奧運(yùn)冠軍全紅嬋、孫穎莎、王楚欽的聲音都遭遇了仿冒，被用來(lái)帶貨土雞蛋。這種行為在法律上怎么去界定？面臨哪些法律責(zé)任？

　　中國(guó)社會(huì)科學(xué)院大學(xué)互聯(lián)網(wǎng)法治研究中心主任 劉曉春：借用知名運(yùn)動(dòng)員的聲音，或者叫盜用這個(gè)聲音去帶貨，法律上至少有兩個(gè)層面的問題。第一是對(duì)運(yùn)動(dòng)員人格權(quán)益的侵犯，比如聲音權(quán)的侵犯。第二對(duì)公眾來(lái)說(shuō)，比如粉絲、購(gòu)買雞蛋的消費(fèi)者，實(shí)際上是有一個(gè)誤導(dǎo)、虛假宣傳，甚至是欺詐存在的。

　　盜用名人的聲音構(gòu)成虛假宣傳，可能市場(chǎng)監(jiān)管部門需要去追究他行政上的責(zé)任。

　　盜用名人的聲音去散播謠言，有可能達(dá)到刑事責(zé)任，會(huì)觸犯刑法。

　　我國(guó)《民法典》當(dāng)中明確規(guī)定了聲音權(quán)，盜用別人的聲音會(huì)導(dǎo)致對(duì)其人格權(quán)益的侵犯，從而要去承擔(dān)相應(yīng)的民事責(zé)任。

　　02

　　盜用聲音進(jìn)行正能量宣傳

　　可以嗎？

　　另一個(gè)視頻用了白巖松的聲音，既也沒有帶貨，也沒有謀利，只是進(jìn)行一種正能量的宣傳，這樣做可不可以？

　　劉曉春：這樣做看起來(lái)沒有什么傷害，只是傷害到了當(dāng)事人的人格權(quán)益，但也會(huì)誤導(dǎo)公眾。如果一個(gè)“新聞”用白老師的聲音來(lái)播，大家會(huì)覺得它很可靠，肯定就是真的新聞。包括用名人的聲音去做科普，大家會(huì)誤以為這個(gè)科普的權(quán)威性比它應(yīng)該有的更高。所以整體上對(duì)用戶、公眾有一個(gè)誤導(dǎo)，對(duì)他們的認(rèn)知會(huì)產(chǎn)生一個(gè)不同方向的引導(dǎo)，還是有危害性的。

　　03

　　9月要施行的辦法

　　能解決什么問題？

　　《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》將于今年9月1日起施行，這個(gè)辦法能夠解決什么樣的問題？

　　劉曉春：這個(gè)辦法有一個(gè)非常明顯的特點(diǎn)，把治理的方式往前端移了?？紤]到大家事后再去起訴的成本太高，這個(gè)辦法是說(shuō)，AI軟件在生成內(nèi)容的時(shí)候，要強(qiáng)制給這個(gè)文件打上標(biāo)。打上以文字、聲音、圖形等方式呈現(xiàn)的顯式標(biāo)識(shí)，提示它是AI生成的；或者采取技術(shù)措施在數(shù)據(jù)中添加隱式標(biāo)識(shí)，大家可能看不見，但是平臺(tái)包括公眾可以有比較方便的方式，識(shí)別出它是AI生成的。

　　04

　　原創(chuàng)作品被判定為AI生成

　　法院判了

　　網(wǎng)友李先生發(fā)布的評(píng)論被平臺(tái)判定因“包含AI生成內(nèi)容但未標(biāo)識(shí)”而違規(guī)，李先生人工復(fù)核無(wú)果后將平臺(tái)告上了法庭。這也是全國(guó)首例平臺(tái)運(yùn)用算法工具進(jìn)行AI生成合成內(nèi)容檢測(cè)識(shí)別引發(fā)的案件。

　　最終北京互聯(lián)網(wǎng)法院判定原告李先生勝訴，但沒有認(rèn)定內(nèi)容是原創(chuàng)還是AI，而是認(rèn)定被告平臺(tái)沒有對(duì)算法決策依據(jù)和結(jié)果進(jìn)行適度的解釋和說(shuō)明，在沒有事實(shí)依據(jù)的情況下對(duì)用戶進(jìn)行了處理，應(yīng)承擔(dān)違約責(zé)任。

　　北京互聯(lián)網(wǎng)法院綜合審判一庭法官?gòu)堎唤榻B，這個(gè)案件法院首先肯定了平臺(tái)審核的正當(dāng)性。對(duì)AI生成合成內(nèi)容進(jìn)行標(biāo)記，既有利于公眾準(zhǔn)確區(qū)分AI生成合成內(nèi)容和人類創(chuàng)作內(nèi)容，滿足公眾的知情權(quán)，也便利平臺(tái)通過標(biāo)識(shí)追溯內(nèi)容來(lái)源，明確責(zé)任主體，降低侵權(quán)、違法犯罪等社會(huì)風(fēng)險(xiǎn)。

　　但本案也同時(shí)強(qiáng)調(diào)，平臺(tái)應(yīng)當(dāng)就其判定結(jié)果進(jìn)行充分的舉證和說(shuō)明，尤其是有義務(wù)對(duì)平臺(tái)算法決策的過程和結(jié)果進(jìn)行相應(yīng)的解釋。這涉及舉證責(zé)任分配的問題。對(duì)于像涉案這種簡(jiǎn)短的網(wǎng)絡(luò)即時(shí)創(chuàng)作內(nèi)容，創(chuàng)作主體基本上都是在線編輯之后立即發(fā)布，很少會(huì)保留創(chuàng)作底稿、原件這些證據(jù)。所以很難要求本案的原告舉證證明內(nèi)容是由人類創(chuàng)作的。

　　但是平臺(tái)是算法工具的掌控方，以及這個(gè)結(jié)果的判斷方，有能力也有義務(wù)對(duì)算法工具的運(yùn)算過程和審查結(jié)果進(jìn)行充分解釋說(shuō)明。當(dāng)然，這也并不是要求平臺(tái)把和算法相關(guān)的全部?jī)?nèi)容，甚至是技術(shù)秘密都披露出來(lái)。而是要求平臺(tái)就涉案內(nèi)容AI判定相關(guān)的算法運(yùn)行機(jī)制，進(jìn)行必要的、可以為一般公眾理解的解釋說(shuō)明。本案被告敗訴，就是因?yàn)榉ㄔ赫J(rèn)定被告沒有盡到這樣的解釋說(shuō)明義務(wù)。

　　05

　　涉AI糾紛有哪些特點(diǎn)？

　　近年來(lái)AI亂象導(dǎo)致的一些糾紛，有哪些趨勢(shì)或者特點(diǎn)？主要集中在什么方面？

　　張倩：近兩年北京互聯(lián)網(wǎng)法院受理的涉AI糾紛，絕對(duì)數(shù)量仍然不多，但是也確實(shí)呈現(xiàn)出明顯的增多趨勢(shì)，并且涉及各種各樣的案件類型。占比較大的幾類案件是：

　　涉AI的人格權(quán)糾紛，比如AI聲音權(quán)案、AI換臉案、AI陪伴案、AI惡搞案等，都涉及使用AI軟件侵害他人的肖像權(quán)、名譽(yù)權(quán)、聲音權(quán)、個(gè)人信息權(quán)益等人格權(quán)利或者權(quán)益的問題。

　　涉AI的著作權(quán)糾紛，涉及使用AI軟件生成的圖片視頻等是不是構(gòu)成作品，以及未經(jīng)許可使用他人利用AI軟件生成的前述內(nèi)容，是否侵害著作權(quán)的問題?；蛘呱婕癆I大模型使用他人作品進(jìn)行訓(xùn)練是否構(gòu)成侵權(quán)的問題。

　　像本案這類合同糾紛，存在合同關(guān)系的雙方之間，比如平臺(tái)和用戶，由于一方使用了AI技術(shù)所引發(fā)的糾紛。

　　北京互聯(lián)網(wǎng)法院受理案件的情況充分反映出來(lái)，近兩年我國(guó)AI技術(shù)確實(shí)處在一個(gè)高速發(fā)展，而且應(yīng)用場(chǎng)景不斷豐富的階段。對(duì)于法院來(lái)說(shuō)，樹立既有利于AI技術(shù)發(fā)展，又有助于當(dāng)事人權(quán)益保護(hù)的裁判規(guī)則，是一個(gè)非常大的挑戰(zhàn)。

　　來(lái)源：央視新聞客戶端