在網(wǎng)絡(luò)平臺(tái)上撰文發(fā)帖，卻被平臺(tái)檢測(cè)認(rèn)定為AI生成并隱藏起來，該怎么辦？9月10日，北京互聯(lián)網(wǎng)法院（下稱“北互法院”）召開涉人工智能案件審理情況新聞發(fā)布會(huì)，并發(fā)布八項(xiàng)典型案例。其中，一項(xiàng)有關(guān)網(wǎng)絡(luò)平臺(tái)利用算法工具檢測(cè)AI生成內(nèi)容但未盡到合理適度說明義務(wù)的網(wǎng)絡(luò)服務(wù)合同糾紛案，引發(fā)關(guān)注。
基本案情為，原告唐某某在被告某科技有限公司運(yùn)營(yíng)的網(wǎng)絡(luò)平臺(tái)上發(fā)布二百多字文字內(nèi)容“打工并不能讓你真的賺到多少錢，但可以開啟你的新視角……如果你對(duì)學(xué)車感興趣的話并且以后打算開車的話，可以在你最清閑的一個(gè)假期完成它……工作之后就沒有太多完整的時(shí)間學(xué)駕照了”。
其后，被告某科技有限公司運(yùn)營(yíng)的平臺(tái)將該內(nèi)容判定為“包含AI生成內(nèi)容但未標(biāo)識(shí)”的違規(guī)情況，并將該內(nèi)容隱藏并作出將用戶禁言一天的處理。后原告唐某某進(jìn)行申訴未成功。原告唐某某主張其并未使用AI創(chuàng)作，被告某科技有限公司的行為違約，請(qǐng)求法院判令被告撤銷隱藏涉案內(nèi)容和禁言賬號(hào)一天的違規(guī)處理，并在后臺(tái)系統(tǒng)中刪除違規(guī)處理記錄。
經(jīng)審理，北互法院認(rèn)為，網(wǎng)絡(luò)用戶在使用AI工具進(jìn)行創(chuàng)作并將相關(guān)內(nèi)容發(fā)布到網(wǎng)絡(luò)平臺(tái)時(shí)，應(yīng)依照誠(chéng)信原則如實(shí)標(biāo)記。被告發(fā)布社區(qū)公告要求創(chuàng)作者在發(fā)布包含AIGC生成的內(nèi)容時(shí)，應(yīng)主動(dòng)使用標(biāo)識(shí)，對(duì)發(fā)布時(shí)未主動(dòng)聲明的內(nèi)容，平臺(tái)將采取適當(dāng)措施進(jìn)行流通限制并添加相關(guān)標(biāo)識(shí)；未經(jīng)標(biāo)簽聲明，使用人工智能生成的內(nèi)容構(gòu)成違規(guī)。原告系平臺(tái)注冊(cè)用戶，上述公告屬于平臺(tái)服務(wù)協(xié)議的組成部分，被告有權(quán)根據(jù)協(xié)議對(duì)用戶發(fā)布內(nèi)容是否屬于AI生成合成內(nèi)容進(jìn)行審查和處理。
在一般情況下，原告應(yīng)該提供如創(chuàng)作底稿、原件、源文件、源數(shù)據(jù)等證明人類創(chuàng)作屬性的初步證據(jù)，但本案中原告回答內(nèi)容系即時(shí)性創(chuàng)作文本，客觀上無法提供上述證據(jù)，由其提供上述證據(jù)不存在合理性和現(xiàn)實(shí)可行性。被告基于算法工具的運(yùn)算結(jié)果得出涉案內(nèi)容為AI生成合成的審查結(jié)論，被告既是算法工具掌控方又是結(jié)果判斷方，算法工具運(yùn)算過程和審查結(jié)果由被告掌控，被告應(yīng)就該事實(shí)進(jìn)行合理舉證或解釋說明。雖然被告提供了算法的備案信息，但無法確認(rèn)備案信息與本案爭(zhēng)議的關(guān)聯(lián)性。
北互法院指出，被告未對(duì)算法決策依據(jù)和結(jié)果進(jìn)行適度的解釋和說明，未對(duì)涉案內(nèi)容屬于AI生成合成的判斷依據(jù)和結(jié)果作出合理解釋，應(yīng)對(duì)其沒有事實(shí)依據(jù)的情況下對(duì)涉案賬戶的處理行為承擔(dān)違約責(zé)任。被告進(jìn)行人工復(fù)核的標(biāo)準(zhǔn)要求具有非常明顯的人類情感特征，該判斷并不具有科學(xué)依據(jù)以及較強(qiáng)的說服力和可信度。
因此，北互法院判決被告展開折疊的回答并刪除相關(guān)后臺(tái)記錄。被告不服一審判決提起上訴，后撤回上訴，一審判決生效。
北互法院認(rèn)為該案具有典型意義，這是對(duì)AI生成合成內(nèi)容標(biāo)識(shí)的標(biāo)記、平臺(tái)識(shí)別和治理在司法審查規(guī)則方面的有益探索。一方面，肯定了網(wǎng)絡(luò)內(nèi)容服務(wù)平臺(tái)利用算法工具對(duì)AI生成合成內(nèi)容進(jìn)行審查和處理，履行信息內(nèi)容管理主體責(zé)任的積極作用；另一方面，認(rèn)定網(wǎng)絡(luò)內(nèi)容服務(wù)平臺(tái)在即時(shí)性創(chuàng)作文本場(chǎng)景下對(duì)使用算法自動(dòng)化決策結(jié)果承擔(dān)適度說明義務(wù)，并為司法審查階段的算法解釋說明程度確立了一定的標(biāo)準(zhǔn)。
采寫：南都N視頻記者 樊文揚(yáng)
