近日，國(guó)家互聯(lián)網(wǎng)信息辦公室就《生成式人工智能服務(wù)管理辦法（征求意見(jiàn)稿）》（以下簡(jiǎn)稱“辦法”）公開(kāi)征求意見(jiàn)，引發(fā)廣泛關(guān)注?！兑?guī)定》通過(guò)系統(tǒng)性、創(chuàng)新性制度設(shè)計(jì)，首次回應(yīng)了對(duì)深度合成服務(wù)的管理要求，為互聯(lián)網(wǎng)信息服務(wù)深度合成的規(guī)范發(fā)展提供了基本遵循和合法依據(jù)。

國(guó)內(nèi)首個(gè)AIGC監(jiān)管辦法將至

辦法提到，國(guó)家支持人工智能算法、框架等基礎(chǔ)技術(shù)的自主創(chuàng)新、推廣應(yīng)用、國(guó)際合作，鼓勵(lì)優(yōu)先采用安全可信的軟件、工具、計(jì)算和數(shù)據(jù)資源。其中辦法涉及的生成式人工智能包括基于算法、模型、規(guī)則生成文本、圖片、聲音、視頻、代碼等內(nèi)容的技術(shù)。

辦法對(duì)利用生成式人工智能產(chǎn)品提供聊天和文本、圖像、聲音生成等服務(wù)的組織和個(gè)人（簡(jiǎn)稱“提供者”）的責(zé)任進(jìn)行了規(guī)定。提供者應(yīng)當(dāng)承擔(dān)該產(chǎn)品生成內(nèi)容生產(chǎn)者的責(zé)任、個(gè)人信息保護(hù)義務(wù)。利用生成式人工智能產(chǎn)品向公眾提供服務(wù)前，需按規(guī)定向國(guó)家網(wǎng)信部門(mén)申報(bào)安全評(píng)估。

此外，提供者需對(duì)預(yù)訓(xùn)練數(shù)據(jù)、優(yōu)化訓(xùn)練數(shù)據(jù)來(lái)源的合法性負(fù)責(zé)，對(duì)標(biāo)注人員進(jìn)行必要培訓(xùn)，明確并公開(kāi)其服務(wù)的適用人群、場(chǎng)合、用途，對(duì)用戶的輸入信息和使用記錄承擔(dān)保護(hù)義務(wù)。

對(duì)于生成式人工智能產(chǎn)品，提供者需要按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》對(duì)生成的圖片、視頻等內(nèi)容進(jìn)行標(biāo)識(shí)等。

《辦法》關(guān)鍵要點(diǎn)

治理原則——AI技術(shù)研發(fā)者應(yīng)遵循《辦法》草案中的治理原則。該原則部分沿襲了《數(shù)據(jù)安全法》相關(guān)內(nèi)容，即提供生成式AI產(chǎn)品或服務(wù)應(yīng)當(dāng)尊重社會(huì)公德、公序良俗、他人合法利益以及法律法規(guī)?！掇k法》草案還強(qiáng)調(diào)，利用生成式AI生成的內(nèi)容應(yīng)當(dāng)避免歧視、尊重知識(shí)產(chǎn)權(quán)并真實(shí)準(zhǔn)確。此外，如防止算法訓(xùn)練中的歧視、避免不公平競(jìng)爭(zhēng)等算法治理原則8也在《辦法》草案中得到了呼應(yīng)，體現(xiàn)了我國(guó)為實(shí)現(xiàn)數(shù)據(jù)安全和個(gè)人信息保護(hù)社會(huì)責(zé)任9承諾的不懈努力。這些原則顯然值得提倡，然而，對(duì)剛剛問(wèn)世的新興技術(shù)直接施加上述責(zé)任是否操之過(guò)急，依然是值得討論的命題。

價(jià)值觀——除了要求生成內(nèi)容應(yīng)當(dāng)“體現(xiàn)社會(huì)主義核心價(jià)值觀”以外，《辦法》草案還沿用了《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》10中的要求，禁止生成其規(guī)定的違法內(nèi)容。與《辦法》草案相似，其他國(guó)家亦有將國(guó)家安全、政治立場(chǎng)與商業(yè)聯(lián)系在一起的作法?！掇k法》草案一經(jīng)實(shí)施，可能為跨國(guó)公司在應(yīng)對(duì)各國(guó)差異化營(yíng)商環(huán)境時(shí)增加挑戰(zhàn)。

守門(mén)人責(zé)任——生成式AI企業(yè)應(yīng)當(dāng)承擔(dān)使用其產(chǎn)品和服務(wù)生成內(nèi)容的內(nèi)容生產(chǎn)者責(zé)任。此外，《辦法》草案進(jìn)一步規(guī)定這些企業(yè)有義務(wù)指導(dǎo)用戶進(jìn)行良性的內(nèi)容生產(chǎn)。生成式AI企業(yè)是否應(yīng)承擔(dān)內(nèi)容生產(chǎn)者責(zé)任這一問(wèn)題實(shí)質(zhì)上延續(xù)了美國(guó)和歐盟對(duì)社交媒體平臺(tái)是否需承擔(dān)用戶內(nèi)容責(zé)任的漫長(zhǎng)討論，而反對(duì)方的主要論點(diǎn)是過(guò)于嚴(yán)格的監(jiān)管可能會(huì)遏制技術(shù)發(fā)展。

安全評(píng)估——與網(wǎng)絡(luò)社交平臺(tái)相似，生成式AI產(chǎn)品和服務(wù)應(yīng)當(dāng)接受網(wǎng)信辦的安全評(píng)估11。由于安全評(píng)估的范圍可能隨著產(chǎn)品和服務(wù)的技術(shù)細(xì)節(jié)而變化，人工智能企業(yè)在進(jìn)行研發(fā)時(shí)需要格外注意安全評(píng)估的時(shí)間和金錢(qián)成本。

透明度要求——《辦法》草案規(guī)定，在產(chǎn)品研制中采用人工標(biāo)注時(shí)，生成式AI的提供者必須制定清晰、具體、可操作的標(biāo)注規(guī)則，對(duì)標(biāo)注人員進(jìn)行必要培訓(xùn)，抽樣核驗(yàn)標(biāo)注內(nèi)容的正確性。此外，提供者還應(yīng)當(dāng)提供預(yù)訓(xùn)練和優(yōu)化訓(xùn)練數(shù)據(jù)的來(lái)源、規(guī)模、類型、質(zhì)量等描述，以及基礎(chǔ)算法和技術(shù)體系等。生成的圖片、視頻等內(nèi)容還應(yīng)當(dāng)按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》12進(jìn)行標(biāo)識(shí)，以避免公眾的混淆和誤認(rèn)。透明度的要求在受到用戶的歡迎的同時(shí)，也將給研發(fā)者帶來(lái)沉重的合規(guī)負(fù)擔(dān)和披露要求，可能會(huì)增加研發(fā)者潛在的商業(yè)秘密泄露風(fēng)險(xiǎn)。

實(shí)名制——與互聯(lián)網(wǎng)領(lǐng)域的其他規(guī)則13相一致，生成式AI用戶必須實(shí)名注冊(cè)。關(guān)于實(shí)名制，國(guó)家在平衡互聯(lián)網(wǎng)監(jiān)管與個(gè)人隱私保護(hù)的長(zhǎng)期實(shí)踐中形成的做法是將用戶的真實(shí)身份信息與手機(jī)號(hào)碼綁定，而互聯(lián)網(wǎng)服務(wù)提供者通過(guò)手機(jī)號(hào)碼核實(shí)用戶的真實(shí)身份。

社會(huì)責(zé)任——提供者應(yīng)當(dāng)采取適當(dāng)措施以防范用戶過(guò)分依賴或沉迷生成內(nèi)容。目前互聯(lián)網(wǎng)實(shí)行的防沉迷機(jī)制于2021年引入，一經(jīng)生效便對(duì)網(wǎng)絡(luò)游戲行業(yè)14產(chǎn)生了極大的沖擊。但目前尚不清楚生成式AI提供者是否同樣需要在其產(chǎn)品中嵌入類似的防沉迷機(jī)制以限制易受影響群體的使用。

用戶畫(huà)像和數(shù)據(jù)共享——用戶畫(huà)像和人工智能平臺(tái)與其關(guān)聯(lián)實(shí)體之間的數(shù)據(jù)共享被明確禁止。雖然這一禁止有利于隱私保護(hù)，但該做法可能會(huì)增加生成式AI企業(yè)的研發(fā)成本，并減少企業(yè)利用用戶行為數(shù)據(jù)集獲利的機(jī)會(huì)。

投訴渠道——與《個(gè)人信息保護(hù)法》和中國(guó)《民法典》的要求相似，《辦法》草案規(guī)定生成式AI的提供者應(yīng)當(dāng)建立用戶投訴接收處理機(jī)制。完備的人工智能平臺(tái)一般已經(jīng)設(shè)置了熱線電話和客服政策，但初創(chuàng)企業(yè)則相應(yīng)背上了較重的合規(guī)負(fù)擔(dān)。

持續(xù)性要求——《辦法》草案要求提供者提供“持續(xù)”的服務(wù)。這一要求與傳統(tǒng)電信行業(yè)的要求相似，即要求服務(wù)始終能夠正常使用。對(duì)此的一種解釋是，網(wǎng)信辦希望將生成式AI服務(wù)建設(shè)為一項(xiàng)公共基礎(chǔ)設(shè)施，以此推動(dòng)中國(guó)數(shù)字化進(jìn)程，并希望能夠取得突破性進(jìn)展。這一要求雖然對(duì)用戶有利，但對(duì)初創(chuàng)企業(yè)來(lái)說(shuō)則非常困難。

模型優(yōu)化——如果發(fā)現(xiàn)生成內(nèi)容違反了《辦法》草案，提供者必須在三個(gè)月內(nèi)找到解決方案，防止該內(nèi)容再次生成。這一規(guī)定對(duì)于人工智能產(chǎn)業(yè)的發(fā)展具有積極意義。該寬限期可以解讀為，網(wǎng)信辦在違規(guī)企業(yè)采取內(nèi)容過(guò)濾措施和其他補(bǔ)救行動(dòng)的前提下，有意愿允許企業(yè)繼續(xù)進(jìn)行生成式AI的研發(fā)。

處罰——提供者違反《辦法》草案規(guī)定的，按照《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》《個(gè)人信息保護(hù)法》《刑法》等法律、行政法規(guī)予以處罰。法律、行政法規(guī)沒(méi)有規(guī)定的，由網(wǎng)信部門(mén)和有關(guān)主管部門(mén)依據(jù)職責(zé)予以處罰，罰款范圍在人民幣一萬(wàn)元以上十萬(wàn)元以下。

巨龍智立方數(shù)據(jù)建模平臺(tái)

智立方，是一款適應(yīng)各類主流大數(shù)據(jù)技術(shù)的一站式可視化建模服務(wù)平臺(tái)?；诤诵拇髷?shù)據(jù)建模技術(shù)的積累，采用知識(shí)圖譜建模、特征工程、機(jī)器學(xué)習(xí)、深度學(xué)習(xí)等技術(shù)，對(duì)數(shù)據(jù)進(jìn)行分析與挖掘，提煉業(yè)務(wù)信息和業(yè)務(wù)知識(shí)，構(gòu)建行業(yè)專業(yè)知識(shí)圖譜，實(shí)現(xiàn)業(yè)務(wù)智能化場(chǎng)景的賦能和業(yè)務(wù)價(jià)值輸出。