國家網信辦等七部門聯合公佈《生成式人工智能服務管理暫行辦法》,當中列明採取有效措施鼓勵生成式人工智能(AIGC)創新發展,對AIGC服務實行包容審慎和分類分級監管。新規將於8月15日起生施行。

鼓勵積極健康、向上向善內容

條文指出,鼓勵AIGC技術在各行業、各領域的創新應用,生成積極健康、向上向善的優質內容,而國家堅持發展和安全並重、促進創新和依法治理相結合的原則,採取有效措施鼓勵AIGC創新發展,對AIGC服務實行包容審慎和分類分級監管。

模型訓練數據來源須合法

對於AIGC服務提供者,應當依法開展預訓練、優化訓練等訓練數據處理活動,包括要使用具有合法來源的數據和基礎模型;涉及知識產權的,不得侵害他人依法享有的知識產權;涉及個人信息的,應當取得個人同意或者符合法律、行政法規規定的其他情形;以及採取有效措施提高訓練數據質量,增強訓練數據的真實性、準確性、客觀性、多樣性。

違法內容應停止生成並整改

在服務規範上,條文指出,AIGC服務提供者應採取有效措施,防範未成年人用戶過度依賴或者沉迷AIGC服務。而若果發現違法內容,應當及時採取停止生成、停止傳輸、消除等處置措施,並採取模型優化訓練等措施進行整改,以及向有關主管部門報告。

條文指,對於境外向境內提供AIGC服務不符合法律、行政法規和該辦法規定的,國家網信部門應當通知有關機構,採取技術措施和其他必要措施予以處置。

網信辦:鼓勵AIGC框架參與國際規則制定

網信辦同時解釋,新規明確鼓勵AIGC技術在各行業、各領域構建應用生態體系,支持行業組織、企業、教育和科研機構、公共文化機構、有關專業機構等,在AIGC技術創新、數據資源建設、轉化應用、風險防範等方面開展協作。當局指,亦可鼓勵AIGC算法、框架、芯片及配套軟件平台等基礎技術的自主創新,參與相關國際規則制定,同時推動AIGC基礎設施和公共訓練數據資源平台建設。