Previous Next

官媒日前批評ChatGPT概念股有估值泡沫化跡象後,國家網信辦周二發布《生成式人工智能服務管理辦法(徵求意見稿)》,要求該類產品應體現社會主義核心價值觀,不得含有顛覆國家政權等內容;產品向公眾提供服務前,需向國家網信部門申報安全評估;而用戶使用亦需要「實名制」。違反規定者最高判處10萬元(人民幣,下同)罰款,嚴重者或被追究刑事責任。

目前已推出生成式AI模型的國內科技企業,包括阿里巴巴(9988)「通義千問」、商湯(020)「日日新」及百度(9888)「文心一言」。消息令科技股及ChatGPT概念股倒跌,其中昨日宣佈推出大模型人工智能(AI )產品「日日新」的商湯,股價大坐過山車,由意見稿公布前急升逾一成,高見3.7元,倒跌低見3.13元,跌6%,收報3.3元,跌0.9%。騰訊(700)跌2.3%,收報376.6元;美圖(1357)挫5.6%,報2.2元;百度跌5.4%,報135.2元。阿里巴巴升1.6%,收報99.3元。

相關新聞:官媒批ChatGPT概念股有估值泡沫化跡象 板塊市盈率達136倍

不得含有顛覆國家政權內容

意見稿建議,利用生成式人工智能生成的內容應當體現社會主義核心價值觀,及應當真實準確,不得含有顛覆國家政權、推翻社會主義制度,煽動分裂國家,及可能擾亂經濟秩序和社會秩序的內容。服務提供者應採取措施防止生成虛假信息;防止出現種族、年齡等歧視;不得利用算法、數據、平台等優勢實施不公平競爭;需採取適當措施防範用戶過分依賴或沉迷生成內容。

內地科企爭相推生成式AI:

商湯近日公布,推出自家的類ChatGPT應用——「商量 (SenseChat)」,其為基於商湯大模型體系「日日新(SenseNova)」的中文語言大模型應用平台。
商湯近日公布,推出自家的類ChatGPT應用——「商量 (SenseChat)」,其為基於商湯大模型體系「日日新(SenseNova)」的中文語言大模型應用平台。
阿里巴巴的大模型「通義千問」已開始邀請企業用戶測試體驗。阿里所有產品未來將接入「通義千問」,進行全面改造。
阿里巴巴的大模型「通義千問」已開始邀請企業用戶測試體驗。阿里所有產品未來將接入「通義千問」,進行全面改造。
百度最早推出類似ChatGPT的「文心一言」,並支援文字生成圖片功能。
百度最早推出類似ChatGPT的「文心一言」,並支援文字生成圖片功能。
在文心一言輸入「初中生,女孩,黑頭髮,校園,二次元」,其生成圖片中的女孩,面部扭曲、比例失調。
在文心一言輸入「初中生,女孩,黑頭髮,校園,二次元」,其生成圖片中的女孩,面部扭曲、比例失調。
文心一言文生圖功能所製作的女孩圖片比例失調,被指畫工欠佳
文心一言文生圖功能所製作的女孩圖片比例失調,被指畫工欠佳
文心一言的「文生圖」能力,經實測部分結果引起網民質疑
文心一言的「文生圖」能力,經實測部分結果引起網民質疑
文心一言文生圖功能所製作的女孩圖片比例失調,被指畫工欠佳
文心一言文生圖功能所製作的女孩圖片比例失調,被指畫工欠佳
文心一言繪圖「炒車」,主要是因為它完全根據字面上的意思來繪畫。
文心一言繪圖「炒車」,主要是因為它完全根據字面上的意思來繪畫。
網民指示文心一言畫中國名菜「夫妻肺片」,結果出現恐怖圖片。
網民指示文心一言畫中國名菜「夫妻肺片」,結果出現恐怖圖片。
文心一言亦被質疑聽不懂指令,網民揭其反饋邏輯是先將中文指令翻譯成英文再作圖
文心一言亦被質疑聽不懂指令,網民揭其反饋邏輯是先將中文指令翻譯成英文再作圖
文心一言最驚嚇畫仍之一,一道「魚香肉絲」由於過於寫實,網友直喊「看完都不敢吃魚了」。
文心一言最驚嚇畫仍之一,一道「魚香肉絲」由於過於寫實,網友直喊「看完都不敢吃魚了」。
文心一言另一「傑作」。
文心一言另一「傑作」。
文心一言另一「傑作」。
文心一言另一「傑作」。
文心一言另一「傑作」。
文心一言另一「傑作」。
百度首席執行官李彥宏反駁,稱ChatGPT本身沒有文生圖能力,「在另一個角度比較的話,ChatGPT落後百度,文心一言早就有這個能力」
百度首席執行官李彥宏反駁,稱ChatGPT本身沒有文生圖能力,「在另一個角度比較的話,ChatGPT落後百度,文心一言早就有這個能力」

 

服務商須申報安全評估

此外,利用生成式人工智能產品向公眾提供服務前,應當按照《具有輿論屬性或社會動員能力的互聯網信息服務安全評估規定》向國家網信部門申報安全評估,並按照《互聯網信息服務算法推薦管理規定》履行算法備案和變更、注銷備案手續。

用戶需實名制

意見稿亦建議,提供生成式人工智能服務應當按照《網絡安全法》規定,要求用戶提供真實身份信息,另對生成的圖片、視頻等內容進行標識。

3個月內修正不當內容

若於運行中發現、用戶舉報的不符合監管要求的生成內容,除採取內容過濾等措施外,意見稿要求應在3個月內通過模型優化訓練等方式防止再次生成。此外,提供者發現用戶利用生成式人工智能產品過程中違反法律法規,違背商業道德、社會公德行為時,包括從事網絡炒作、惡意發帖跟評、製造垃圾郵件、編寫惡意軟件,實施不正當的商業營銷等,應當暫停或者終止服務。

若提供者違反該辦法規定的,由網信部門和有關主管部門按照《網絡安全法》、《數據安全法》及《個人信息保護法》等法律、行政法規的規定予以處罰。法律、行政法規沒有規定的,由網信部門和有關主管部門依據職責給予警告、通報批評,責令限期改正;拒不改正或者情節嚴重的,責令暫停或者終止其利用生成式人工智能提供服務,並處1萬元以上、10萬元以下罰款。構成違反治安管理行為,依法給予治安管理處罰;構成犯罪的,依法追究刑事責任。

相關新聞:美國政府研究監管ChatGPT等AI工具

老虎國際推AI投資助手TigerGPT 將支援粵語

ChatGPT禁止在中國使用 

事實上,內地嚴控生成式AI早有先兆。早於今年2月,號稱首個國產ChatGPT、由初創公司元語智能研發的對話式AI「ChatYuan」運作僅數日,疑回覆不「符合國情」而被消失。

美國科技公司OpenAI今年初推出聊天機器人「ChatGPT」,在全球掀起AI熱潮,但禁止內地用戶使用,未有解釋原因,有傳內地監管機構要求內地大型科企禁止向公眾提供ChatGPT服務,並引述國內科技巨頭之一的高管指,中國需要有自己版本的ChatGPT,因受審查問題所限,ChatGPT永遠無法入華。

儘管無法在內地使用,ChatGPT概念在內地仍相當熱門,許多中國用戶會利用VPN等方式使用境外的ChatGPT,中國也出現過許多仿製ChatGPT的微信公眾號、小程序等,不過自從公安部官方提醒該類產品為釣魚郵件,「具有欺騙性和迷惑性」之後,多個電商平台封禁此類產品,相關關鍵字也被遮蔽。現如今,百度、阿里巴巴、商湯等科技公司均陸續推出自己的「ChatGPT」產品。