人民網訊：今年以來，國內人工智能領域爆發“群模大戰”，業界三句話不離“大模型”；截至今年5月底，國內10億參數規模以上的大模型已發布79個；與人“對話”、翻唱歌曲、編寫劇本、撰寫合同，生成式人工智能（AIGC）不斷刷新人類認知，照進現實生活……

生成式人工智能技術，是指具有文本、圖片、音頻、視頻等內容生成能力的模型及相關技術。發展一路“狂飆”的同時，生成式人工智能應用也伴生了真假難辨、換臉詐騙等諸多亂象。

近日，為促進生成式人工智能健康發展和規范應用，維護國家安全和社會公共利益，保護公民、法人和其他組織的合法權益，國家網信辦等七部門聯合公布《生成式人工智能服務管理暫行辦法》（以下簡稱《辦法》），自2023年8月15日起施行。

如何用好法治之“舵”、創新之“槳”，更好地釋放生成式人工智能創新活力，指引人工智能產業發展行穩致遠？對此，人民網記者采訪了相關行業專家。

提出“不適用”場景 為創新發展留足空間

與今年4月發布的《生成式人工智能服務管理辦法（征求意見稿）》（以下簡稱《征求意見稿》）相比，《辦法》在規制對象上作出了調整。

《辦法》第二條明確提出了“不適用”場景，即“行業組織、企業、教育和科研機構、公共文化機構、有關專業機構等研發、應用生成式人工智能技術，未向境內公眾提供生成式人工智能服務的，不適用本辦法的規定。”

“此提法可以講是一個重大突破。”傳播內容認知全國重點實驗室研究員郭俊波指出，這說明《辦法》的目的是兼顧生成式人工智能的發展與安全，為生成式人工智能的研究與發展留足空間。

他同時指出，與《征求意見稿》相比，《辦法》依據的法律還增加了《中華人民共和國科學技術進步法》，更加突出了其目的是促進生成式人工智能健康發展和規范應用。

北京大成律師事務所高級合伙人肖颯也坦言，《辦法》提出“不適用”場景 ，讓規制對象目標更明確、針對性更強，體現出我國對生成式人工智能在研究與應用方面的支持和鼓勵。

此外，《辦法》在處罰措施方面也較為“柔和”。《辦法》第二十一條提出，提供者違反本辦法規定的，由有關主管部門依照《中華人民共和國網絡安全法》等法律、行政法規的規定予以處罰；法律、行政法規沒有規定的，由有關主管部門依據職責予以警告、通報批評，責令限期改正；拒不改正或者情節嚴重的，責令暫停提供相關服務。

“第二十一條采用的是逐漸加重的處罰措施，允許服務提供者不斷完善修正，而不是簡單的‘一棍子打死’。”郭俊波認為，生成式人工智能的應用范圍極廣，充分“松綁”將有助于推動人工智能領域各組織機構快速進行技術革新，并探索技術在各應用場景下的磨合與演進，進而促進生成式人工智能產業繁榮發展。

劃出“紅線”、明確“標識” 力保個人信息安全

前段時間，我國某地警方公布，有詐騙分子運用人工智能技術，通過換臉視頻與受害者進行視頻通話，十多分鐘內詐騙受害者數百萬元。隨著人工智能與日常生活場景結合越來越密切，在此基礎上產生的隱私泄露、造謠詐騙等問題也不斷凸顯。對此，《辦法》將保護使用者的個人信息安全擺在了重要位置。

《辦法》第九條提出，生成式人工智能服務提供者應當依法承擔網絡信息內容生產者責任，履行網絡信息安全義務。“這就將生成式人工智能服務提供者明確納入了網絡平臺責任的規制范圍內，讓違規違法者無灰色地帶可躲。”肖颯說。

同時，《辦法》第十一條要求服務提供者不得收集非必要個人信息，不得非法留存能夠識別使用者身份的輸入信息和使用記錄，不得非法向他人提供使用者的輸入信息和使用記錄。《辦法》第十四條提出，提供者發現違法內容的，應當及時采取停止生成、停止傳輸、消除等處置措施并采取模型優化訓練等措施進行整改。

而針對目前生成式人工智能內容難以被分辨，甚至出現技術被濫用、誤用等問題，《辦法》明確服務提供者應當按照《互聯網信息服務深度合成管理規定》對相關生成內容進行標識。

郭俊波提醒，“標識的作用在于警示和提醒用戶，該內容是由AI生成的，但不能保證內容的真實性。”肖颯則表示，“目前來看，標識人工生成、深度合成的內容，是成本最低且有望從根本杜絕上述相關問題的方法。”

擴展公共訓練數據 指引行業發展行穩致遠

伴隨全球生成式人工智能技術迭代，更“聰明”的大模型必將滲透進更多的產業領域和生活場景。當前，如何進一步抓住產業變革機遇，推動行業發展行穩致遠，備受各界關注。

國家網信辦有關負責人表示，《辦法》明確鼓勵生成式人工智能技術在各行業、各領域的創新應用，生成積極健康、向上向善的優質內容，探索優化應用場景，構建應用生態體系。

“當前我國生成式人工智能技術處于追趕階段，不發展是最大的不安全。”郭俊波指出，《辦法》提出“對生成式人工智能服務實行包容審慎和分類分級監管”，將加速國內生成式人工智能技術落地。以國內龐大的用戶數量為依托，國內生成式人工智能有望迅速積累真實數據，帶動對技術的迭代與優化，促進人工智能的創新和發展。

值得注意的是，在促進產業發展方面，《辦法》具體提出，“鼓勵生成式人工智能算法、框架、芯片及配套軟件平臺等基礎技術的自主創新，平等互利開展國際交流與合作，參與生成式人工智能相關國際規則制定。”同時，《辦法》還提出“推動公共數據分類分級有序開放，擴展高質量的公共訓練數據資源。”

“這體現出國家對生成式人工智能發展持看好的態度。”在肖颯看來，數據壁壘以及龐大的公共數據閑置，是妨礙生成式人工智能發展的兩個關鍵性問題。《辦法》實施后，將有望大幅擴充人工智能訓練數據庫，極大促進我國人工智能應用的深度與廣度。

郭俊波坦言，大模型時代，訓練一個動輒上千億參數的模型需要海量算力資源，加之長期以來中文領域開放的高質量數據集在數量上落后于英文，限制了以中文為語料的人工智能技術水平的進一步提升。《辦法》的出臺，有助于推動算力、數據等人工智能底層基礎資源的開放共享、提量增質。

“預計下一步，監管部門還將會針對某些特定領域，如醫療、金融等，根據行業法規，對其領域的生成式人工智能做出相應規范。”郭俊波說。