近日，國家網信辦聯合發(fā)改委、教育部、科技部、工信部、公安部、廣電總局公布《生成式人工智能服務管理暫行辦法》（以下稱《辦法》），自2023年8月15日起施行。

　　國家互聯網信息辦公室有關負責人表示，出臺《辦法》，旨在促進生成式人工智能健康發(fā)展和規(guī)范應用，維護國家安全和社會公共利益，保護公民、法人和其他組織的合法權益。

　　近年來，生成式人工智能技術快速發(fā)展，為經濟社會發(fā)展帶來新機遇的同時，也產生了傳播虛假信息、侵害個人信息權益、數據安全和偏見歧視等問題，如何統(tǒng)籌生成式人工智能發(fā)展和安全引起各方關注。出臺《辦法》，既是促進生成式人工智能健康發(fā)展的重要要求，也是防范生成式人工智能服務風險的現實需要。

　　《辦法》提出國家堅持發(fā)展和安全并重、促進創(chuàng)新和依法治理相結合的原則，采取有效措施鼓勵生成式人工智能創(chuàng)新發(fā)展，對生成式人工智能服務實行包容審慎和分類分級監(jiān)管，明確了提供和使用生成式人工智能服務總體要求。提出了促進生成式人工智能技術發(fā)展的具體措施，明確了訓練數據處理活動和數據標注等要求。規(guī)定了生成式人工智能服務規(guī)范，明確生成式人工智能服務提供者應當采取有效措施防范未成年人用戶過度依賴或者沉迷生成式人工智能服務，按照《互聯網信息服務深度合成管理規(guī)定》對圖片、視頻等生成內容進行標識，發(fā)現違法內容應當及時采取處置措施等。此外，還規(guī)定了安全評估、算法備案、投訴舉報等制度，明確了法律責任。

　　國家互聯網信息辦公室有關負責人指出，生成式人工智能服務的發(fā)展與治理需要政府、企業(yè)、社會、網民等多方參與，共同促進生成式人工智能健康發(fā)展，讓生成式人工智能技術更好地造福人民。

　　一起來看《辦法》全文——

　　生成式人工智能服務管理

　　暫行辦法

　　第一章  總　則

　　第一條為了促進生成式人工智能健康發(fā)展和規(guī)范應用，維護國家安全和社會公共利益，保護公民、法人和其他組織的合法權益，根據《中華人民共和國網絡安全法》、《中華人民共和國數據安全法》、《中華人民共和國個人信息保護法》、《中華人民共和國科學技術進步法》等法律、行政法規(guī)，制定本辦法。

　　第二條利用生成式人工智能技術向中華人民共和國境內公眾提供生成文本、圖片、音頻、視頻等內容的服務（以下稱生成式人工智能服務），適用本辦法。

　　國家對利用生成式人工智能服務從事新聞出版、影視制作、文藝創(chuàng)作等活動另有規(guī)定的，從其規(guī)定。

　　行業(yè)組織、企業(yè)、教育和科研機構、公共文化機構、有關專業(yè)機構等研發(fā)、應用生成式人工智能技術，未向境內公眾提供生成式人工智能服務的，不適用本辦法的規(guī)定。

　　第三條國家堅持發(fā)展和安全并重、促進創(chuàng)新和依法治理相結合的原則，采取有效措施鼓勵生成式人工智能創(chuàng)新發(fā)展，對生成式人工智能服務實行包容審慎和分類分級監(jiān)管。

　　第四條提供和使用生成式人工智能服務，應當遵守法律、行政法規(guī)，尊重社會公德和倫理道德，遵守以下規(guī)定：

　?。ㄒ唬﹫猿稚鐣髁x核心價值觀，不得生成煽動顛覆國家政權、推翻社會主義制度，危害國家安全和利益、損害國家形象，煽動分裂國家、破壞國家統(tǒng)一和社會穩(wěn)定，宣揚恐怖主義、極端主義，宣揚民族仇恨、民族歧視，暴力、淫穢色情，以及虛假有害信息等法律、行政法規(guī)禁止的內容；　

　?。ǘ┰谒惴ㄔO計、訓練數據選擇、模型生成和優(yōu)化、提供服務等過程中，采取有效措施防止產生民族、信仰、國別、地域、性別、年齡、職業(yè)、健康等歧視；

　?。ㄈ┳鹬刂R產權、商業(yè)道德，保守商業(yè)秘密，不得利用算法、數據、平臺等優(yōu)勢，實施壟斷和不正當競爭行為；

　?。ㄋ模┳鹬厮撕戏嘁?，不得危害他人身心健康，不得侵害他人肖像權、名譽權、榮譽權、隱私權和個人信息權益；

　?。ㄎ澹┗诜疹愋吞攸c，采取有效措施，提升生成式人工智能服務的透明度，提高生成內容的準確性和可靠性。

第二章  技術發(fā)展與治理

　　第五條鼓勵生成式人工智能技術在各行業(yè)、各領域的創(chuàng)新應用，生成積極健康、向上向善的優(yōu)質內容，探索優(yōu)化應用場景，構建應用生態(tài)體系。

　　支持行業(yè)組織、企業(yè)、教育和科研機構、公共文化機構、有關專業(yè)機構等在生成式人工智能技術創(chuàng)新、數據資源建設、轉化應用、風險防范等方面開展協(xié)作。

　　第六條鼓勵生成式人工智能算法、框架、芯片及配套軟件平臺等基礎技術的自主創(chuàng)新，平等互利開展國際交流與合作，參與生成式人工智能相關國際規(guī)則制定。

　　推動生成式人工智能基礎設施和公共訓練數據資源平臺建設。促進算力資源協(xié)同共享，提升算力資源利用效能。推動公共數據分類分級有序開放，擴展高質量的公共訓練數據資源。鼓勵采用安全可信的芯片、軟件、工具、算力和數據資源。

　　第七條生成式人工智能服務提供者（以下稱提供者）應當依法開展預訓練、優(yōu)化訓練等訓練數據處理活動，遵守以下規(guī)定：

　　（一）使用具有合法來源的數據和基礎模型；

　?。ǘ┥婕爸R產權的，不得侵害他人依法享有的知識產權；

　　（三）涉及個人信息的，應當取得個人同意或者符合法律、行政法規(guī)規(guī)定的其他情形；

　?。ㄋ模┎扇∮行Т胧┨岣哂柧殧祿|量，增強訓練數據的真實性、準確性、客觀性、多樣性；

　?。ㄎ澹吨腥A人民共和國網絡安全法》、《中華人民共和國數據安全法》、《中華人民共和國個人信息保護法》等法律、行政法規(guī)的其他有關規(guī)定和有關主管部門的相關監(jiān)管要求。

　　第八條 在生成式人工智能技術研發(fā)過程中進行數據標注的，提供者應當制定符合本辦法要求的清晰、具體、可操作的標注規(guī)則；開展數據標注質量評估，抽樣核驗標注內容的準確性；對標注人員進行必要培訓，提升尊法守法意識，監(jiān)督指導標注人員規(guī)范開展標注工作。

　　第三章  服務規(guī)范

　　第九條提供者應當依法承擔網絡信息內容生產者責任，履行網絡信息安全義務。涉及個人信息的，依法承擔個人信息處理者責任，履行個人信息保護義務。

　　提供者應當與注冊其服務的生成式人工智能服務使用者（以下稱使用者）簽訂服務協(xié)議，明確雙方權利義務。

　　第十條提供者應當明確并公開其服務的適用人群、場合、用途，指導使用者科學理性認識和依法使用生成式人工智能技術，采取有效措施防范未成年人用戶過度依賴或者沉迷生成式人工智能服務。

　　第十一條提供者對使用者的輸入信息和使用記錄應當依法履行保護義務，不得收集非必要個人信息，不得非法留存能夠識別使用者身份的輸入信息和使用記錄，不得非法向他人提供使用者的輸入信息和使用記錄。

　　提供者應當依法及時受理和處理個人關于查閱、復制、更正、補充、刪除其個人信息等的請求。

　　第十二條提供者應當按照《互聯網信息服務深度合成管理規(guī)定》對圖片、視頻等生成內容進行標識。

　　第十三條 提供者應當在其服務過程中，提供安全、穩(wěn)定、持續(xù)的服務，保障用戶正常使用。

　　第十四條提供者發(fā)現違法內容的，應當及時采取停止生成、停止傳輸、消除等處置措施，采取模型優(yōu)化訓練等措施進行整改，并向有關主管部門報告。

　　提供者發(fā)現使用者利用生成式人工智能服務從事違法活動的，應當依法依約采取警示、限制功能、暫?；蛘呓K止向其提供服務等處置措施，保存有關記錄，并向有關主管部門報告。

　　第十五條提供者應當建立健全投訴、舉報機制，設置便捷的投訴、舉報入口，公布處理流程和反饋時限，及時受理、處理公眾投訴舉報并反饋處理結果。

　　第四章  監(jiān)督檢查和法律責任

　　第十六條網信、發(fā)展改革、教育、科技、工業(yè)和信息化、公安、廣播電視、新聞出版等部門，依據各自職責依法加強對生成式人工智能服務的管理。

　　國家有關主管部門針對生成式人工智能技術特點及其在有關行業(yè)和領域的服務應用，完善與創(chuàng)新發(fā)展相適應的科學監(jiān)管方式，制定相應的分類分級監(jiān)管規(guī)則或者指引。

　　第十七條提供具有輿論屬性或者社會動員能力的生成式人工智能服務的，應當按照國家有關規(guī)定開展安全評估，并按照《互聯網信息服務算法推薦管理規(guī)定》履行算法備案和變更、注銷備案手續(xù)。

　　第十八條使用者發(fā)現生成式人工智能服務不符合法律、行政法規(guī)和本辦法規(guī)定的，有權向有關主管部門投訴、舉報。

　　第十九條有關主管部門依據職責對生成式人工智能服務開展監(jiān)督檢查，提供者應當依法予以配合，按要求對訓練數據來源、規(guī)模、類型、標注規(guī)則、算法機制機理等予以說明，并提供必要的技術、數據等支持和協(xié)助。

　　參與生成式人工智能服務安全評估和監(jiān)督檢查的相關機構和人員對在履行職責中知悉的國家秘密、商業(yè)秘密、個人隱私和個人信息應當依法予以保密，不得泄露或者非法向他人提供。

　　第二十條對來源于中華人民共和國境外向境內提供生成式人工智能服務不符合法律、行政法規(guī)和本辦法規(guī)定的，國家網信部門應當通知有關機構采取技術措施和其他必要措施予以處置。

　　第二十一條提供者違反本辦法規(guī)定的，由有關主管部門依照《中華人民共和國網絡安全法》、《中華人民共和國數據安全法》、《中華人民共和國個人信息保護法》、《中華人民共和國科學技術進步法》等法律、行政法規(guī)的規(guī)定予以處罰；法律、行政法規(guī)沒有規(guī)定的，由有關主管部門依據職責予以警告、通報批評，責令限期改正；拒不改正或者情節(jié)嚴重的，責令暫停提供相關服務。

　　構成違反治安管理行為的，依法給予治安管理處罰；構成犯罪的，依法追究刑事責任。

　　第五章  附　則

　　第二十二條本辦法下列用語的含義是：

　　（一）生成式人工智能技術，是指具有文本、圖片、音頻、視頻等內容生成能力的模型及相關技術。

　?。ǘ┥墒饺斯ぶ悄芊仗峁┱?，是指利用生成式人工智能技術提供生成式人工智能服務（包括通過提供可編程接口等方式提供生成式人工智能服務）的組織、個人。

　?。ㄈ┥墒饺斯ぶ悄芊帐褂谜?，是指使用生成式人工智能服務生成內容的組織、個人。

　　第二十三條法律、行政法規(guī)規(guī)定提供生成式人工智能服務應當取得相關行政許可的，提供者應當依法取得許可。

　　外商投資生成式人工智能服務，應當符合外商投資相關法律、行政法規(guī)的規(guī)定。

　　第二十四條本辦法自2023年8月15日起施行。