（原標題：“暫行辦法”正式問世，護航生成式AI安全發(fā)展）

近日，國家網(wǎng)信辦、國家發(fā)展改革委、教育部、科技部、工業(yè)和信息化部、公安部、廣電總局等七個部門正式公布了《生成式人工智能服務管理暫行辦法》（以下簡稱“《暫行辦法》”），該辦法將于2023年8月15日施行。此消息一出，代表著我國生成式人工智能領(lǐng)域的監(jiān)管和規(guī)范框架的形成，對于該行業(yè)的發(fā)展有著重要的指導和監(jiān)督作用，能夠更好地促進生成式人工智能技術(shù)的革新和應用。

事實上，《暫行辦法》在今年4月11日便以征求意見稿的身份登臺亮相，颯姐團隊也對此作出了簡要評析（見公眾號文章《新規(guī)解讀！生成式人工智能管理辦法（征求意見稿）》）。但當時畢竟僅處于征求意見狀態(tài)，并非最后的成文，因而對于《暫行辦法》的正式稿仍有加以說明和強調(diào)的必要。颯姐團隊今日文章便對《暫行辦法》進行解讀分析，以供讀者朋友們了解其中重點。我們也將把《暫行辦法》原文附隨在文后供各位讀者老友參考，各位點擊文后“閱讀原文”即可獲取。

01《暫行辦法》與《征求意見稿》的區(qū)別

本次網(wǎng)信辦發(fā)布的《生成式人工智能服務管理暫行辦法》相較于《生成式人工智能服務管理辦法（征求意見稿）》（以下簡稱《征求意見稿》）雖在整體體例上基本保持一致，但條文內(nèi)容上作了較大的調(diào)整。颯姐團隊將針對幾個較為重要的改動點進行分析。

（一）規(guī)制對象

本次《暫行辦法》相較于《征求意見稿》首先在規(guī)制對象上作了調(diào)整，規(guī)制目標更明確、針對性更強。根據(jù)《暫行辦法》第二條，本法僅適用于利用生成式人工智能技術(shù)向中華人民共和國境內(nèi)公眾提供服務者，而不再適用于研究、應用人工智能技術(shù)、未向境內(nèi)公眾提供人工智能服務者。這體現(xiàn)了國家對于生成式人工智能在研究與應用方面的支持與鼓勵，而不以服務提供者的要求限制其發(fā)展。

（二）行業(yè)發(fā)展

關(guān)于生成式人工智能的應用場景問題一直引人爭議。本次《暫行辦法》強調(diào)了人工智能技術(shù)的“應用”，即有目的性地發(fā)展人工智能，要將研究成果轉(zhuǎn)化為生產(chǎn)成果，鼓勵其與實際應用場景相結(jié)合，與各行業(yè)、各領(lǐng)域的需求相結(jié)合，提高人工智能投入的轉(zhuǎn)化輸出比。

本次《暫行辦法》一方面提出了鼓勵行業(yè)組織、企業(yè)、教育和科研機構(gòu)、公共文化機構(gòu)、有關(guān)專業(yè)機構(gòu)等應開展協(xié)作，在共建的基礎(chǔ)上發(fā)展人工智能；另一方面提出了“公共數(shù)據(jù)”與“人工智能基礎(chǔ)設施”的結(jié)合，在數(shù)據(jù)分類分級的前提下，擴展高質(zhì)量的公共訓練數(shù)據(jù)資源。這體現(xiàn)了國家對于生成式人工智能發(fā)展持看好的態(tài)度。企業(yè)之間的數(shù)據(jù)壁壘以及龐大公共數(shù)據(jù)的閑置，是生成式人工智能發(fā)展路程中的兩個關(guān)鍵問題。以上規(guī)定若能得到落實，有望大幅擴展人工智能訓練的數(shù)據(jù)庫，極大促進我國人工智能的建設與發(fā)展。

（三）平臺責任

本次《暫行辦法》新增的第九條明確了生成式人工智能服務提供者的主體地位，即網(wǎng)絡信息內(nèi)容生產(chǎn)者。一方面，根據(jù)本條，其須承擔相關(guān)的責任，并履行網(wǎng)絡信息安全義務；另一方面，對其主體身份的強調(diào)也將其明確納入了網(wǎng)絡平臺責任的規(guī)制范圍內(nèi)，而無灰色地帶可躲。

此外，本條也強調(diào)了其個人信息處理者責任，并要求其應當與注冊其服務的使用者簽訂服務協(xié)議，明確雙方權(quán)利義務，以避免發(fā)生糾紛時責任不明。

（四）未成年人保護

本次《暫行辦法》增加了人工智能服務提供者的義務，要求其指導使用者科學理性認識和使用生成式人工智能技術(shù)，并將采取有效措施防止沉迷的對象由“用戶”改成了“未成年用戶”，一方面更具有針對性，響應了我國強調(diào)保護未成年人的號召；另一方面也給予了服務提供者更大的自由，對于“成年用戶”則無須以強監(jiān)管手段防止其過度依賴或者沉迷。

（五）處置措施

本次《暫行辦法》明確了平臺責任，并規(guī)定了相應的處置措施。一方面，提供者發(fā)現(xiàn)平臺存在違法內(nèi)容的，除原來規(guī)定外，還應當向有關(guān)主管部門報告；另一方面，提供者發(fā)現(xiàn)使用者利用人工智能服務從事違法活動的，除原來規(guī)定外，還應當保存有關(guān)記錄，并向有關(guān)主管部門報告。以上規(guī)定的補充將報告納入監(jiān)管體系中，完善了監(jiān)管鏈條，有利于打擊違法活動，同時也與其他網(wǎng)絡監(jiān)管相關(guān)法律法規(guī)保持了體系一致性。

02提供者的服務規(guī)范

《暫行辦法》第三章明確了向境內(nèi)提供服務的生成式人工智能服務提供者的服務規(guī)范。以下歸類重點的服務規(guī)范：

（一）網(wǎng)絡信息安全義務（第九條和第十一條）

提供者應履行的“網(wǎng)絡信息安全義務”需與《民法典》、《個人信息保護法》、《網(wǎng)絡安全法》、《數(shù)據(jù)安全法》和《電信和互聯(lián)網(wǎng)用戶個人信息保護規(guī)定》中明確的權(quán)利、義務及法律責任結(jié)合解讀。具體而言：

首先，《辦法》將使用者的輸入信息、使用記錄納入信息保護的范圍之中。信息處理的“目的明確”和“最小化處理原則”自然也適用于此，即：（1）有明確且合理的目的、方式、范圍，（2）限于實現(xiàn)處理目的的最小范圍，不得過度收集個人信息。

其次，敏感個人信息的處理適用更嚴格的保護措施。我國法律對敏感信息的定義較為寬泛，即關(guān)于導致侵犯人格尊嚴或者危害人身、財產(chǎn)安全的個人信息，包括生物識別、宗教信仰、特定身份、醫(yī)療健康、金融賬戶、行蹤軌跡等，以及不滿十四周歲未成年人的個人信息，因而提供者應及時識別敏感個人信息的范疇并予以重視。

另外，海外業(yè)已有服務提供者和使用者通過簽訂服務協(xié)議確定權(quán)利義務的先例，包括信息處理、知識產(chǎn)權(quán)歸屬等。然而，結(jié)合語境，此條應著重在服務協(xié)議中明晰信息處理的權(quán)責，即確保使用者業(yè)已充分知情并同意提供者的信息處理行為。

如前所述，如果提供者未能履行該義務，其將面臨《網(wǎng)絡安全法》、《數(shù)據(jù)安全法》、《個人信息保護法》等法律、行政法規(guī)下的相關(guān)處罰。

（二）標識人工智能生成內(nèi)容（第十二條）

隨著生成式人工智能技術(shù)日臻成熟，AIGC的應用不斷擴大。然而，利用AIGC傳遞假新聞、詐騙的風險仍不可小覷。標識人工生成、深度合成的內(nèi)容以避免誤用、濫用及不法行為可以說是成本最低、從根本杜絕的方法。對此《暫行辦法》明確規(guī)定應按照《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》進行標識，這就要求提供者采取技術(shù)措施添加不影響用戶使用的標識，并依照法律、行政法規(guī)和國家有關(guān)規(guī)定保存日志信息，同時對可能導致公眾混淆或者誤認的服務，應當在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進行顯著標識，向公眾提示深度合成情況。

（三）未成年人防沉迷（第十條）

與《征求意見稿》中圈定“成年人用戶”不同的是，《暫行辦法》僅要求防范未成年人防沉迷。這與《未成年人保護法》、《預防未成年人犯罪法》及《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》（第十八條）中預防未成年人沉迷網(wǎng)絡的要求一致，也放寬了對服務提供者的限制。

（四）反饋機制（第十三、十四、十五條）

設定反饋機制不僅保護了用戶的權(quán)益，更一定程度地明晰了提供者的法律責任。具體而言，如果提供者未能提供投訴、反饋機制，提供者應負有責任；如果提供者提供該機制卻不作為，提供者仍負有責任；如果提供者提供該機制，卻因算力限制不能及時回應相關(guān)反饋，提供者的責任應不同于“不作為”，在一定程度上予以減輕或免除。

03生成式人工智能行業(yè)的角色定位

在生成式人工智能行業(yè)中存在著提供者、使用者、監(jiān)管者以及中間機構(gòu)四個角色。

提供者無疑處于監(jiān)管的核心地位，其中尤其需要注意的是提供具有輿論屬性或者社會動員能力的生成式人工智能服務的提供者。對于此類提供者，根據(jù)《暫行辦法》第十七條的規(guī)定，需要按照國家有關(guān)規(guī)定開展安全評估，并按照《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》履行算法備案和變更、注銷備案手續(xù)。如在此過程中提供者存在弄虛作假或是不按照規(guī)定履行程序的行為，則可能面臨警告、通報批評、罰款的行政處罰，嚴重者甚至可能被責令關(guān)閉網(wǎng)站、吊銷相關(guān)業(yè)務許可證或吊銷營業(yè)執(zhí)照。

此外，對于提供者而言，最應當警惕的是個人信息、數(shù)據(jù)安全及網(wǎng)絡安全方面的法律風險，三者均要求提供者履行相關(guān)的安全保護義務，對個人信息、數(shù)據(jù)及網(wǎng)絡予以一定保障，同時在提供服務的過程中確保個人信息和數(shù)據(jù)的來源合法、處理合法，并對于跨境數(shù)據(jù)予以重視，在提供者涉及跨境服務的情況下要求其遵守相關(guān)法律法規(guī)，否則根據(jù)《暫行辦法》第二十、二十一條的規(guī)定，主管機構(gòu)能夠?qū)ζ溥M行行政處罰，嚴重者甚至構(gòu)成犯罪。

在此基礎(chǔ)上，使用者承擔了一定的監(jiān)督責任?！稌盒修k法》第十八條明確了使用者的投訴、舉報的權(quán)利，一旦發(fā)現(xiàn)生成式人工智能服務不符合相關(guān)規(guī)定，便能夠向有關(guān)主管部門進行投訴、舉報。

至于監(jiān)管者和中間機構(gòu)，其主要負責發(fā)揮監(jiān)管和諸如安全評估等職能，本質(zhì)上屬于協(xié)助者的角色，其定位在于幫助行業(yè)健康成長。但也正因為其定位，在履行職責過程中必然會知悉一定的國家秘密、商業(yè)秘密、個人隱私和個人信息，故而根據(jù)《暫行辦法》第十九條的規(guī)定，其相關(guān)機構(gòu)和人員因而擁有一定的保密義務，不得泄露或者非法向他人提供。

04寫在最后

近年來，我國人工智能領(lǐng)域立法密集，已經(jīng)基本形成了相應的監(jiān)管體系，但立法只是監(jiān)管的第一步，行業(yè)要想健康穩(wěn)定發(fā)展離不開執(zhí)法者和諸多參與者的合力，只有各大參與者各司其職，依法而行，我國人工智能技術(shù)的應用才能在合法合規(guī)的基礎(chǔ)上快速發(fā)展，走向繁榮。

本文系未央網(wǎng)專欄作者:肖颯 發(fā)表，內(nèi)容屬作者個人觀點，不代表網(wǎng)站觀點，未經(jīng)許可嚴禁轉(zhuǎn)載，違者必究！

免責聲明：信息網(wǎng)轉(zhuǎn)載此文目的在于傳遞更多信息，不代表本站的觀點和立場。文章內(nèi)容僅供參考，不構(gòu)成投資建議。如果您發(fā)現(xiàn)網(wǎng)站上有侵犯您的知識產(chǎn)權(quán)的作品，請與我們?nèi)〉寐?lián)系，我們會及時修改或刪除。

Tags：[db:TAG標簽](1453451)

轉(zhuǎn)載請標注：信息網(wǎng)——“暫行辦法”正式問世，護航生成式AI安全發(fā)展