要剎車？生成式AI迎新規、行業連發ChatGPT“警報”、多國考慮嚴監管

2023-04-14 09:19

來源 | 零壹財經

4月13日消息，據中國移動通信聯合會元宇宙產業工作委員會網站，中國移動通信聯合會元宇宙產業工作委員會、中國通信工業協會區塊鏈專業委員會等，共同發布“關于元宇宙生成式人工智能（類 ChatGPT）應用的行業提示”。提示內容顯示，去年年底，OpenAI 發布了 NLP（自然語言識別）大模型產品 ChatGPT，效果驚艷，一經面世就引起軒然大波。今年第一季度以來，ChatGPT 和類似的生成式人工智能應用熱度依然不減，但我國政府與相關行業機構已意識到了其中存在的安全性問題，并開始采取應對措施。

近日，國家網信辦發布《生成式人工智能服務管理辦法（征求意見稿）》，意見稿強調，在利用生成式人工智能產品向公眾提供服務前，應當按照《具有輿論屬性或社會動員能力的互聯網信息服務安全評估規定》向國家網信部門申報安全評估，并按照《互聯網信息服務算法推薦管理規定》履行算法備案和變更、注銷備案手續。

而在此之前，意大利也已曾發布 ChatGPT 禁令，德國監管機構緊隨其后，法國、愛爾蘭、西班牙等歐洲國家也相繼考慮對 AI 聊天機器人采取更嚴格的監管。

作為“元宇宙共識圈”的發起者和踐行者，中國移動通信聯合會元宇宙產業工作委員會（以下簡稱“元宇宙產業委”）先前注意到數字藏品平臺二級寄售市場炒作在某些地方盛行，元宇宙地產市值縮水現象頻出，這至少說明科技風口的成長并非一帆風順，行業的試錯成本巨大，因此，特聯合中國通信工業協會區塊鏈專業委員會、中關村大數據產業聯盟元宇宙智庫委員會等，共同呼吁行業自律并對本機構委員單位作出如下行業提示：

第一，要著眼科學發展深化思想認識，嚴格遵守國家及行業相關法律法規要求，增強合規謹慎經營的理念，全面提高風險管控水平；

第二，提供生成式人工智能服務應當真實準確客觀多樣，應采取相應措施防止生成虛假信息，不得上傳或留存含有侵犯知識產權的內容，防止對類 ChatGPT等生成式人工智能應用進行濫用，避免擾亂健康市場秩序；

第三，承擔保密責任，要對敏感信息加以嚴格保護，不上傳涉及國家安全或行業涉密文件及數據，以及非公開的材料及數據，或系統的核心代碼；

第四，要做到在為信息提供者在提供服務過程中，對用戶輸入的信息和使用記錄承擔保護義務，不得非法留存能夠推斷出用戶身份的輸入信息，不得向他人提供，不得損害其他使用者正當權利；

第五，應采取適當措施謹防用戶過分依賴或沉迷生成內容，避免不正當的商業營銷行為，杜絕違背商業道德、社會公德行為；

第六，支持自主創新，鼓勵優先采用安全可信的軟件和數據；

第七，提供者發現用戶利用生成式人工智能產品過程中違反法律法規，應當暫停或者終止服務；

第八，應當繼續對各類熱點保持理性，加強宣傳和引導，遠離虛假炒作，謹慎投資。

此前，在4月10日，中國支付清算協會也發布“關于支付行業從業人員謹慎使用ChatGPT等工具的倡議”。倡議內容顯示，近期，ChatGPT等工具引起各方廣泛關注，已有部分企業員工使用ChatGPT等工具開展工作。但是，此類智能化工具已暴露出跨境數據泄露等風險。為有效應對風險、保護客戶隱私、維護數據安全，提升支付清算行業的數據安全管理水平，根據《中華人民共和國網絡安全法》《中華人民共和國數據安全法》等法律規定，中國支付清算協會向行業發出倡議。

一是提高思想認識，依法依規使用。支付行業從業人員要遵守所在地區的網絡使用規定，正確認識ChatGPT等工具的機遇和風險，全面評估使用ChatGPT等工具處理工作內容的風險，依法合規使用ChatGPT等工具。

二是不上傳關鍵敏感信息。支付行業從業人員在使用ChatGPT等工具時，要嚴格遵守國家及行業相關法律法規要求，不上傳國家及金融行業涉密文件及數據、本公司非公開的材料及數據、客戶資料、支付清算基礎設施或系統的核心代碼等。

三是會員單位加強內部管理和引導。會員單位要進一步健全信息安全內控管理制度，開展有針對性的數據風險防控工作，加強宣傳和引導，提升員工的風險防范和數據保護意識，切實維護國家金融及支付清算行業安全。

（來源：界面、同花順、每日經濟新聞等公開資料）

原文標題 : 要剎車？生成式AI迎新規、行業連發ChatGPT“警報”、多國考慮嚴監管