中央網信辦部署開展“清朗·整治AI應用亂象”專項行動

　　近日，中央網信辦在全國范圍內部署開展為期4個月、分兩個階段推進、聚焦14類突出問題的“清朗·整治AI應用亂象”專項行動，旨在規范AI服務和應用，促進行業健康有序發展，保障公民合法權益。

　　中央網信辦有關負責人表示，本次專項行動分兩個階段開展。第一階段為“清朗·AI應用服務典型違規問題”專項治理行動，強化AI技術源頭治理。第二階段為“清朗·整治AI信息內容亂象”專項行動，堅決清理違法不良信息，依法處置處罰違規賬號、MCN機構和網站平臺。中央網信辦要求各地網信部門充分認識專項行動對于推動AI應用規范有序發展、維護網民合法權益的重要意義，切實履行屬地管理責任，督導網站平臺對照整治重點，深入自查自糾，全面排查問題漏洞，完善長效治理機制，有效提升技術防治能力，確保專項行動取得實效。

　　據悉，第一階段重點整治7類突出問題：一是未按規定履行大模型備案登記義務。二是AI平臺安全和審核過濾能力不足。三是大模型訓練語料安全問題。四是AI數據投毒問題。五是生成合成內容標識落實不到位。六是濫用AI技術開展違法違規活動。七是開源模型安全管理不到位。其中，未按規定履行大模型備案登記義務，是指未按照《生成式人工智能服務管理暫行辦法》規定，向網信部門履行備案登記程序，存在“應備未備”情形。

　　第二階段同樣重點整治7類突出問題，分別是利用AI“魔改”經典、生成“數字泔水”，制作發布虛假不實信息，假冒仿冒他人，制作發布暴力低俗等不良信息，侵害未成年人權益，利用AI“托管”從事網絡水軍活動，AI產品服務和應用程序違規。（記者　遙歌）