男星賭輸10億屬「AI謠」 36歲男涉造謠拘8天 9月起AI內容須標示

網安局指經AI輸熱點詞生成

周杰倫黃曉明曾闢謠

公安部網安局昨通報，網安部門查明，36歲男子徐X強為爭取流量、謀取非法利益，周一（10日）使用軟件「某書」（辦公軟件×書）中AI智慧生成功能，輸入社會熱點詞，製作了標題為「頂流明星被曝境外豪賭輸光十億身價（身家）引發輿論海嘯」的謠言信息，並通過互聯網平台對外發布，造成謠言迅速傳播擴散，引發大量網民議論，誘發相關謠言、話題等頻繁登上熱搜榜，嚴重擾亂公共秩序。公安機關根據相關法律法規，對徐X強處以行政拘留8日處罰。

該消息近幾天連續發酵，引發網民各種猜測，周杰倫、黃曉明等男星被對號入座，甚至還上了熱搜榜，其後兩人相繼發出澄清。微博CEO王高飛周一發文稱，AI分析員判斷該傳聞缺乏實質性證據，且主要信息源為匿名帳號及營銷號，存在動機和邏輯漏洞。

對於消息最終被證實為AI生成的謠言，不少網民認為，讓消息熱傳的社交平台也有責任，「搞算法推薦的平台也不能光想着『恰』（吃）流量，一點責任也不擔」。不少人關注到AI生成內容細節豐富，效率高、成本低，造成的危害更大。人民網評論指出，有了AI的「加持」，不法分子可隨心所欲製造謠言，零成本開辦「謠言工廠」，不能不讓人擔憂和警惕；網絡平台不能袖手旁觀，須對AI生成內容加大審核機制，防止AI生產的謠言興風作浪。

新規範：平台應核驗AI標識

事實上，國家網信辦、工信部、公安部、國家廣播電視總局聯手制定的《人工智能生成合成內容標識辦法》於昨日公開，今年9月起施行，將要求服務提供者應當對文本、音頻、圖片、視頻等生成合成內容，添加顯式標識。《辦法》強調，互聯網應用程式服務提供者提供AI生成合成服務的，應用程式分發平台應當核驗其生成合成內容標識相關材料。

國家網信辦負責人稱，海量信息得以快速生成合成並在網絡平台傳播，在促進經濟社會發展的同時，也產生了生成合成技術濫用、虛假信息傳播擴散加劇等問題，為此制定《辦法》進一步規範AI生成合成內容標識活動。