漫畫/高嶽

4月12日，公安部公佈10起打擊整治網路謠言違法犯罪典型案例，其中4起典型案例涉及使用人工智慧（以下簡稱AI）技術編造虛假資訊；4月23日，北京互聯網法院一審開庭宣判AI生成聲音人格權侵權案……

近年來，隨著AI技術的快速發展，越來越多的人在工作生活中開始享受到該技術所帶來的全新體驗，但伴隨而來的是，利用或濫用AI技術從事違法犯罪的活動（以下簡稱AI犯罪）日益增多。

對此，政法機關依法履職，持續深挖徹查AI犯罪，不斷擴大辦案戰果，努力提升打擊治理質效，全力維護人民群眾合法權益。

“政法機關立足主責主業，發揮職能作用，全力打擊治理AI犯罪，防範不法分子利用或濫用AI技術侵犯公民權利、危害公共安全，保證AI技術始終沿著正確的軌道向前發展。”首都師範大學政法學院法律系副教授崔俊傑對《法治日報》記者說。

AI犯罪“花樣”層出不窮

“電腦AI去衣，白菜價。”

2023年6月，原是北京一家互聯網公司技術員的白某某，在境外的社交媒體上接觸到了“一鍵去衣”的AI技術，便動起了歪心思。

白某某通過境外的網站發佈廣告，在某社交軟體上販賣深度偽造淫穢圖片近7000張，獲利一萬多元。目前白某某已被提起公訴。

“一鍵去衣”究竟是怎樣的一種技術？記者瞭解到，這項技術並不是真的“去衣”，而是在圖片的基礎上，通過AI自行運算使用相關的淫穢圖像素材對圖片進行重繪，和“AI換臉”“AI變聲”一樣，屬於利用AI深度學習、虛擬現實等生成合成類演算法製作文本、圖像、音頻、視頻、虛擬場景等資訊的技術。

“電詐犯罪團夥能夠通過AI技術‘換臉’‘變聲’，甚至是‘動態換臉’，增加了傳統犯罪活動的危害性，還產生了新型的違法行為，如使用AI‘繪畫’技術生成的繪畫作品可能會對他人著作權造成侵權。”崔俊傑表示，當前AI技術已被不法分子使用於網路釣魚、深度偽造、繞過身份檢查、“越獄”式服務、人肉搜索和監視五個方面，進一步降低了犯罪的門檻。

5月6日下午，江西省鷹潭市餘江區人民法院公開宣判全國首例“AI遊戲外掛”案，依法對被告人王某合以提供侵入、非法控制電腦資訊系統程式、工具罪判處有期徒刑三年，緩刑五年。宣判後，王某合表示服從判決，不上訴。

經審理查明：王某合通過製作出售“AI外掛”的方式牟利，2022年，其先後聯繫萬某至、張某（另案處理）等人編寫“AI外掛”程式。至案發，王某合非法獲利共計629萬餘元。

據悉，該程式可對多款遊戲的畫面數據進行未授權獲取，對遊戲中處理的滑鼠數據指令進行未授權修改，造成玩家在玩遊戲時，不用操作就可以“自動瞄準”“自動開槍”，干擾了遊戲的正常運行環境，屬於破壞性程式。

在崔俊傑看來，AI技術標準化程度低、可定制性強、應用場景廣泛，不法分子作案手法越發多樣，導致AI犯罪不斷衍生升級，如不及時進行打擊治理，會給網路安全，甚至廣大群眾的生命財產安全帶來嚴峻挑戰。

從嚴打擊形成有效震懾

為應對挑戰，政法機關採取一系列措施打擊AI犯罪，維護AI技術良好的發展環境，避免其在應用過程中引發失序和失範。

2023年9月，最高人民法院、最高人民檢察院、公安部聯合發佈《關於依法懲治網路暴力違法犯罪的指導意見》，明確對“利用‘深度合成’等生成式人工智慧技術發佈違法資訊”的情形予以從重處罰。

4月23日，全國首例AI生成聲音人格權侵權案在北京互聯網法院一審開庭宣判，法院認定被告方使用原告聲音、開發涉案AI文本轉語音產品未獲得合法授權，構成侵權，賠償原告各項損失25萬元，並書面賠禮道歉。

6月25日，江蘇省張家港市人民檢察院向市人民法院就一起敲詐勒索、詐騙案件提起公訴。據悉，犯罪嫌疑人所在的境內團夥通過虛擬定位、AI技術合成照片等方式，在交友軟體上將自己包裝成在外國的中國女留學生，隨後以談戀愛等名義，向在國外的留學生索取錢財。目前已查實該團夥敲詐勒索、詐騙50餘人，涉案金額達100餘萬元。

自最高檢去年11月發佈《檢察機關打擊治理電信網絡詐騙及其關聯犯罪工作情況（2023年）》後，各地檢察機關按照相關要求，加大對侵犯公民個人資訊尤其是非法獲取人臉、聲紋等敏感資訊、利用AI等前沿技術偽造人臉、聲紋以及獲取其他資訊犯罪的打擊力度。

此外，全國公安機關去年依託“淨網”專項行動組織專項會戰，嚴打洩露身份證照片等圖像資訊的犯罪源頭，破獲利用AI技術“換臉”進行詐騙犯罪案件79起，抓獲犯罪嫌疑人515名，有效遏制了該類犯罪勢頭。

政法機關依法打擊AI犯罪，並通過辦理典型案例的方式形成震懾，讓想用AI技術非法獲利的人心生畏懼。

強化治理實現標本兼治

記者瞭解到，在依法打擊AI犯罪的過程中，政法機關深挖這一違法犯罪的規律特點，堅持以打開路、打防並舉、源頭治理、綜合施策，會同相關部門單位深入推進行業治理、綜合治理，壓實主體責任，強化行業監督，堵住監管漏洞，全力擠壓相關違法犯罪活動空間，加速完善常態化治理機制，切實提高其違法成本。

據悉，為防範和打擊“AI換臉”犯罪，全國公安機關聯合國家重點實驗室等單位，開展人臉識別與活體檢測技術安全測評，覆蓋即時通信、網路直播、網路社交、電商平臺、金融支付等重點App，及時發現人臉識別驗證系統存在的風險隱患，通報運營主體升級安全保護措施和人臉識別演算法，不給不法分子可乘之機。

與此同時，各地通過多種形式的宣傳教育，幫助群眾更加清晰認識到AI技術被利用或濫用所帶來的法律風險，增強了大家對AI犯罪的防範意識。

今年4月，安徽省合肥市警方通過中央媒體在關於“AI軟體成造謠工具”節目中揭秘謠言製作過程，讓線民更直觀地加深了對AI造謠的認識，起到了較好的宣傳效果。

2024年以來，浙江省杭州市臨平區借助“反詐智能AI宣防外呼系統”，自動識別、分析和預警潛在的詐騙風險，並以電話語音形式向市民發送提醒資訊，不僅大幅提升工作效能，也切實提高了市民對詐騙風險的警覺性，降低了詐騙案件的發生率。

“隨著AI技術的快速迭代，對其被不法分子利用或濫用進行防治提出了更高要求。如AI犯罪行為更為隱蔽和複雜，證據收集難度大。”崔俊傑說，因此，如何更好地防治AI犯罪，對內容生成平臺、行業監管部門乃至政法機關等各方都提出了挑戰。

崔俊傑建議，要堅持以科學適度的治理方式和治理手段回應技術發展和社會變遷，針對AI犯罪特點，相關部門需及時推動相關法律的立改廢釋纂，以良法促善治，提高依法治理水準；加大全鏈條打擊力度，強化各部門協同配合，加強大數據法律監督模型應用，善於從中發現重點監督線索和社會治理存在的難點問題，實現精准監督、有效監督，在確保行業良性健康發展的基礎上實現精准治理。（杜洋）