浙江紹興警方成功偵破“利用生成式人工智能造謠”“AI換臉”等案件

原標題：浙江紹興警方成功偵破“利用生成式人工智能造謠”“AI換臉”等案件——

警惕利用人工智能進行新型犯罪新動向

【資料圖】

人工智能技術飛速發(fā)展，一些不法分子利用其進行違法犯罪活動，給網絡安全帶來了嚴峻挑戰(zhàn)。近期，浙江紹興市公安局破獲多起涉人工智能案件。

今年6月，紹興上虞區(qū)警方發(fā)現(xiàn)有網民發(fā)布了關于上虞工業(yè)園區(qū)發(fā)生火災的視頻，瀏覽量在短時間內迅速上升。視頻中，上虞區(qū)一工業(yè)園區(qū)內火勢猛烈，整個園區(qū)被濃煙覆蓋，現(xiàn)場不時傳出爆炸聲，場面驚心動魄。

民警核查發(fā)現(xiàn)，視頻中的建筑、森林大火場景，并非該工業(yè)園真實場景，并且疑似源自其它視頻。經分析，民警判斷該視頻是利用人工智能合成技術，將網絡上多段不同視頻剪輯拼接而成。警方經偵查，認定某網絡科技公司員工有較大作案嫌疑，立刻赴該公司所在地抓獲包括湯某在內的3名犯罪嫌疑人。

“犯罪嫌疑人首先在網上搜集熱門話題，通過生成式人工智能服務自動生成腳本，在網上抓取相關視頻片段，然后利用AI軟件合成完整視頻，配上音樂、字幕。不到一分鐘，一段虛假視頻便‘新鮮出爐’。”上虞區(qū)分局民警沈林豐介紹，為獲得流量、博人眼球，自今年5月以來，該團伙不斷利用AI技術制作虛假視頻、散布謠言，在網上發(fā)布未經核實的虛假視頻達3000多個。

隨著人臉識別技術越來越普及，一些不法分子開始利用“AI換臉”等技術實施盜竊、詐騙等犯罪，引發(fā)了公眾對于個人信息保護的擔憂。

“我的APP好像被黑了！”今年4月13日，紹興市民朱女士到轄區(qū)派出所報案，稱有人登錄某政務APP，擅自下載了朱女士公司的電子營業(yè)執(zhí)照。接警后，上虞區(qū)分局迅速展開偵查，很快確認曾某某有重大作案嫌疑。

經審查，犯罪嫌疑人曾某某利用自己的手機號碼注冊賬號，并通過朱女士的姓名、身份證號等信息進行實名認證，然后通過人臉識別進行綁定，最終成功登錄賬號進行作案。

“曾某某通過網購店鋪引流，利用‘客戶’提供的人臉照片，通過專業(yè)AI軟件制作合成人臉動圖，以人臉識別驗證方式登錄各類APP，非法獲取相關信息。”上虞區(qū)分局相關負責同志介紹。

“每次交易價格不等，只是覺得這樣掙錢比較容易，沒想到已經觸犯到了法律。”曾某某悔不當初。據(jù)了解，曾某某通過此類手段共制作動態(tài)人臉1000多個，獲利9萬多元。目前，曾某某已被采取刑事強制措施，案件正在辦理中。

公安部網絡安全局相關負責人介紹：“犯罪分子用于實施‘AI換臉’的物料主要為照片，特別是身份證照片，同時結合人員姓名、身份證號來突破人臉識別驗證系統(tǒng)。為防范和打擊此類新型犯罪，公安機關聯(lián)合國家重點實驗室等單位，開展人臉識別與活體檢測技術安全測評，覆蓋了境內用戶量大、問題隱患突出的各類重點APP，及時發(fā)現(xiàn)人臉識別驗證系統(tǒng)存在的風險隱患，通報運營主體升級安全保護措施和人臉識別算法。”據(jù)介紹，公安機關依托“凈網”專項行動，組織專項會戰(zhàn)，嚴打泄露身份證照片等圖像信息的犯罪源頭，破獲多起“AI換臉”案件，抓獲相關犯罪嫌疑人，有效遏制了該類犯罪勢頭。

“不法分子濫用人工智能技術，給社會帶來嚴重危害，也觸犯了相關法律。”警方人士介紹，根據(jù)法律規(guī)定，使用人工智能技術制作散布虛假信息，擾亂社會秩序，可能構成編造、故意傳播虛假信息罪；利用人工合成技術破解他人賬號、竊取他人個人信息，則可能構成侵犯公民個人信息罪。此外，如果使用人工智能等技術手段來從事欺凌、恐嚇、威脅等行為，就可能構成尋釁滋事罪等。

“人工智能技術操作簡單、可定制性強、應用場景廣泛，降低了鏈條式犯罪的難度，被黑客等不法分子利用后危害性極大。”紹興市公安局上虞區(qū)分局相關負責人表示，對人工智能技術產生的新應用、新業(yè)態(tài)，公安機關將堅守價值引領與技術“糾錯”并行，保護人工智能技術健康發(fā)展的同時，防范打擊利用人工智能技術侵犯公民權利、危害公共安全的新型案件，維護風清氣正的網絡環(huán)境，全力保障網絡空間安全。

與此同時，辦案民警提示，要警惕利用人工智能進行新型犯罪新動向，建議個人要加強信息保護意識，防止信息泄露，不輕易提供人臉、指紋等個人生物信息給他人；管理好自己的“朋友圈”，盡量避免過多暴露隱私；警惕不明平臺發(fā)來的廣告、中獎等鏈接，不隨意點擊填寫信息，以免上當受騙。

關鍵詞：