【中創(chuàng)】ChatGPT技術(shù)被濫用，安全治理亟需政府、企業(yè)共同努力！

眼見為實(shí)？耳聽為真？當(dāng)心AI詐騙！

只需要提供一張帶臉的照片，就可以置換成明星，擬真度非常高，毫無違和感，一個軟件就能直接將楊穎整成迪麗熱巴！

【資料圖】

只要迪麗熱巴的淚痣和嘴？沒問題！

隨著人工智能的發(fā)展，詐騙團(tuán)伙的詐騙手段也越來越科技化。

一、利用ChatGPT詐騙

近日，紹興上虞區(qū)公安分局對“網(wǎng)絡(luò)水軍”通過組織發(fā)布虛假視頻獲利行為開展收網(wǎng)打擊， 摧毀一利用ChatGPT制作虛假視頻的造謠團(tuán)伙，該案系浙江首例團(tuán)伙制作虛假視頻案件。

上虞警方在網(wǎng)上巡查時發(fā)現(xiàn)用戶名為“舷憶解說”的某APP網(wǎng)民發(fā)布關(guān)于上虞工業(yè)園區(qū)發(fā)生火災(zāi)的視頻，在短時間內(nèi)瀏覽量迅速攀升。對此，警方介入核實(shí)，確認(rèn)視頻系不實(shí)信息。

5月以來，該公司從網(wǎng)上非法收購一批視頻賬號， 通過ChatGPT技術(shù)，拼接制作虛假視頻發(fā)布網(wǎng)絡(luò)，博取流量 ，并通過流量算法返款盈利。

二、安全治理亟需努力

政府： 針對AI數(shù)字技術(shù)犯罪，國家層面相關(guān)立法研究正在不斷推進(jìn)。

今年以來就有《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》、《生成式人工智能服務(wù)管理辦法(征求意見稿)》等文件相繼發(fā)布，為規(guī)范AI產(chǎn)業(yè)健康發(fā)展做出指引。

企業(yè): 在政策引導(dǎo)之余，企業(yè)加強(qiáng)AI領(lǐng)域協(xié)同治理也至關(guān)重要。

1、需要加強(qiáng)監(jiān)管機(jī)構(gòu)能力建設(shè)，及時識別出新的違法犯罪手法，并加以打擊整治。

2、應(yīng)持續(xù)提升技術(shù)創(chuàng)新能力，通過新技術(shù)的開發(fā)與應(yīng)用，提升風(fēng)險隱患的自主監(jiān)測、識別和防范能力。

3、加強(qiáng)跨部門、跨領(lǐng)域的協(xié)同合作，構(gòu)建起應(yīng)對新技術(shù)、新風(fēng)險的安全生態(tài)系統(tǒng)。

個人: 作為普通的經(jīng)濟(jì)活動參與者，我們需要時刻小心來自身邊的陷阱。

1、要加強(qiáng)個人信息保護(hù)意識，不要輕易透露自己的身份證、銀行卡、驗(yàn)證碼等信息；

2、特別要防范人臉、指紋等生物信息的泄露。

3、當(dāng)收到不尋常的請求或交流時，需要保持警惕，多渠道核實(shí)對方的身份和信息，避免僅憑借單一溝通渠道就轉(zhuǎn)賬匯款。

技術(shù)本無罪，發(fā)揮AI技術(shù)賦能新一輪科技革命和產(chǎn)業(yè)變革的能力，降低技術(shù)“陰暗面”對經(jīng)濟(jì)社會發(fā)展的影響，還需社會各界共同發(fā)力、相向而行。

互聯(lián)網(wǎng)不是法外之地，請嚴(yán)格遵守相關(guān)法律規(guī)定，規(guī)范個人網(wǎng)上言行，做到 " 不信謠、不傳謠、不造謠 "，共同維護(hù)網(wǎng)絡(luò)空間秩序。

關(guān)鍵詞：