隨著AI技術(shù)不斷發(fā)展，一些新型違法犯罪行為開始冒頭，給網(wǎng)絡(luò)空間安全和群眾人身財產(chǎn)安全帶來威脅，記者采訪多地公安機(jī)關(guān)，揭示犯罪手法，提升防范意識。
學(xué)AI，竟為“換臉”行騙
“你們公眾號怎么開始推薦投資理財App了？靠譜嗎？”今年6月10日，某機(jī)構(gòu)工作人員像往常一樣打開公司公眾號評論區(qū)，卻被一連串粉絲留言驚出了一身冷汗。
工作人員發(fā)現(xiàn)，其運(yùn)營的公眾號不知何時竟發(fā)文稱即將停更，并號召粉絲關(guān)注另一個投資理財類賬號。工作人員嘗試登錄賬號后臺，發(fā)現(xiàn)不僅密碼被修改，連公司法人代表信息都被篡改了。
意識到事態(tài)嚴(yán)重，工作人員第一時間報案。這也是湖北省首起利用AI換臉技術(shù)非法侵入計算機(jī)信息系統(tǒng)案。
接警后，武漢網(wǎng)警迅速成立專案組，研判發(fā)現(xiàn)被盜公眾號的操作痕跡為：犯罪分子通過“AI換臉”技術(shù)，更換了公司法人信息，又用新的“臉”識別登錄該賬號，進(jìn)而發(fā)布涉詐引流信息。
順著線索追蹤，專案組很快鎖定了遠(yuǎn)在山東濰坊的犯罪嫌疑人阿成（化名）。
站在民警眼前的阿成，衣著樸素，從事大棚種植，一度令警察懷疑追錯了人。但對其住所搜查時，辦案民警通過技術(shù)手段從其電腦已刪除的電子數(shù)據(jù)中，找到了大量AI換臉?biāo)夭募胺欠ㄋ玫奶摂M貨幣。
圖為被抓獲的阿成（中）。（武漢市公安局供圖）
原來，阿成本是美術(shù)技工，嫌尋常做圖收入不高，就改行務(wù)農(nóng)，又動了做AI圖掙“輕松錢”的歪腦筋。
2022年5月，他在外網(wǎng)接觸“人臉代過”灰色產(chǎn)業(yè)，加入相關(guān)群組后，先在各類小型電商平臺接單制作人臉圖像，每張收費(fèi)200元；隨著技術(shù)提升，他掌握了生成動態(tài)人臉視頻的方法，“報價”也水漲船高，破解一張AI動態(tài)的人臉最高能賣到1000元。案發(fā)時，已非法獲利40余萬元。
“跑馬機(jī)”作弊成黑產(chǎn)
還有不法分子瞄上培訓(xùn)學(xué)時，用AI幫人“打卡”。
今年3月，重慶警方偵查發(fā)現(xiàn)，一些駕校學(xué)員無需實(shí)際練車即可刷滿學(xué)時，背后是不法分子使用“跑馬機(jī)”并結(jié)合AI技術(shù)實(shí)施作弊。這一犯罪鏈條涉及生產(chǎn)、銷售、使用等多個環(huán)節(jié)，已形成黑色產(chǎn)業(yè)。
什么是“跑馬機(jī)”？重慶市南岸區(qū)公安分局網(wǎng)安支隊(duì)民警介紹，這是利用汽車脈沖信號原理制作的設(shè)備，其核心功能是通過侵入并篡改駕培計時系統(tǒng)，并運(yùn)用AI技術(shù)模擬學(xué)員動態(tài)人像，達(dá)成偽造培訓(xùn)記錄目的。
通過涉案資金追溯顯示，利益鏈條的源頭是駕校為了降低運(yùn)營成本，以提供“快速拿證”為噱頭，吸引學(xué)員大量報名繳費(fèi)獲利。與此同時，上游負(fù)責(zé)銷售“跑馬機(jī)”的黑代理商也獲利不菲。此外，部分駕校還外接訂單“代打卡”獲利，其規(guī)模化運(yùn)作模式顯示，涉“跑馬機(jī)”犯罪已演變?yōu)闄C(jī)構(gòu)化犯罪。
截至目前，重慶警方已打掉涉案違法犯罪團(tuán)伙2個，抓獲犯罪嫌疑人70名，查扣“跑馬機(jī)”設(shè)備384臺，查處涉案駕校34家。
AI寫代碼，竟成了黑產(chǎn)源頭
今年2月，重慶萬州區(qū)網(wǎng)安部門發(fā)現(xiàn)，轄區(qū)犯罪嫌疑人王某針對某社交軟件開發(fā)群控程序。經(jīng)調(diào)查，一個使用黑產(chǎn)軟件從事各類違法犯罪的團(tuán)伙浮出水面。
據(jù)萬州區(qū)公安局網(wǎng)安支隊(duì)民警介紹，大專學(xué)歷的王某自學(xué)掌握相關(guān)技術(shù)后，開始招募多名同伙用AI技術(shù)編寫程序代碼，制作各類黑產(chǎn)應(yīng)用程序。這類黑產(chǎn)軟件無需使用官方客戶端，即可直接與后臺服務(wù)器進(jìn)行數(shù)據(jù)交互，具有“多開”“群控”“批量管理”等功能，可實(shí)現(xiàn)批量發(fā)送消息、紅包等操作。
圖為重慶市網(wǎng)安干警正在研判案情。（重慶市公安局供圖）
令人驚訝的是，王某還根據(jù)下游團(tuán)伙的犯罪需求，“定制”出各種黑產(chǎn)軟件，成為賭博、網(wǎng)絡(luò)水軍、電詐等多個犯罪鏈條的技術(shù)源頭。
比如，一到案的犯罪嫌疑人曾是電商從業(yè)者，因覺得來錢慢，便與王某技術(shù)對接，“轉(zhuǎn)行”專門從事刷單水軍活動，其在城中村租下一套房子設(shè)立“工作室”，招募多人加入。抓捕時，警方在房間里當(dāng)場查獲多臺用于作案的電腦和手機(jī)。
目前，專案組已順藤摸瓜，先后打掉位于重慶、福建、江蘇等地從事黑產(chǎn)軟件開發(fā)及網(wǎng)絡(luò)水軍犯罪團(tuán)伙4個，抓獲犯罪嫌疑人15名，查獲各類黑產(chǎn)程序軟件25個，查扣資金500余萬元，作案電腦、手機(jī)100余臺。
AI時代已來臨，新技術(shù)能做的事越來越多，也越來越有想象力。但筑牢安全底線的第一守則就是：AI可以很“忙”，但使用它的人不能法盲。掌握AI技術(shù)的專業(yè)人員，切勿因貪欲走上違法犯罪道路。同時各方應(yīng)加強(qiáng)技術(shù)監(jiān)管，進(jìn)一步完善生物特征檢測等AI時代的防偽技術(shù)，強(qiáng)化落實(shí)對個人隱私和信息的技術(shù)保護(hù)和法律責(zé)任。（記者 周聞韜、宋立崑）
寧公網(wǎng)安備 64010402000050號
