隨著人工智能技術(shù)的快速發(fā)展，相關(guān)的應(yīng)用正在進(jìn)入我們生活的方方面面。然而，這也給個(gè)人信息保護(hù)帶來(lái)了新的挑戰(zhàn)。在8日開幕的2024年國(guó)家網(wǎng)絡(luò)安全宣傳周上，關(guān)于AI換臉、換聲等對(duì)個(gè)人隱私侵害的話題成為大家關(guān)注的焦點(diǎn)。一張“人像照片”、一段近距離的人物視頻，都有可能成為不法分子犯罪的新手段和新工具。
在今年的網(wǎng)絡(luò)安全博覽會(huì)上，各大安全企業(yè)紛紛展示了安全領(lǐng)域新產(chǎn)品和新技術(shù)，尤其是針對(duì)人工智能的安全防護(hù)更是成為各大安全企業(yè)著力的重點(diǎn)領(lǐng)域。
畫面中技術(shù)人員正在演示的就是“AI換臉”技術(shù)，僅需一張目標(biāo)人物的靜態(tài)照片，就能讓照片中的人物動(dòng)起來(lái)。
中國(guó)網(wǎng)絡(luò)空間安全協(xié)會(huì)人工智能安全治理專業(yè)委員會(huì)委員 張博：本身是一張不會(huì)動(dòng)的靜態(tài)圖片，演示者做一些動(dòng)作之后，AI換臉軟件采集到了演示者面部動(dòng)起來(lái)的特征，把特征融合到靜態(tài)圖片當(dāng)中，就讓圖片照著演示者的動(dòng)作動(dòng)了起來(lái)，也可以形成一個(gè)視頻。
張博介紹，盡管現(xiàn)在AI換臉、換聲等有一定的技術(shù)門檻和操作成本，但如果被不法分子獲取的情況下，就有可能被用來(lái)假冒他人，實(shí)施相關(guān)的犯罪活動(dòng)。
中國(guó)網(wǎng)絡(luò)空間安全協(xié)會(huì)人工智能安全治理專業(yè)委員會(huì)委員 張博：當(dāng)前AI換臉技術(shù)還是比較成熟，能支持視頻通話實(shí)時(shí)換臉，可以達(dá)到以假亂真的程度。除了換臉之外，再結(jié)合著換背景環(huán)境、換聲音等，逼真度就會(huì)更高，更加難以分辨。
通過“換臉”偽造不雅照
不法分子敲詐勒索
AI換臉、換聲等技術(shù)一旦被不法分子利用，還會(huì)成為敲詐勒索的工具，此類案例在各地已經(jīng)發(fā)生了很多起。前不久，深圳警方打掉一個(gè)犯罪團(tuán)伙，這個(gè)團(tuán)伙從網(wǎng)上等各種渠道收集被害人圖片信息，然后進(jìn)行合成處理，用來(lái)敲詐勒索。
前不久，深圳市民吳先生突然收到一個(gè)陌生手機(jī)號(hào)碼發(fā)來(lái)的彩信，點(diǎn)開一看竟然是他和一名陌生女子在酒店房間內(nèi)的不雅照片。
當(dāng)事人 吳先生：當(dāng)時(shí)我收到一條彩信，里面是我的一張裸照。他當(dāng)時(shí)威脅我，在幾點(diǎn)之前要跟他聯(lián)系、轉(zhuǎn)錢，我當(dāng)時(shí)一想不對(duì)勁，就報(bào)警了。
深圳警方接到報(bào)案后，立即對(duì)吳先生提供的線索進(jìn)行偵查。通過梳理報(bào)案記錄，警方發(fā)現(xiàn)全市有同樣遭遇的不止吳先生一人，犯罪嫌疑人的敲詐勒索方式都如出一轍。
隨著調(diào)查的深入，警方發(fā)現(xiàn)這是一個(gè)以王某為首的犯罪團(tuán)伙，團(tuán)伙內(nèi)分工明確，有人負(fù)責(zé)修圖，有人負(fù)責(zé)尋找作案目標(biāo)，有人負(fù)責(zé)發(fā)短信打電話敲詐勒索。在掌握大量線索后，深圳警方展開統(tǒng)一收網(wǎng)行動(dòng)，成功抓獲以王某為首的10多名犯罪嫌疑人。
在犯罪嫌疑人的電腦里，警方發(fā)現(xiàn)了大量經(jīng)過合成換臉后的不雅照片。
深圳市公安局坪山分局民警 張威：從嫌疑人電腦里面提取的相關(guān)證據(jù)，這些圖片是嫌疑人從各種渠道收集的被害人圖片信息，然后進(jìn)行合成處理用來(lái)敲詐被害人。
目前，王某等人已被檢察機(jī)關(guān)提起公訴。案件正在進(jìn)一步審理當(dāng)中。
專家：加快相關(guān)反制技術(shù)的開發(fā)和應(yīng)用
運(yùn)用先進(jìn)的AI技術(shù)制作換臉視頻或仿真聲音進(jìn)行違法活動(dòng)，確實(shí)容易讓人上當(dāng)受騙，這不僅對(duì)個(gè)人隱私保護(hù)提出了新的挑戰(zhàn)，更凸顯了相關(guān)法規(guī)和反制技術(shù)的重要性。
據(jù)了解，目前針對(duì)“AI換臉”技術(shù)實(shí)施各類侵犯?jìng)€(gè)人信息的行為時(shí)有發(fā)生，在灰色領(lǐng)域甚至違法犯罪領(lǐng)域被濫用。網(wǎng)絡(luò)安全專家建議應(yīng)加快相關(guān)反制技術(shù)的開發(fā)和應(yīng)用。
中國(guó)網(wǎng)絡(luò)空間安全協(xié)會(huì)人工智能安全治理專業(yè)委員會(huì)委員 張博：可以通過人工智能檢測(cè)技術(shù)來(lái)識(shí)別視頻的真實(shí)性，是不是有偽造的內(nèi)容。另外也可以結(jié)合身份認(rèn)證、數(shù)字水印的手段來(lái)加大偽造難度。從管理方面，需要加快相關(guān)法律法規(guī)以及監(jiān)管措施的制定和落實(shí)，來(lái)規(guī)范AI應(yīng)用的使用方式和應(yīng)用場(chǎng)景。
網(wǎng)絡(luò)安全專家提示，AI換臉等違法行為的最關(guān)鍵原因是個(gè)人隱私信息的泄露。因此，我們?cè)谌粘Ｉ暇W(wǎng)過程中，要盡量避免人臉、指紋等個(gè)人生物信息的過度公開和分享。如果接到“家人”“領(lǐng)導(dǎo)”等轉(zhuǎn)賬、匯款的視頻，一定要仔細(xì)甄別真?zhèn)巍?/p>
中國(guó)網(wǎng)絡(luò)空間安全協(xié)會(huì)人工智能安全治理專業(yè)委員會(huì)委員 張博：AI換臉通常跟交易詐騙的場(chǎng)景相伴出現(xiàn)，比如視頻通話，要注意觀察對(duì)方視頻當(dāng)中的面部輪廓、光線背景這樣的細(xì)節(jié)，看看是否有異常。如有必要可以要求對(duì)方做快速地抬頭、點(diǎn)頭、轉(zhuǎn)頭的動(dòng)作，進(jìn)一步判斷視頻是否有異常的細(xì)節(jié)，來(lái)確認(rèn)這個(gè)視頻是真實(shí)的。
警惕！這幾種照片千萬(wàn)不要隨便發(fā)
日常生活中，不少人喜歡在朋友圈、短視頻上曬美食、曬美景，但是如果不小心的話，這些行為很可能間接泄露你的個(gè)人信息。如果被別有用心的人獲取，可能會(huì)危及自己和家人的財(cái)產(chǎn)乃至人身安全。哪些照片一定要小心，千萬(wàn)不要隨意發(fā)到網(wǎng)上呢？
不要公布手持身份證或手持白紙照。這些照片中會(huì)包含個(gè)人姓名、身份證號(hào)碼、住址等敏感信息，一旦泄露，不法分子可能利用這些信息進(jìn)行身份盜用，辦理信用卡、貸款等金融業(yè)務(wù)，甚至進(jìn)行違法活動(dòng)。另外，手持白紙或手持報(bào)紙等照片常被用于驗(yàn)證身份，如果被不法分子獲取，可能被用于制作假證件或進(jìn)行網(wǎng)絡(luò)詐騙，會(huì)給個(gè)人帶來(lái)經(jīng)濟(jì)損失和名譽(yù)損害。
不要發(fā)布各種票據(jù)類的照片。很多人出差、旅游都喜歡拍火車票或飛機(jī)登機(jī)牌，發(fā)到自己的朋友圈分享。這些票據(jù)上不僅會(huì)包含姓名、出發(fā)地、目的地等信息，而且在條紋碼或者二維碼中也會(huì)含有乘客的個(gè)人信息，存在被不法分子破解并竊取的可能。
不要曬家門鑰匙、車牌等照片。不法者通過大數(shù)據(jù)等技術(shù)手段，通過這些照片會(huì)分析出發(fā)布者特定時(shí)間所處的特定位置，也會(huì)獲取發(fā)布者相關(guān)的生活習(xí)慣。所以，最好的辦法就是不要在照片中出現(xiàn)特征明顯的物品，例如家門鑰匙、車牌號(hào)碼等。
網(wǎng)絡(luò)安全專家強(qiáng)調(diào)，保護(hù)個(gè)人隱私至關(guān)重要。公眾應(yīng)提高警惕，避免在網(wǎng)絡(luò)上隨意發(fā)布包含個(gè)人敏感信息的照片。同時(shí)，建議定期檢查和更新個(gè)人隱私設(shè)置，確保個(gè)人信息的安全。
