AI的一場(chǎng)“狂想曲”，卻讓公共為了“臉面”擔(dān)憂

2022-04-15 16:03

一直以來(lái)人們津津樂(lè)道的人工智能技術(shù)，怎么就成為了公眾對(duì)“臉面”的擔(dān)憂？

去年以來(lái)，多地發(fā)生的“變臉”詐騙案就和人工智能技術(shù)“脫不了身”。

一段視頻、一段語(yǔ)音未必是真人拍攝或者錄制。在你不知道的手機(jī)App后臺(tái)、支付界面、門禁閘機(jī)，或許有人正在盜刷你的臉……

僅需一張照片，出演天下“好戲”

隨著深度合成技術(shù)迅猛發(fā)展、落地場(chǎng)景激增，一些不法分子趁機(jī)牟利。音頻、視頻等合成技術(shù)濫用，對(duì)人臉、聲紋、指紋等個(gè)人敏感信息保護(hù)形成挑戰(zhàn)。

近日，陳先生來(lái)到浙江省溫州市公安局甌海分局仙巖派出所報(bào)案，稱自己被“好友”騙了近五萬(wàn)元。經(jīng)過(guò)警方核實(shí)，騙子用了AI換臉技術(shù)，利用陳先生好友阿誠(chéng)社交平臺(tái)上先前發(fā)布的視頻，截取了面部視頻畫面并進(jìn)行了“換臉”，從而對(duì)陳先生進(jìn)行了詐騙。

2021年4月，安徽省合肥市警方在公安部“凈網(wǎng)2021”專項(xiàng)行動(dòng)中打掉一個(gè)犯罪團(tuán)伙，該團(tuán)伙利用人工智能技術(shù)偽造他人人臉動(dòng)態(tài)視頻，為黑灰產(chǎn)業(yè)鏈提供注冊(cè)手機(jī)卡等技術(shù)支撐。

在警方抓捕現(xiàn)場(chǎng)，幾名犯罪嫌疑人正用電腦將一張張靜態(tài)照片制作為人臉動(dòng)態(tài)視頻。模擬制作出來(lái)的動(dòng)態(tài)人物不僅能做點(diǎn)頭、搖頭等動(dòng)作，還可完成眨眼、張嘴、皺眉等豐富表情，效果極為逼真。

在嫌疑人的電腦里，警方發(fā)現(xiàn)了十幾個(gè)G的公民人臉數(shù)據(jù)，人臉照片和身份證照片分門別類存放在一個(gè)個(gè)文件夾里。

“身份證正反面照片、手持身份證照片、自拍照等，被稱為一套。”民警介紹，成套照片被稱為“料”，出售照片的人被稱為“料商”，這些“料”在網(wǎng)上已轉(zhuǎn)手多次，而“料”的主人卻毫不知情。

AI技術(shù)換臉視頻的起源

2017年底，國(guó)外一位網(wǎng)友創(chuàng)造了AI換臉?biāo)惴ǎ―eepfake），并公開(kāi)在帖子中詳細(xì)介紹AI換臉視頻的生成方法。短短30天，就有1．5萬(wàn)用戶在社交媒體上閱讀了這條消息，并根據(jù)教程生成出大量換臉視頻。

“Deepfake”是一項(xiàng)基于AI的假視頻生成方法，是人工智能大家族里的一個(gè)分支。實(shí)際上，“Deepfake”并不是一種單純的技術(shù)和容易上手操作的軟件，它是多種技術(shù)的組合形式，以特定人臉為目標(biāo)來(lái)源，輸入之后軟件進(jìn)行圖像處理，原來(lái)的人臉被另一個(gè)人臉?biāo)娲?/p>

換臉?lè)譃槲鍌€(gè)步驟：視頻轉(zhuǎn)換圖片、提取臉部、訓(xùn)練模型、人臉替換、合成視頻。經(jīng)過(guò)適當(dāng)?shù)暮笃谔幚恚傻囊曨l可以達(dá)到較高的真實(shí)度。

深度偽造讓“眼見(jiàn)不再為實(shí)”

據(jù)了解，網(wǎng)絡(luò)上可以買賣此類軟件。全套軟件及教程售價(jià)有400元、800元兩檔，800元的為高階版本，“過(guò)人臉成功率超高”有相關(guān)人士透露。

照片上傳至軟件后，標(biāo)注出五官位置，調(diào)整腳本參數(shù)，一張臉便動(dòng)了起來(lái)。“五官參數(shù)隨教程送上，照抄即可。”據(jù)介紹，這些偽造視頻不僅通過(guò)率高，人工審核都難辨真假。

“目前公眾對(duì)照片等靜態(tài)信息易被篡改已有所警惕，但對(duì)視頻、聲音等動(dòng)態(tài)信息內(nèi)容仍持有較高信任度。”清華大學(xué)人工智能研究院基礎(chǔ)理論研究中心主任朱軍說(shuō)。

此外有專家擔(dān)心，盡管針對(duì)深度合成技術(shù)的識(shí)別技術(shù)不斷迭代、檢測(cè)手段持續(xù)增強(qiáng)，但依然沒(méi)能跑贏“偽造”技術(shù)升級(jí)的速度。

法律規(guī)定相對(duì)滯后，也給不法分子留下可乘之機(jī)。中倫律師事務(wù)所合伙人陳際紅說(shuō)，目前法律規(guī)定，禁止利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán)，但技術(shù)如何使用算合理使用，哪些情形下應(yīng)禁止使用等，沒(méi)有具體規(guī)定；收集或收購(gòu)個(gè)人聲紋、照片，使用人臉、指紋、DNA、虹膜等個(gè)人生物信息等行為，在哪些范圍內(nèi)構(gòu)成犯罪、將面臨怎樣的懲罰，需要司法裁判進(jìn)一步給出明確指引。

別再讓公眾為“臉面”擔(dān)憂

生物識(shí)別信息包括身體特征和行為特征兩類：身體特征包括指紋、靜脈、掌型、視網(wǎng)膜、虹膜、人體氣味、臉型、血管、DNA、骨骼等，行為特征包括簽名、語(yǔ)音、行走步態(tài)等。

生物識(shí)別技術(shù)是通過(guò)人類生物特征進(jìn)行身份認(rèn)證的一種技術(shù)，人臉識(shí)別屬于生物識(shí)別技術(shù)中的一種。

在人工智能時(shí)代背景下，個(gè)人生物識(shí)別信息非常容易被人工智能犯罪活動(dòng)所利用。使用深度偽造技術(shù)合成換臉視頻是盜用個(gè)人生物識(shí)別信息的行為，通過(guò)技術(shù)手段盜用他人的生物識(shí)別信息。

保護(hù)人臉、指紋、聲紋等敏感信息，不再擔(dān)憂信息“裸奔”損害個(gè)人隱私、財(cái)產(chǎn)、名譽(yù)等，是公眾的共同期待。

近日，我國(guó)印發(fā)《關(guān)于加強(qiáng)科技倫理治理的意見(jiàn)》，中國(guó)工程院院士、信息技術(shù)專家鄔賀銓提出，針對(duì)深度合成技術(shù)濫用現(xiàn)象，應(yīng)以技術(shù)規(guī)制技術(shù)，利用技術(shù)創(chuàng)新、技術(shù)對(duì)抗等方式，提升和迭代檢測(cè)技術(shù)的能力。

技術(shù)規(guī)制之外，針對(duì)技術(shù)濫用暴露的風(fēng)險(xiǎn)治理應(yīng)當(dāng)體系化、完善化。“要構(gòu)建數(shù)據(jù)集質(zhì)量規(guī)范、根據(jù)應(yīng)用場(chǎng)景對(duì)相關(guān)技術(shù)進(jìn)行風(fēng)險(xiǎn)分級(jí)分類管理，明確設(shè)計(jì)開(kāi)發(fā)單位、運(yùn)維單位、數(shù)據(jù)提供方的責(zé)任。”國(guó)家工業(yè)信息安全發(fā)展研究中心副總工程師邱惠君說(shuō)。

結(jié)語(yǔ)

以“最低限度”的原則搜集個(gè)人信息，以“最嚴(yán)厲”的原則保護(hù)個(gè)人信息，才能真正使得人工智能換臉技術(shù)向安全、可靠、可控的方向發(fā)展。

筆者認(rèn)為，在合理平衡技術(shù)發(fā)展與生物識(shí)別信息保護(hù)的情況下，刑法介入的思路是：完善侵犯公民個(gè)人信息罪的犯罪構(gòu)成，實(shí)現(xiàn)盜用個(gè)人生物識(shí)別信息的行為入罪化。