AI反詐技術(shù)不能落在后頭
【資料圖】
原標(biāo)題：AI反詐技術(shù)不能落在后頭
最近，話題“AI詐騙正在爆發(fā)”沖上熱搜。內(nèi)蒙古包頭市公安局發(fā)布一起使用智能AI技術(shù)進(jìn)行電信詐騙的案件，案件中福州市一家科技公司的法人代表郭先生在10分鐘內(nèi)被騙430萬(wàn)元。騙子通過(guò)智能AI換臉和擬聲技術(shù)，佯裝好友對(duì)他實(shí)施了詐騙。等到郭先生撥打好友電話時(shí)，才知道被騙。警方表示，一些詐騙分子利用社交平臺(tái)發(fā)布的視頻，截取面部視頻畫(huà)面后再利用AI換臉技術(shù)合成，制造視頻聊天的假象騙取其信任，從而實(shí)施詐騙。
技術(shù)天然是價(jià)值中立的，沒(méi)有對(duì)錯(cuò)和善惡之分。一項(xiàng)突破性的技術(shù)，與生俱來(lái)就擁有強(qiáng)大力量。能不能約束和駕馭這股力量，決定了這項(xiàng)技術(shù)在現(xiàn)代社會(huì)所發(fā)揮的現(xiàn)實(shí)影響。當(dāng)下，實(shí)現(xiàn)了質(zhì)變的生成式人工智能，無(wú)疑走到了關(guān)鍵的十字路口。誠(chéng)如我們所看到的，AI詐騙、AI造假事件近段時(shí)間來(lái)密集發(fā)生。此類(lèi)案件預(yù)示著某種風(fēng)險(xiǎn)：過(guò)往那種基于生物信息、知識(shí)壁壘、專(zhuān)業(yè)身份等所建構(gòu)的關(guān)乎真實(shí)與安全的社會(huì)防線，備受考驗(yàn)。
有人運(yùn)用AI換臉冒充好友視頻聊天借錢(qián)，輔之以毫無(wú)破綻的聲音合成，簡(jiǎn)直可以以假亂真。在很多人的潛意識(shí)里，活生生的視頻、面對(duì)面的對(duì)話，那種基于聲畫(huà)一體所形成的神經(jīng)反射式感官反饋，足以形成“就是他本人”的篤定判斷。然而，AI技術(shù)帶來(lái)了新的挑戰(zhàn)，也即“是他又不是他”。倘若角色視角互換，這就是個(gè)如何證明“我是我”的命題。稍有不慎，就可能搭進(jìn)去真金白銀。
不管承不承認(rèn)，相比于生成式人工智能一日千里的發(fā)展，人類(lèi)社會(huì)那套基于記憶、經(jīng)驗(yàn)、直覺(jué)、印象以及簡(jiǎn)單肖像特征來(lái)“識(shí)人”的認(rèn)知體系千古未變，時(shí)至今日這套系統(tǒng)正在趨于瓦解和失效。眼見(jiàn)為實(shí)，越發(fā)成為一種錯(cuò)覺(jué)式的存在。當(dāng)然，就算如此，也大可不必陷入“技術(shù)悲觀主義”的悵然情緒中，須知，圍繞技術(shù)工具的善惡交鋒、攻防對(duì)壘，本就是現(xiàn)代社會(huì)的常態(tài)，且結(jié)果往往都導(dǎo)向積極的一面。
隨著AI技術(shù)的普及、通用化，其門(mén)檻和成本越來(lái)越低，使用者越來(lái)越多，由此注定會(huì)導(dǎo)致與之相關(guān)的侵權(quán)、違法案例越來(lái)越多發(fā)?？梢灶A(yù)見(jiàn)，在未來(lái)的一段時(shí)間，群眾或許會(huì)感嘆“AI造假層出不窮，AI詐騙防不勝防”。為此破局，一方面要強(qiáng)化公共宣教，確立新的防騙反詐意識(shí)；另一方面，還是要加快防御性、對(duì)抗性技術(shù)工具的推廣落地和應(yīng)用嵌入。比如，不妨嘗試在常用的社交媒介軟件中，內(nèi)嵌聲紋、人臉識(shí)別的身份核驗(yàn)?zāi)K。如此，或許就能少些“換臉冒充好友借錢(qián)”之類(lèi)的案件。（然玉）
標(biāo)簽：
