Deepfake利用生成對(duì)抗網(wǎng)絡(luò)(GAN)強(qiáng)大的圖像生成能力,可以將任意的現(xiàn)有圖像和視頻組合并疊加到源圖像和視頻上,它可以記錄一個(gè)人面部的細(xì)節(jié)。經(jīng)過多年的發(fā)展,Deepfake技術(shù)已經(jīng)可以進(jìn)行實(shí)時(shí)換臉,并且毫無違和感。
不過,在視頻時(shí), Deepfakes 難以為面部動(dòng)態(tài)表情制作高置信度動(dòng)畫,視頻中的要么就從不眨眼,或者眨眼過于頻繁或不自然。而且音頻與假人圖像也會(huì)配合的不夠自然。
所以這種視頻持續(xù)10秒就會(huì)讓人懷疑,面試全程時(shí)間會(huì)比較長,更加容易露出破綻。
科學(xué)技術(shù)的進(jìn)步和變革是一把雙刃劍。人工智能技術(shù)雖然為我們提供了海量的便利,但同時(shí)也可能帶來的安全、倫理、隱私等一系列問題。人工智能發(fā)展的本質(zhì)是通過算法、算力和數(shù)據(jù)去解決完全信息和結(jié)構(gòu)化環(huán)境下的確定性問題。在這個(gè)數(shù)據(jù)支撐的時(shí)代,人工智能面臨諸多的安全風(fēng)險(xiǎn)。
人工智能不可避免地會(huì)引入網(wǎng)絡(luò)連接,人工智能技術(shù)本身也能夠提升網(wǎng)絡(luò)攻擊的智能化水平,進(jìn)而進(jìn)行數(shù)據(jù)智能竊取和數(shù)據(jù)勒索攻擊或者自動(dòng)生成大量虛假威脅情報(bào),對(duì)分析系統(tǒng)實(shí)施攻擊。