“ ZAO ”換臉刷屏，但背后隱私、版權(quán)、倫理的風險細思恐極

時間：2023-05-11 18:09:01 | 來源：網(wǎng)站運營

時間：2023-05-11 18:09:01 來源：網(wǎng)站運營

“ ZAO ”換臉刷屏，但背后隱私、版權(quán)、倫理的風險細思恐極：一夜 " 成 " 明星不再是夢。



從昨天晚間開始，一個名為 "ZAO" 的 AI 換臉 App 忽然火爆全網(wǎng)，用這款 App 制作的換臉視頻在微博、朋友圈隨處可見。



用戶只需要上傳一張照片，就能將自己的臉替換成 " 小李子 "" 周潤發(fā) "" 白展堂 "" 瑪麗蓮夢露 "" 緋紅女巫 " 等人的臉，其人臉融合效果幾乎能夠以假亂真。用戶可以通過這個軟件制作 GIF 動畫表情，也可以將自己換臉成偶像的搭檔，還可以與好友兩人一起進行換臉。



微信指數(shù)顯示，"ZAO" App 的傳播熱度直線上升



其實，AI 換臉視頻早已不是新鮮事。



早在 2017 年 12 月，國外一個 ID 名為 "deepfakes" 的 Reddit 論壇用戶首次將自己制作的 AI 換臉視頻發(fā)布在了網(wǎng)絡上，它能夠把照片和視頻中的人臉替換成任何想要替換的人臉，有些肉眼甚至難以分辨真假。



由于效果逼真，"deepfakes" 技術也被人應用在了一些成人視頻中。數(shù)以萬計的名人色情電影迅速充斥 Reddit，隨后國外不少成人視頻網(wǎng)站的各種推送頁面也被占領，最后連社交網(wǎng)絡 Twitter 也淪陷。包括斯嘉麗 · 約翰遜和《神奇女俠》女主角蓋爾 · 加朵在內(nèi)的多名女星都因為 AI 換臉技術，" 出演 " 了多部色情電影。



隨后，面臨法律和公關等多重壓力，Reddit 等網(wǎng)站先后撤下所有 AI 換臉視頻，并宣布此后禁止類似視頻上傳。迫于壓力，Reddit 還封殺了 "deepfakes" 的賬號，不過這次封殺卻讓 "deepfakes" 直接開源了其 AI 換臉項目的代碼。



在代碼開源后，只要具備基礎的電腦知識，即使一個 " 菜鳥 " 也能在幾個小時內(nèi)做出一部換臉視頻，該項技術立刻風靡全球。人們?yōu)榱思o念 "deepfakes"，就采用它的 ID 命名了 AI 換臉技術，稱之為 "deepfakes"。



今年年初，B 站 UP 主 " 換臉哥 " 發(fā)布的一段 94 版射雕英雄傳視頻中，飾演黃蓉的朱茵的臉被替換成楊冪，" 換臉哥 " 所使用的技術就是 "deepfakes"。



"ZAO" App 中也存在對影視人物的換臉玩法



雖然 "ZAO" App 并沒有表示其換臉技術源自開源的 "deepfakes"（" 深度造假 "）代碼，但二者的技術確實存在強烈的相似性。



"AI 換臉一時爽 "，但從目前看來，后續(xù)侵權(quán)、倫理等方面的風險層出不窮。作為一個用戶，在下載 App 嘗鮮制作、傳播換臉視頻的同時，也要考慮到它可能會給你帶來的麻煩。



「刷屏視頻涉嫌侵犯他人多項權(quán)力」



涉及到換臉這么一個魔幻而又敏感的話題，是否可能侵權(quán)自然是第一個重要議題。



針對逐漸開始泛濫的 AI 換臉視頻，杭州金誠同達律師事務所的劉宗鑫律師曾表示，AI 換臉技術涉嫌侵犯他人的肖像權(quán)、名譽權(quán)和著作權(quán)等多項權(quán)利。



首先，換臉視頻涉嫌侵犯他人的肖像權(quán)。



我們來具體看一下很多用戶恐怕在注冊的事后都沒有細看過的 "ZAO" 的用戶協(xié)議。其中有這么一部分：



6. 您的必要授權(quán)：除非另有約定，您使用 "ZAO" 上傳及 / 或發(fā)布的用戶內(nèi)容的所有權(quán)、知識產(chǎn)權(quán)及其他法律權(quán)利，歸您、您的許可方或者您的關聯(lián)方所有，責任亦由您承擔。



這個條款字面上的意思已經(jīng)非常明確了，基于細節(jié)條款，"ZAO" 及其關聯(lián)公司以及 "ZAO" 用戶實質(zhì)上獲得許可，用戶上傳內(nèi)容后即是默認授予了自己上傳內(nèi)容的部分使用權(quán)；而一旦構(gòu)成侵權(quán)，" 責任亦由您承擔 "。



這個大項下的條款細節(jié)具體涉及到幾個層面：



1 ) 在您上傳及 / 或發(fā)布用戶內(nèi)容之前，您同意或者確保實際權(quán)利人同意授予 "ZAO" 及其關聯(lián)公司以及 "ZAO" 用戶全球范圍內(nèi)完全免費、不可撤銷、永久、可轉(zhuǎn)授權(quán)和可再許可的權(quán)利，包括但不限于可以對用戶內(nèi)容進行全部或部分的修改與編輯（如將短視頻中的人臉或者聲音換成另一個人的人臉或者聲音等）以及對修改前后的用戶內(nèi)容進行信息網(wǎng)絡傳播以及《著作權(quán)法》規(guī)定的由著作權(quán)人享有的全部著作財產(chǎn)權(quán)利及鄰接權(quán)利；



這也就意味著你的內(nèi)容一旦上傳之后，就是默認許可 "ZAO" 以及 "ZAO" 平臺上的所有用戶進行再次改編使用了——這里的風險想來也不用我們細說。



2）如果您把用戶內(nèi)容中的人臉換成您或其他人的臉，您同意或確保肖像權(quán)利人同意授予 "ZAO" 及其關聯(lián)公司全球范圍內(nèi)完全免費、不可撤銷、永久、可轉(zhuǎn)授權(quán)和可再許可的權(quán)利，包括但不限于：人臉照片、圖片、視頻資料等肖像資料中所含的您或肖像權(quán)利人的肖像權(quán)，以及利用技術對您或肖像權(quán)利人的肖像進行形式改動。



這一條則是明確了 "ZAO" 及其關聯(lián)公司有對用戶內(nèi)容再次使用的權(quán)利。



3 ) "ZAO" 及其關聯(lián)公司可自行選擇是否使用以及使用方式，包括但不限于將前述信息在 "ZAO" 及其關聯(lián)公司旗下的服務平臺上使用與傳播，將上述信息再次編輯后使用，以及由 "ZAO" 及其關聯(lián)公司授權(quán)給合作方使用、編輯與傳播等。"ZAO" 及其關聯(lián)公司將盡最大努力在合理范圍內(nèi)使用上述內(nèi)容，且您的必要授權(quán)并不代表 "ZAO" 及其關聯(lián)公司對上述信息內(nèi)容的必然使用，也不改變上述信息內(nèi)容的所有權(quán)及其知識產(chǎn)權(quán)歸屬，更不影響您對上述內(nèi)容信息任何合法使用；



這一條則是為 "ZAO" 之后對用戶 UGC 的使用、跨平臺的二次傳播，以及再編輯后使用，以及向合作方再次授權(quán)進行了規(guī)定。也就是說，基于這些條款下，你上傳的內(nèi)容不但可能在 "ZAO" 被傳播，甚至可能經(jīng) "ZAO" 的授權(quán)許可被分發(fā)到其他平臺上——而這一切都是在你點擊注冊的一刻就已經(jīng)默認授權(quán)許可了的。



實際上，根據(jù)法律規(guī)定，任何人在未經(jīng)肖像權(quán)人同意之前，都不得擅自將他人的形象制作成肖像，或者擅自使用他人肖像，否則構(gòu)成侵權(quán)行為。今年 4 月二審的《民法典人格權(quán)編 ( 草案 ) 》里，就已經(jīng)有明文規(guī)定" 任何組織和個人不得以利用信息技術手段偽造的方式侵害他人的肖像權(quán)。"



一個簡單粗暴的解釋就是，在新的《民法典人格權(quán)編 ( 草案 ) 》下，管你是不是營利行為，只要被使用了肖像權(quán)的用戶（可能是你隨手上傳上去的同學照片）沒有明確同意授權(quán)，而你又 " 一時手賤 " 做了合成小視頻，對方就可以告你侵權(quán)了。



而根據(jù) "ZAO" 的條款，上傳了就是授權(quán)了全平臺及用戶使用乃至于二次編輯。但一旦侵權(quán)，那就僅僅是你的麻煩了。



其次，除了肖像權(quán)，AI 換臉技術的濫用也可能侵犯他人的名譽權(quán)。



AI 換臉技術可以將他人的面部任意 "PS" 在其他視頻中，從國外某視頻小網(wǎng)站一度被 AI 換臉視頻 " 攻占 "，就可以想象到有多少 AI 換臉可能被用到不利于肖像權(quán)本人的方面上。而根據(jù)法規(guī)，只要行為人合成的視頻可能導致他人評價降低，就涉嫌侵犯了他人的名譽權(quán)。



這個范圍就不僅僅局限于不雅視頻了。杭州金誠同達律師事務所的劉宗鑫律師表示，除了不雅視頻之外，凡是將他人的面部 PS 在諸如辱罵、斗毆、吸毒等可能導致他人社會評價的降低的視頻中，都可能構(gòu)成侵權(quán)。



比如說你把某個當紅偶像明星換上了經(jīng)典的發(fā)哥點煙電影橋段，但對方恰好是禁煙宣傳大使，那這也有可能因為 " 導致他人評價降低 "，而構(gòu)成侵權(quán)。



原本飾演 " 黃蓉 " 一角的朱茵變成了楊冪



最后，AI 換臉技術可能侵犯他人的著作權(quán)。



除了肖像權(quán)、名譽權(quán)等人身權(quán)利，制作對影視作品的換臉視頻還可能涉嫌侵犯著作權(quán)人所享有的 " 保護作品完整權(quán) "。



所謂保護作品完整權(quán)，是著作權(quán)人所享有的保護作品不受歪曲、篡改的權(quán)利。司法實踐中，杭州知產(chǎn)法院曾在 ( 2015 ) 京知民終字第 811 號案中明確指出：



"侵犯保護作品完整權(quán)的行為不以 " 有損作者聲譽 " 為要件。也就是說，不論使用者是惡意還是善意、是否出于故意，只要對作品的使用客觀上起到歪曲、篡改的效果，改變了作品的內(nèi)容、觀點、形式，就應判定構(gòu)成對作品完整權(quán)的損害。"



也就是說，即便你僅僅是看不慣流量明星蹩腳的演技，把他們換成了一眾老戲骨， 依照上述觀點，你利用 AI 換臉技術 " 改編 " 影視作品的行為并沒有損害到著作權(quán)人的聲譽，但由于客觀上屬于未經(jīng)作者許可改變作品的行為，也會涉嫌構(gòu)成侵權(quán)。



綜合下來可以說，侵權(quán)方式何其多?？芍^是，"AI 換臉一時爽 "，事后侵權(quán)火葬場。



「AI 換臉引發(fā)的隱私及倫理問題難解」



事實上，AI 換臉技術自爆發(fā)后，就一再被人惡意使用，隨之引發(fā)的隱私及倫理問題層出不窮。



最直接的一個問題就是名人明星的名譽權(quán)很難被保障了。



目前，國內(nèi)外都有用戶使用 AI 換臉技術進行明星人物的換臉惡搞、甚至生成虛假視頻——比如今年 6 月時，F(xiàn)acebook 首席執(zhí)行官馬克扎克伯格的一段被篡改過的視頻浮出水面。



扎克伯格被篡改的視頻截圖



在視頻中，扎克伯格的口型和聲音受到操控，正在以負面論調(diào)討論 Facebook 的影響力。



這段視頻的標題是 Facebook 將 " 提高廣告透明度 "，但被篡改過的扎克伯格的聲音則在說：" 花一秒鐘想象一下，一個人完全掌控著被竊取的數(shù)十億人的數(shù)據(jù)，掌控著他們所有的秘密、他們的生活、他們的未來。"



而諷刺的是，網(wǎng)友查證這段假視頻的素材似乎來自于扎克伯格談論俄羅斯干預美國 2016 年總統(tǒng)選舉的視頻。



受此類事件影響，F(xiàn)acebook 最近更新了相關政策，任何被第三方事實核查人員認定為虛假或具有誤導性的內(nèi)容，都將被自動從運營廣告和 Facebook 盈利中被刪除。



為了解決類似問題，美國學術界、政府機構(gòu)和一些創(chuàng)企已經(jīng)開始紛紛推出自己的圖像、視頻驗證、標記技術，期望通過在你拍攝照片或視頻的時候自動添加時間、位置信息等方式，對抗 AI 換臉視頻、圖片帶來的威脅。



例如，創(chuàng)業(yè)公司 Truepic 正在與高通公司合作，將其技術添加到手機硬件組件中。這項技術將在拍攝照片和視頻時自動標記時間和位置等數(shù)據(jù)，以便日后進行驗證。Truepic 還提供了一個免費的應用程序，消費者可以用它在智能手機上拍攝經(jīng)過驗證的照片。



另一方面，隨著 " 刷臉支付 " 逐漸被推廣開來，那么類似的 "AI 換臉 " 技術是否會對我們的支付安全造成影響，也成了普通用戶的一個直接憂慮。



2017 年的央視 "315 晚會 " 就曾經(jīng)披露過人臉識別技術可能曾存在的風險。在晚會現(xiàn)場，主持人在網(wǎng)上隨便找來的一張人物自拍，通過簡單的圖像處理和動態(tài)合成技術，將網(wǎng)絡人臉合成到事先準備好的視頻上，覆蓋原視頻的人臉，就能騙過一些通過面部識別作為認證信息的軟件。



兩年后的今天，雖然 "AI 換臉 " 技術日益精進，但在 " 刷臉支付 " 逐漸推廣開來的情況下，安全防護與當時自然也是不可同日而語。目前的 " 刷臉支付 " 除了人臉識別以外，通常還附加有多項活體檢測技術的支持。



曠視科技手機解鎖項目負責人喬梁曾在 InfoQ 的活動上介紹過，現(xiàn)在線上金融場景的活體攻擊主要有三類：第一類是換臉攻擊，把這個人臉上貼成另一個人的臉。第二類是屏幕翻拍攻擊，類似于手機解鎖攻擊。第三類是通過計算生成一張 3D 假臉進行攻擊。因為金融場景直接與經(jīng)濟利益相關，攻擊手段也是層出不窮。



目前類似曠視科技的技術企業(yè)，會采用不同類型的活體算法來防御這些攻擊，例如要求用戶搖搖頭、眨眨眼，來判斷當前進行操作的對象是不是一個 " 活人 "。



喬梁表示，在支付上，只有特定的攝像頭硬件方案才能達到這種安全水準，例如蘋果所采用的結(jié)構(gòu)光雙攝?；诮Y(jié)構(gòu)光雙攝所采用的原理，它能防御所有的 2D 攻擊手段，包括屏幕和紙張——那么兩年前 "315" 晚會上的簡單破解方式，就很難在今天再次實現(xiàn)。



但由于支付場景的敏感性，攻擊者可能采用 3D 打印或者硅膠膜此類成本更高的攻擊手段來竊取機主的財產(chǎn)，這就需要算法公司繼續(xù)針對特定場景研究應對措施，解決此類問題。



所以說，" 道高一尺，魔高一丈 "，安全從來都是一個攻防交疊的領域，你有你的張良計，黑產(chǎn)也難免有黑產(chǎn)的過墻梯，我們也只能是保持樂觀，保持警惕。



而在大量倫理、法理、安全問題沒有解決的情況下，AI 換臉就已經(jīng)迎來了這樣消費級的移動端產(chǎn)品，難免會對市場帶來不小的沖擊。



不難想象，在 "ZAO" 一炮而紅之后，必然會有大量相似的產(chǎn)品迅速跟上——而這些快速上架的產(chǎn)品在用戶隱私、安全保護等方面考慮得有多深就不好說了。



今天，在只要幾張照片、視頻就能快速換臉的時代，你的 " 臉 " 不再是你的臉，那你還會是你嗎？



來源：鈦媒體