蔣紅梅
深偽(Deepfake,也稱“深度合成”)技術作為人工智能中極具顛覆性的力量,自問世后就飽受爭議。簡單來說,深偽是指利用深度學習算法實現音頻和視頻的模擬與偽造,包括語音模擬、換臉、表情操縱等。深偽不是常人理解的簡單換臉,而是基于人工智能神經網絡深度學習的變臉科技。比如近年來熱門的方法就是使用由深層網絡和鑒別網絡兩組AI 模型組成的生成對抗網絡(英文簡稱GANs),將數據生成的逼真度推升到一個新的高度,大大降低了深偽應用的門檻。但因為深偽技術被不法者濫用于偽造身份、混淆視聽、牟取利益等,給國家安全和社會安全帶來極大危害,關于深偽的爭議多聚焦于道德倫理和法律層面。
技術是中性的。深偽技術在影視制作、廣告營銷、社交娛樂等領域中有很多高效且成熟的應用,在降低成本的同時,也給人們帶來更美妙的藝術、更有趣更便捷的生活。美國動作演員布魯斯· 威利斯(Bruce Willis)對自己肖像權的深偽授權(用于一條俄羅斯廣告的拍攝和播放),美國演員詹姆斯·厄爾·瓊斯(James Earl Jones)對自己聲音的深偽授權(用于《星球大戰》系列影視作品的配音)等事件,拉開了個人深偽技術主動授權的大幕。在對深偽技術破壞性能力的全球性恐懼氛圍下,個人規范化的授權無疑會對深偽技術的未來應用和管理產生積極的正面影響。
深偽作為人工智能的前沿技術,發展迅速,個人授權遠未跟上深偽技術的發展速度。清華大學人工智能研究院等聯合發布的《深度合成十大趨勢報告(2022)》顯示,創作者在互聯網平臺中發布的深度合成內容的數量呈高速增長趨勢,以視頻為例,2021年新發布的深度合成視頻的數量,較2017年增長10 倍以上。由于人工智能的很多應用都具有技術先行驅動,管理、授權和規范后來跟上的規律,因此個人深偽授權必將迎來爆發期。
資本往往有著最靈敏的嗅覺,深偽應用高速增長背后是龐大的發展市場和可觀的商業價值。初始,利潤空間和流量空間巨大的頭部明星、網紅及部分特殊人群(配音演員、模特等)會用授權換利益,逐步將個人深偽授權帶入大眾的眼簾。與此同時,感受到龐大商業機遇的深偽內容從業者必將越來越多,使得深偽應用的商業化產品越來越多元,越來越成熟,從而催生個人深偽授權數量的攀升及高速增長。
一方面,越來越多合規的深偽技術應用將憑借生動的場景或新奇性、趣味性等多種特質吸引大眾,喚醒個人版權意識,促使個人授權市場高速增長;
另一方面,由于國家、政府和從業者將不斷通過各種手段強化大眾對深偽技術的認識,引導并約束大眾在合規使用深偽技術的同時,提高防范意識并鼓勵各類監督和舉報,這也必將喚醒大眾的倫理道德意識、法律意識和安全意識,合法合規地擴大個人深偽的授權面。
深偽技術其實離大眾并不遙遠,目前在影視制作、科技教育、電子商務、廣告營銷、社交娛樂等領域已經發展出不少多元化的商業應用,如AI 合成主播、虛擬偶像、修復歷史老照片、影視劇本地化配音、“數字復活”已過世演員等。同時,元宇宙等概念的面世,也為深偽技術提供了更廣闊的應用場景。未來虛擬人、數字人既是深偽的主要應用,也是元宇宙的重要組成部分。在這樣的應用細分背景下,個人深偽授權的嚴格細分也就成為必然。
深偽是威力無比的顛覆性技術,其適用的范圍寬泛而深遠。個人深偽授權的細分可以從多維度考察。一是看授權的應用范圍。布魯斯· 威利斯的授權,最開始被訛傳為將其所有肖像權全部授權給Deepcake公司,引起極大反響,后來布魯斯· 威利斯方辟謠說授權僅限于某條廣告,說明了有非常明確的應用范圍限制。應用范圍的細分還包括應用平臺如元宇宙平臺、網絡平臺、傳統電視平臺、手機平臺等的區別,并在此基礎上區分獨家、非獨家以及授權使用年限等。二是看授權的范圍。深偽授權可以是肖像、語音中的一種或兩種——未來的授權還可能有表情授權等更多元的形式,如表情大師可以將個人表情授權給虛擬人學習和運用;
姿勢也可以用來授權,如手??梢詫⒆约簝灻赖氖植縿幼饔枰允跈?,等等。
深偽技術的巨大“破壞性”注定了個人授權的嚴格細分。不嚴格細分的授權跟不授權一樣,后果都很糟糕。隨著專業研究的不斷深入,大量開源技術工具和代表性方法的不斷涌現,深偽內容的效果也越發逼真、制作更加高效,尤其是生成對抗網絡等方法的出現,讓合成內容達到了真假難辨的程度,面部替換、動作或表情操縱、人臉等圖像生成、聲音復刻、文本生成等功能,對深偽技術來說都易如反掌。甚至,深偽還將重新定義虛擬數字化空間,元宇宙等新的人類生存場景也將以深偽技術為基石徐徐展開。深偽的濫用和犯罪會越來越多,還將大量蔓延到虛擬網絡,因此具有嚴格法律效應的個人深偽授權必將嚴格細分。
只要授權聲音和圖像,個人的影像就可以以假亂真地出現在任何時空。深偽技術的特性使得人們僅憑想象,就能便捷地實現各種超越和穿越。布魯斯· 威利斯由于罹患失語癥,2022年3月已由家人代為宣布息影。撇開商業因素,其(或家人)授權影像給深偽公司深度學習合成深偽影像,出演遠在俄羅斯播放的廣告,是人工智能對人類想象的美好助力,遠遠超越了布魯斯· 威利斯本人的實際能力。同樣,詹姆斯·厄爾·瓊斯永久授權自己的配音給深偽制作公司,用于《星球大戰》最大、最深入人心的反派角色達斯·維德(Darth Vader)的未來所有配音,就是一個超越自己壽命授權的絕佳樣本(理論上說,《星球大戰》系列可以一直繼續拍攝下去)。深偽授權還可以超越現實世界,讓人“出現”在虛擬與真實交互的元宇宙等這種現實不存在、具備新型社會體系的數字生活空間。
深偽技術最終為人類服務,人類的各種超時空需求將因此得到滿足。在全球對深偽技術的憎恨和“喊打”情緒蔓延時,我們其實還是能看到它滿足人類各種需求時體現出的溫情一面。例如語音方向的深偽技術發展較快、普及迅速,合成音的音質和自然度越來越高,并衍生出聲音復刻、歌聲合成、方言合成、情感合成等更多功能,這些功能的實現除了滿足實際需求外,還在很大程度上滿足了人類對藝術、對故鄉、對愛的多種情感需求。詹姆斯·厄爾·瓊斯永久性授權配音給《星球大戰》的達斯·維德是一種美好的時空超越,也是人工智能對藝術的提升。未來,類似現代歌手與前代歌手同臺共唱的跨時空授權將越來越多地出現在我們身邊,深偽技術將滿足人們豐富多彩的精神和實際需求。
在深偽技術快速發展時,其可能帶來的危害引起了各國政府的高度關注。英國倫敦大學學院2020年8月發布的研究表明,未來15年內罪犯使用人工智能的20 種預期方式中,深偽技術排名第一,被列為最嚴重的威脅。歐美不少國家已出臺相關文件實施監管。2019年11月起,我國先后出臺《網絡音視頻信息服務管理規定》《網絡信息內容生態治理規定》等,《中華人民共和國民法典》要求“不論是否出于營利目的,均不得利用信息技術手段偽造他人肖像、聲音”,《互聯網信息服務算法推薦管理規定》明確要求“不得生成合成虛假新聞信息”,以上法律法規均對生成合成類內容提出了不同程度的監管要求。2022年11月,國家網信辦、工信部、公安部聯合發布了專門性管理文件《互聯網信息服務深度合成管理規定》,通過系統性、創新性的制度設計,首次明確了對深度合成服務的管理要求,明確了制定目的依據、適用范圍、部門職責和導向,明確了一般規定、數據和技術管理規范、監督檢查與法律責任以及相關用語的含義。規范深偽相關產品發布和授權是國家安全以及秩序維護的選擇。
深偽的厲害在于其可以基于人工智能神經網絡進行深度學習。數字化時代非法獲取他人唯一的、不可更改的和具有隱私特性的各種生物識別信息(臉部特征、指紋、虹膜、音視頻等)比以前更為容易,一些不法分子利用深偽技術從海量大數據中自主學習、分析并模仿數據特征生成虛假影音信息,在生成式對抗網絡等方法的加持下,不但可以以假亂真,還能做到篡改式的、捏造式的無中生有。無論被無意錯用還是有意濫用,給道德倫理和法律秩序帶來全新的挑戰和沖擊。要消弭深偽技術和社會領域快速融合時帶來消極影響和負面價值,正本清源的首要手段是規范授權、規范邊界以及規范使用。
要規范深偽應用和授權,提供有力支撐還得靠檢測技術。目前美國的推特和臉書等平臺都已下架深偽視頻并加大檢測力度。隨著深偽技術的偽造方法不斷出新,網絡傳播環境又日趨復雜多變,加上檢測算法存在漏洞缺陷等,反深偽檢測技術面臨“強對抗性”,需要持續更新與迭代。目前學術界和產業界均已對反深偽檢測投入了大量研究,Meta、谷歌、微軟等機構均推出了深偽視頻認證的方法或產品。在國內,清華大學、中科大等高校在深偽內容檢測方面取得顯著成果。在檢測和反檢測、深偽與反深偽的背后,是人們對良性秩序的追求,對深偽正向應用的肯定。檢測技術在給深偽授權提供正向支撐的同時,也將提供對非授權使用的辨偽。
在全球深偽技術應用由亂到治的進程中,深偽應用的爆發式增長必將帶來權益侵害的增多。由于深偽技術需要大量數據訓練學習以獲得更高逼真度,而明星、高管、學者、政要等公眾人物的圖像、視頻、音頻資料極易通過網絡獲取,他們也因此成為惡意深偽攻擊的首選群體。2019年10月,荷蘭網絡安全公司Deeptrace 的統計報告顯示,網絡上有高達96%的深偽視頻涉及色情,大部分受害者是娛樂圈女星。深偽內容模糊了真實和虛假的邊界,也將對政治信任、社會信任、媒體信任產生巨大影響。哪里有權益侵害,哪里就有官司。因此,未來的權益糾紛中捍衛自身權益的可能是個人,也可能是單位或機構,將呈現擴大化、多元化趨勢。
權益侵害帶來的維權需求將催生維權氛圍。隨著深偽技術、內容等各類從業者和研究者的增多,其中必有一部分人會投身于深偽權利糾紛的研究與解決中。專業從業者將跟上日益變化的深偽技術發展與相關監管要求,為個人或單位提供法律服務。這樣的維權氛圍反過來也將鼓勵或喚醒被侵害者的維權意識,自覺通過各種手段面對和解決權益侵害的糾紛。而社會上的深偽維權案例多了,又必將推動個人深偽主動授權的良性增加。
可以預見的是,個人主動深偽授權必將沿著自己的規律和趨勢蓬勃發展,在鼓勵正向應用的氛圍中,深偽技術將一步步邁入持續健康發展的軌道。在以AI 治理AI 的鑒別能力提升過程中,在更多從業者構筑的防御之墻面前,人類最終將有效減少和消弭深偽技術在國家安全、輿情安全、財產安全、市場操縱等領域帶來的危害和風險,盡享其給予世界美好而溫情的一面。
猜你喜歡人工智能我校新增“人工智能”本科專業西安航空學院學報(2022年2期)2022-07-04用“小AI”解決人工智能的“大”煩惱汽車零部件(2020年3期)2020-03-27當人工智能遇見再制造表面工程與再制造(2019年1期)2019-05-112019:人工智能商界(2019年12期)2019-01-03AI人工智能解疑答問家庭影院技術(2018年9期)2018-11-02人工智能與就業IT經理世界(2018年20期)2018-10-24基于人工智能的電力系統自動化控制通信電源技術(2018年3期)2018-06-26人工智能,來了軍營文化天地(2018年1期)2018-02-10數讀人工智能小康(2017年16期)2017-06-07人工智能來了學與玩(2017年12期)2017-02-16