只要在APP中上傳一張照片，你想變成哪個明星，就能變成哪個明星。聽起來很夢幻，但卻觸手可及。近日，一款名為“ZAO”的AI換臉APP在朋友圈刷屏。根據(jù)官方的介紹，利用AI技術(shù)，用戶可以在ZAO軟件上使用自己的照片替換影視劇或者小視頻中的人物，從而生成以自己為主角的視頻。ZAO的口號為“僅需一張照片，出演天下好戲”。AI換臉效果在視頻中幾乎可以“以假亂真”，一時間不少網(wǎng)友發(fā)現(xiàn)自己的朋友圈被各種“自己與明星飆戲”的短視頻所刷屏，也吸引了大量網(wǎng)友嘗鮮。其火爆程度從ZAO官方助手在8月30日夜間發(fā)布微博可見一斑：“這個月花700萬租的服務器，今晚已經(jīng)消耗1/3了。”

一

但ZAO在走紅的同時，也引發(fā)了不小的爭議，其用戶協(xié)議不僅讓ZAO可免費使用并修改用戶的肖像，還可以將它任意授權(quán)給自己想授權(quán)的第三方，甚至當作信息進行販賣。這使得大眾對于AI換臉技術(shù)所帶來的個人信息泄露風險產(chǎn)生了擔憂。

9月3日，針對媒體公開報道和用戶曝光的“ZAO”APP用戶隱私協(xié)議不規(guī)范，存在數(shù)據(jù)泄露風險等網(wǎng)絡數(shù)據(jù)安全問題，工業(yè)和信息化部網(wǎng)絡安全管理局對其背后的北京陌陌科技有限公司相關負責人進行了問詢約談，要求其嚴格按照國家法律法規(guī)以及相關主管部門要求，組織開展自查整改，依法依規(guī)收集使用用戶個人信息，規(guī)范協(xié)議條款，強化網(wǎng)絡數(shù)據(jù)和用戶個人信息安全保護。微信等平臺也對ZAO的分享鏈接屏蔽，提示理由為“網(wǎng)頁存在安全風險，被多人投訴”。隨后，因用戶協(xié)議涉嫌過度收集用戶信息及隱私安全爭議，AI換臉軟件ZAO火速發(fā)布致歉聲明，將自己再次送上了微博熱搜。

二

面對種種爭議和ZAO的道歉，相關話題也隨即沖上熱搜榜，但由此引發(fā)的隱私保護爭議和反思并未平息。

AI換臉的背后，其實也遠不止泄露公眾隱私這么簡單，技術(shù)被不法分子濫用將會是AI換臉軟件最大的風險之一。據(jù)資料顯示，早在2017年，國外一位ID為“deepfakes”的網(wǎng)友，利用業(yè)余時間創(chuàng)造了一個AI換臉算法，并在國外風靡過一段時間。但“deepfakes”的算法很快被一些人用于明星和色情行業(yè)，許多公眾人物成為受害者，最終在飽受外界爭議的情況下被封殺。

近日，澎湃新聞就報道了在二手交易平臺閑魚APP上發(fā)現(xiàn)，有多位賣家通過AI換臉技術(shù)制作出當紅女明星的不雅視頻，進行售賣的現(xiàn)象。這不僅侵害了被換臉的當紅女星的肖像權(quán)，可能構(gòu)成侮辱罪，還對我國打擊色情產(chǎn)業(yè)工作造成了極其惡劣的負面影響。

三

對于新技術(shù)、新事物從來不一刀切，這是我國改革開放以來，“摸著石頭過河”的政府對于創(chuàng)新給予最大限度的寬容，但AI換臉也讓人們看到了人工智能從“深度學習”到“深度偽造”的“作惡”速度如此之快。

當然，我們也不能因為AI換臉存在，就否定人工智能的技術(shù)進步和社會發(fā)展趨勢，畢竟技術(shù)進步對于社會進步的意義本身是無可厚非的。但技術(shù)的使用需要底線，這一底線就是不能違背最基本的公序良俗。任何創(chuàng)新也只有在技術(shù)、市場、規(guī)則和法律之間，找到平衡點，趨利避害，才能維持其自身的合理發(fā)展，維持用戶的使用熱度，為技術(shù)注入靈魂，推動社會進步發(fā)展。

彭茂洋