近日，一款主打“僅需一張照片，出演天下好戲”的換臉App——“ZAO”大火。該App使用AI技術，用戶只需要一張正臉照，就可以替換為影視作品或者小視頻中的人物，生成以自己為主角的視頻片段。這讓“戲精”上身的網友一夜之間刷屏朋友圈。

    天眼查信息顯示，ZAO所屬公司為長沙深度融合網絡科技有限公司，法定代表人為陌陌聯(lián)合創(chuàng)始人兼游戲業(yè)務部總裁雷小亮，由海南貓咖網絡科技有限公司100%控股。而后者由雷小亮和陌陌董事、總裁及COO王力各持股50%。

    爭議：

    1.“換臉視頻”收集的面部信息，是用戶最核心的個人信息

    由于換臉后需要進行眨眼、抬頭等各種驗證，與刷臉支付采集的臉部信息類似，同時注冊平臺需要手機號碼，不少用戶擔心臉部數據被泄露會引發(fā)一系列問題。專家指出，此類軟件的確存在隱私泄露風險。

    中國政法大學傳播法研究中心副主任朱巍分析，在這個過程中，可能存在核心個人信息泄露的風險，“首先，換臉技術，包括在搜集信息過程中轉動臉部、眨眼，本質是搜集了你面部的識別信息，這個是用戶最核心的個人信息。個人信息一旦被比對之后，如果落到壞人的手里，有可能涉及財產安全和人身安全的問題。”

    2.“換臉視頻”中，涉及影視劇著作權、知識產權

    在軟件內置可供選擇的影視劇片段中，有包括《延禧攻略》《長安十二時辰》《還珠格格》在內的多部熱門國內電視劇，也有石原里美、萊昂納多·迪卡普里奧等國外明星的影視劇片段，還有大量熱門的綜藝片段。

    對此，朱巍指出：“換臉技術要把人臉放到影視劇里面去，影視劇本身涉及著作權、知識產權。突然間把臉換了，是不是構成合理使用？這個可能跟知識產權法有密切關系。”

    3.App的用戶協(xié)議太霸道

    這款軟件的用戶協(xié)議寫道，使用這款軟件的換臉功能，需要同意授予這款軟件及其關聯(lián)公司全球范圍內完全免費、不可撤銷、永久、可轉授權和可再許可的權利，包括但不限于：人臉照片、圖片、視頻資料等肖像資料中所含的肖像權利人的肖像權，以及利用技術對肖像權利人的肖像進行形式改動。

    北京岳成律師事務所律師岳?山指出：“我授權給你以后，你不能把我的照片用于其他的非法用途，或者把我的照片進行修改、丑化、惡搞，這對我授權給你使用肖像權的目的存在一定偏差。這個時候其實對于上傳照片的App用戶來講，可能構成的是名譽上的侵權，或者導致他的社會評價降低等，這也有可能構成侵權。”

    8月31日晚，該款軟件“用戶協(xié)議”中，“您的必要授權”這一項內容與此前相比進行了較大幅度的修改，去掉了關聯(lián)公司相關表述等內容。

    回應：“不管換得多逼真，都無法突破刷臉支付”

    “目前，網上各類換臉軟件有很多，但不管換得有多逼真，都是無法突破刷臉支付的。”8月31日中午，螞蟻金服官方回復21世紀經濟報道記者時說。此外，在進行人臉識別后，部分用戶還需要輸入與賬號綁定的手機號進行校驗，進一步提高了安全性。同時，支付寶還會通過各種安全風控策略確保賬戶安全。

    一位國有大行網絡金融部負責人表示，其團隊今年年初找權威機構做過人臉識別相關的檢測，“在活體檢測、視頻攻擊等方面存在一定風險；后臺算法升級會使防控效果有一定提升，但是類似換臉的攻擊威脅會一直存在。”

    觀點：“科技向善”應該成為我們的底線

    在2019世界人工智能大會上，在以“科技有道，擇善而行”為主題的分論壇上，該App引起了嘉賓們的討論。

    英特爾副總裁陳偉提到，如果一些技術用得不當，可能會造成不良后果，“技術能決定你走多高，向善能決定你走多遠”。

    騰訊董事會主席兼首席執(zhí)行官馬化騰在2019世界人工智能大會開幕式演講時說，這也再次提醒人們思考如何探索人與AI的正確相處之道。“在AI的治理方面，以科技向善引領全方位治理，確保AI可知、可控、可用、可靠。這個‘四可’的原則，是我在去年大會上提出的。觀察這一年來的情況，我們發(fā)現(xiàn)AI治理的緊迫性越來越高。”

    騰訊優(yōu)圖實驗室總經理吳運聲說，這個技術不僅僅涉及視頻，還有聲音。“科技向善確實應該成為我們的一種底線。我們要不斷地去思考：我們技術的底線在什么地方？”

    思考：人工智能進行“換臉”門檻逐漸降低，安全隱患增加

    其實，人工智能進行“換臉”的技術數年前已經出現(xiàn)。2017年，國外一個論壇用戶首先將自己制作的“換臉”視頻發(fā)布在網絡上，利用這一技術，他將國外女明星的照片與色情影片合成，幾乎以假亂真，一度引發(fā)巨大爭議。今年年初，有國內用戶在網絡上發(fā)布一段合成的“換臉”視頻，將一段電影片段中朱茵的臉換成了楊冪，也曾引起爭議。隨著如今這款軟件的爆紅，視頻“換臉”門檻進一步降低。

    AI換臉軟件所引發(fā)的爭議表面上是圍繞隱私保護，但在本質上卻反映了一個全社會甚至全人類必須面對的新課題：人類技術在飛速進步，在不斷進入新的領域，它不僅給人類帶來更高品質的生活，同時也會引發(fā)大量創(chuàng)造性破壞。這對人類現(xiàn)有制度體系、運行機制、法律規(guī)則和社會秩序等都將造成前所未有的挑戰(zhàn)。


作者：吳海舒
編輯：吉倩倩 實習編輯 王紅春
來源：據央廣網、上游新聞、新京報、澎湃新聞、第一財經、21世紀經濟報道