《中國經(jīng)濟周刊》 記者  宋杰 | 上海報道

近期，來自上海一家企業(yè)開發(fā)的小程序“妙鴨相機”因為其高識別度而迅速走紅。花9.9元就能擁有4款發(fā)型的“數(shù)字分身”，選擇其中之一與現(xiàn)有身體模板合成，就能擁有美麗的相片。雖然目前上線的身體模板并不多，但由于該軟件識別、還原度較高，且收費不算貴，因此在朋友圈迅速流行。

同時，能以假亂真、掩人耳目的AI技術(shù)因在民事方面易引發(fā)肖像權(quán)等侵權(quán)行為，刑事方面易引發(fā)詐騙罪、侵犯公民個人信息罪等，也引發(fā)了不少爭議。記者查閱中國裁判文書網(wǎng)后發(fā)現(xiàn)，從2022年8月至今年4月，共有12起由“AI換臉”引發(fā)的民事訴訟。

體驗：想要得到“完美”數(shù)字分身，記者上傳了60張照片

“像是像的，就是PS得很厲害，臉型不太像，五官像，我付了9.9元，在線上排了9小時的隊。”熱愛拍美照的葛女士對 《中國經(jīng)濟周刊》 記者說，“朋友圈里不知道的同事還問我是哪里拍的寫真，AI感不強，因為變高清及下載都要額外費用，所以我又忍不住充了錢。”

《中國經(jīng)濟周刊》 記者實測后發(fā)現(xiàn)，系統(tǒng)要求最少上傳20張人像照片，上傳的照片分為“達標”“超棒”“完美”三個等級，為達到“完美”等級，記者前后共上傳了60張照片，最終成功“換臉”，通過細節(jié)調(diào)整進一步生成寫真，想要高清及下載，還需要充值購買“鉆石”。

通過測試，《中國經(jīng)濟周刊》記者感覺古裝的造型與本人差距較大，想聯(lián)系人工客服退款，通過小程序始終無人應(yīng)答。

除了“像或不像”的問題之外，其背后的AI技術(shù)也引發(fā)了部分用戶對隱私泄露的擔(dān)憂。有網(wǎng)友質(zhì)疑妙鴨相機之前的用戶協(xié)議。

第一版的隱私協(xié)議如是表述：“您特此授權(quán)我方在全世界（包括元宇宙等虛擬空間）范圍內(nèi)享有永久的、不可撤銷的、可轉(zhuǎn)讓的、可轉(zhuǎn)授權(quán)的、免費的和非獨家的許可，使得我方可以任何形式、任何媒體或技術(shù)（無論現(xiàn)在已知或以后開發(fā)）使用您的內(nèi)容。”

7月20日，妙鴨相機通過官方微博發(fā)布公告稱：已經(jīng)收到用戶關(guān)于妙鴨用戶協(xié)議的反饋，原協(xié)議內(nèi)容有誤，已進行了修改。妙鴨相機同時承諾，消費者上傳的照片只會用于數(shù)字分身制作，不會提取也不會用于識別和其他用途，且分身制作完成后自動刪除。

在該條微博評論留言中，妙鴨相機回復(fù)網(wǎng)友時表示，即將上線注銷功能，用戶可以自主選定是否要清除自己妙鴨的所有數(shù)據(jù)信息，同時，新版隱私協(xié)議已向包括已簽署過的老用戶在內(nèi)的全體用戶發(fā)起新版協(xié)議簽署流程。

7月26日，上海市消保委發(fā)文稱：“上海市消保委微信團隊的工作人員翻完該小程序的服務(wù)協(xié)議，并沒有找到退款相關(guān)條款。唯一跟退款相關(guān)的只有在支付下方的：一旦購買成功，不支持退款。上海市消保委認為，此項協(xié)議涉嫌侵害消費者的公平交易權(quán)。”

7月27日，妙鴨相機運營方未序網(wǎng)絡(luò)科技公司表示，目前妙鴨相機在微信公眾號端已設(shè)有客服入口，但由于團隊處于創(chuàng)業(yè)初期，客服人員配置不足給用戶造成了不便。對此，公司表示深感歉意，并承諾將盡快增加客服人員，同時增加小程序端客服入口，以暢通與用戶的溝通渠道，高效處理用戶反饋問題。

一旦有糾紛，法院怎么判？

記者通過查詢關(guān)鍵詞“AI換臉”查閱中國裁判文書網(wǎng)后發(fā)現(xiàn)，已經(jīng)有不少肖像權(quán)案件，最終法院判決的賠償金在1000～8000元不等。

比如：在上海市金山區(qū)人民法院的一起關(guān)于肖像權(quán)糾紛的 《民事判決書》 中這樣寫道：“被告在原告未授權(quán)同意的情況下，在其運營的‘×××’換臉軟件中的‘古風(fēng)漢服’欄目里，上傳以原告肖像為原內(nèi)容的視頻提供給用戶換臉使用而非法牟利。被告通過AI換臉技術(shù)，將該視頻開放給眾多用戶分享并允許用戶通過購買成為被告的會員后，自行制作‘換臉’后的視頻以達到使用該軟件的核心功能的目的。”最終，除被告需道歉外，法院裁定被告賠償原告5200元。

北京德和衡 （上海） 律師事務(wù)所高級聯(lián)席合伙人婁鶴接受《中國經(jīng)濟周刊》記者采訪時說，以妙鴨相機為代表的AI換臉應(yīng)用程序，主要存在一些個人信息保護和數(shù)據(jù)安全方面的潛在隱患。

他分析道，根據(jù)民法典第一千零一十八條：“肖像是通過影像、雕塑、繪畫等方式在一定載體上所反映的特定自然人可以被識別的外部形象。”這表明肖像權(quán)的范圍并不僅限于人的面部特征，還包括佩戴口罩、側(cè)面、形體動作等，只要能夠識別特定自然人的外部形象都受到肖像權(quán)的保護。民法典明確了侵犯肖像權(quán)的具體行為，其中包括未經(jīng)肖像權(quán)人同意，丑化、污損或者利用信息技術(shù)手段偽造等方式侵犯他人的肖像權(quán)，例如使用AI換臉技術(shù)。

“在中國，侵害肖像權(quán)的法律責(zé)任形式，主要是承擔(dān)民事責(zé)任。該民事責(zé)任方式包括停止侵害、消除影響、賠禮道歉、賠償損失。”婁鶴對記者說，在我國的司法實踐中，即使侵權(quán)人不以營利為目的，只要存在惡意毀損、玷污、丑化公民的肖像，或利用公民肖像進行人身攻擊等，也被認定為屬于侵害肖像權(quán)的行為。因此，“以營利為目的”，并不是決定是否存在侵犯公民肖像權(quán)的唯一前提和要件。在“AI換臉”案件中，軟件公司通常都是商業(yè)運營的主體，并以獲取流量或銷售服務(wù)為目的，通常被認定為侵權(quán)主體。如果通過“AI換臉”，尤其是利用一些明星、名人效應(yīng)“吸粉”，通過互聯(lián)網(wǎng)傳播換臉后的圖文、視頻等，導(dǎo)致他人社會評價受損，則可能侵犯他人的名譽權(quán)。

近期，國家網(wǎng)信辦等七部門聯(lián)合公布 《生成式人工智能服務(wù)管理暫行辦法》，自2023年8月15日起施行，其中就有許多關(guān)于“個人信息安全保護”的條款。出臺該辦法，既是促進生成式人工智能健康發(fā)展的重要要求，也是防范生成式人工智能服務(wù)風(fēng)險的現(xiàn)實需要。

婁鶴認為，對于企業(yè)而言，在利用AI技術(shù)提供服務(wù)時，應(yīng)該提高合法合規(guī)意識，確保數(shù)據(jù)處理和信息生成的合法性、正當(dāng)性和規(guī)范性，采取措施來落實個人信息保護的要求，提前進行風(fēng)險評估，加強消費者權(quán)益保護。

同時，婁鶴建議，消費者在使用AI類產(chǎn)品和服務(wù)時，為了最大程度減少風(fēng)險隱患，應(yīng)注意以下幾點：要有風(fēng)險防范意識，注重個人信息和隱私保護；在使用前仔細閱讀用戶協(xié)議和隱私政策，了解服務(wù)方對個人數(shù)據(jù)的處理和保護；選擇可信賴的服務(wù)提供商，確保其具備良好的安全措施和合規(guī)性；盡量避免上傳過于敏感的個人照片或信息；如果發(fā)現(xiàn)個人信息泄露或侵權(quán)事件，要積極主動維權(quán)。

（本文刊發(fā)于《中國經(jīng)濟周刊》2023年第15期）

2023年第15期《中國經(jīng)濟周刊》封面