据公开媒体报道，近日，某国曝出“Deepfake”（深度伪造技术）事件，利用生成式人工智能伪造、合成（AI换脸等）女性色情露骨图像的犯罪案，并在社交媒体上特别是“电报”（Telegram）聊天室中传播，参与者可能达到22万人（包含可能重复的情况），其中有成员创建和分享露骨的性“深度伪造”图像，对象涉及未成年女孩，引发该国民众恐慌。9月初，我国中科院从事Deepfake检测算法研究的团队成员公开表示，会将近期参加全球Deepfake攻防挑战赛的AI模型向全球开源，让所有有需要的人都可以免费使用模型来对抗Deepfake，以技术手段帮助受害人解决在深度伪造技术中“我要如何证明我不是我”的问题。
技术本身并无对错，科技的发展本应造福人类。除了以技术手段来反制对技术的恶意使用，技术的良性发展也离不开法律的规制和追责。因此，当境外发生了深度伪造技术事件发生之时，我国有关AI换脸服务制定了哪些法律规定，服务提供者、服务使用者需要履行哪些法律义务、个人信息主体又该如何维护自身信息权益，法律需要如何进一步完善……值得我们思考。
基于AI换脸场景，本文将对AI换脸服务相关主体的法律义务进行分析，并提出AI合成服务规范发展的法律措施，一方面帮助深度合成服务的提供者和服务使用者了解相关法律义务，另一方面，也希望个人主体懂得保护自身的个人信息和依法维护自身合法权益。
Deepfake是指基于深度学习等机器学习方法创建或合成视听觉内容，如图像、音视频、文本等。AI换脸（face-swap）是指用另一个人脸来替换一张图片或视频中的一个人脸，合成新的媒体物，是Deepfake（“深度伪造”）技术最广为人知的一种应用形式。 【1】在AI换脸过程中，必然存在着对自己、他人的人脸信息的使用行为。但每个人的人脸信息受法律保护，AI换脸不是想换就换，AI换脸服务也不能随意提供。随意使用自身人脸信息，存在着巨大的自身个人信息安全风险；擅自使用他人人脸信息，存在着严重的侵犯他人个人信息权益风险；恶意使用他人的人脸信息从事违法犯罪行为，还需要承担违法犯罪的相应法律责任。
人脸信息是可以直接识别个人的个人信息，一旦泄露、非法提供或滥用可能，则会危害人身和财产安全，极易导致个人名誉、身心健康受到损害或歧视性待遇等，根据我国个人信息保护相关法律和司法解释，人脸信息属于敏感个人信息，除了一般的个人信息保护规定，我国还专门规定了AI合成服务提供者和服务使用者在处理人脸信息等敏感个人信息时的法定义务。因此，只有相关主体履行了法定义务，才能确保AI换脸服务的合法性。以下将分析我国法律专门规定的AI合成服务提供者和服务使用者的法定义务内容：
1、AI换脸服务提供者应当依法开展训练数据处理活动。包括但不限于使用具有合法来源的数据和基础模型、依法取得个人信息同意、增强训练数据四性（真实性、准确性、客观性、多样性）等。
2、AI换脸服务提供者应当依法加强训练数据管理，包括应当采取必要措施保障训练数据安全，应当遵守个人信息保护有关规定。
3、AI换脸服务提供者应当依法开展安全评估。AI换脸服务提供者提供的工作具有生成或者编辑的人脸等生物识别信息的功能，依法应当自行或委托第三方开展安全评估。
4、AI换脸服务提供者应当依法履行备案手续。在小程序等信息服务中提供AI换脸服务的信息服务提供者，应当履行算法备案和变更、注销备案手续。
5、AI换脸服务提供者应当与服务使用者签订服务协议，明确双方权利义务。
6、AI换脸服务提供者应当履行真实身份信息认证义务。AI换脸服务提供者应当对服务使用者的身份进行真实身份信息认、证，不得向未进行真实身份信息认证的使用者提供信息发布服务。
7、AI换脸服务提供者应当履行向服务使用者、公众的提示义务。一方面，服务提供者应当提示服务使用者依法告知被编辑的个人，并取得其单独同意；另一方面，服务提供者应当在生成或者编辑的信息内容的合理位置、区域进行显著标识，向公众提示相关内容是AI合成内容。
8、AI换脸服务提供者应当履行审核义务。AI换脸服务提供者对使用者的输入数据和合成结果应当进行审核，如果发现违法和不良信息的，服务提供者应当采取处置措施，保存相关记录，并及时向网信部门和主管部门报告，接受监管。
9、AI换脸服务提供者应当保障个人关于查阅、复制、更正、补充、删除其个人信息的请求。
10、AI换脸服务提供者不得利用AI换脸服务侵犯国家形象、社会公共利益、扰乱经济和社会秩序、侵犯他人合法权益等法律、行政法规禁止的活动。
11、AI换脸服务提供者不得非法留存信息。服务提供者不得非法留存使用者上传的人脸信息，也不得非法向他人提供使用者上传的人脸信息。
1、AI换脸服务使用者在使用他人人脸信息进行AI换脸之前，应当告知被编辑的个人，并取得其单独同意。
2、AI换脸服务使用者应当严格遵照其与服务提供者签订的服务协议使用服务，在使用服务的同时依法履行协议约定的义务。
3、AI换脸服务使用者不得利用AI换脸服务侵犯国家形象、社会公共利益、扰乱经济和社会秩序、侵犯他人合法权益等法律、行政法规禁止的活动；若生成了违法和不良信息的，应当立即停止生成、停止传输、消除，并接受服务提供者处置措施和接受相关部门的监管。
如果AI换脸服务提供者、使用者未按照法定义务提供、使用AI换脸服务，可能会侵害个人主体的肖像权、荣誉权、著作权、个人信息权益，严重的还会对社会秩序、社会公共利益等造成恶劣影响。对于AI换脸服务提供者而言，违法风险包括在提供相关服务过程中，未认真审查训练数据的人脸信息等数据来源合法性、未认真审核使用者的输入信息和合成结果的合法性、未依法对使用AI换脸服务合成的内容进行显著标识、未在合成违法或不良信息时及时采取处置措施和进行报告等等。
对于AI换脸服务使用者而言，未告知被编辑的个人或未取得被编辑个人的单独同意，而擅自使用他人的信息进行AI换脸，会侵犯被编辑个人合法权益。
如果AI换脸服务提供者或使用者，故意提供、使用生成虚假、违法合成信息的服务，则属于故意违法或故意犯罪。
目前我国对于AI合成服务的规定中，明确规定了服务提供者违反规定的法律责任：服务提供者违反规定的，由有关主管部门依照我国网络安全法、数据安全法、个人信息保护法、科学技术进步法等法律、行政法规的规定予以处罚；若没有规定的，由有关行业主管部门依据职责予以警告、通报批评、责令限期改正；拒不改正或者情节严重的，责令暂停提供相关服务；还可能依法给予治安管理处罚乃至追究刑事责任。对于服务使用者的违法行为，而服务使用者的违法使用AI换脸服务行为，更多可能是构成对第三方合法权益的侵害，需要承担民事侵权等法律责任，但如果是故意制作违法、不良的合成内容，导致侵犯社会公共利益、扰乱经济和社会秩序，则很可能还会受到治安管理处罚乃至刑事责任的追责。
AI换脸服务是AI合成服务的一种，AI合成服务的规范发展，离不开立法机关、有关主管部门、服务提供者、服务使用者、专业服务机构等相关主体的共同努力，基于上述对法律义务内容、法律责任、法律后果的分析，本文认为，可以考虑以下方面完善法律措施，进一步规范AI合成服务的发展：
1、建议在规则层面进一步明确相关细则，譬如：细化服务提供者与服务使用者签订的服务协议签署方式和内容，规定以何种方式进行签署，包含哪些权利义务内容、违约方的法律责任承担方式等；细化服务提供者在违法、不良信息产生时的处置措施实施时间要求；细化服务提供者的安全主体责任；明确服务使用者合成违法、不良信息时应承担的法律责任等。
2、建议在技术层面提升数据安全和个人信息保护力度。在算法设计阶段，在算法设计当中融入绿色、伦理、守法、自由、尊严、关爱等“善”的因素，使算法符合“善”的要求【2】；在服务提供阶段，服务提供者提升技术能力，尽可能通过技术方式而非人工方式对服务使用者的输入数据和合成结果进行审核，建立健全识别违法、不良信息的特征库，完善特征库入库标准、规则和程序，记录并保存相关的日志记录；服务提供者加强对训练数据来源合法性和数据安全性的审查，避免违法使用不具备合法来源、未经合法授权的训练数据，确保数据资料的高质量。
3、建议在意识层面加强各方主体的个人信息保护意识。加强个人主体对自身和他人个人信息安全的重视，不随意使用自己或他人的人脸等个人信息进行合成，不使用数据安全和个人信息保护能力不足的AI合成服务，认真查阅服务提供者的相关服务协议内容，在发现违法不良信息时，积极、及时投诉、举报。
4、建议在监管层面提前监管和提升监管力度。建议开展对AI合成服务算法机制机理的前期审查，建议在日常监管中，加强对算法机制机理、科学伦理、数据安全性、生成内容的审查和监管。
回到本文开头提及的深度伪造事件，我们不希望技术被恶性利用，不希望恶意利用技术的违法事件在任何地方发生，不希望任何个人和社会因为科学技术的发展而受到伤害。技术本是中性的，技术本应良性发展，造福人类，而法律，将始终是规范技术良性发展的手段之一。
天商律师事务所数据合规服务团队，根据人工智能领域的规范发展需要，以及客户的多元化需求，制定多项服务内容和方案，根据客户需求提供包括但不限于数据安全和个人信息保护制度建设、服务协议内容设计与执行、违法信息全流程处置、算法备案与评估、数据训练与数据标注合规、行政机关监管协助、个人信息权益救济等法律服务，欢迎企业、个人联系我们获取服务方案。
天商律师事务所数据合规服务团队将持续关注和研究人工智能领域的境内外法律动态、资讯，力求为人工智能领域相关的各方主体，提供最新的法律信息和法律服务，提供专业的律师意见、建议和解决方案。希望在人工智能技术蓬勃发展的时代，尽我们所能，贡献天商的专业力量。
注：【1】时光雕刻机：AI视频换脸之deepfake技术综述（深度伪造制作与检测），知乎，2021年7月。
【2】［荷兰］玛农·奥斯特芬，《数据的边界·隐私与个人数据保护》，第1版，曹博译，上海人民出版社，2020年8月：6页。
· 广东天商律师事务所合伙人、管委会副主任、业务建设工作委员会主任、数据合规中心主任
胡嘉雯律师入选广东省涉外律师新锐人才库、省级数据资产登记合规委员会，市级党政机关外聘法律顾问库；担任广州国际商贸商事调解中心调解员；连续多年担任市级政务服务数据管理部门常年法律顾问；曾任市级律协专业委员会和工作委员会委员、市级律师代表大会律师代表。胡嘉雯律师持续深入研究数据合规、数据交易领域，发表数据交易和公共数据授权运营等内容的相关专题文章；为多个市、区级党政机关、企事业单位提供法律服务和合规法律服务，为合规案件决策、处理、监管等事项提供法律服务，为法律事项提供合法性审查意见，提供合法、合规建设法律服务，提供数据合规、数据安全等方面的法律讲座；代理多起民商事案件、行政案件，有丰富的诉讼争议解决经验和非诉讼争议解决经验；多次获得机会参加广东省司法厅、广东省律师协会主办的广东省涉外律师人才研修班、广东省法学会主办的广东省涉外法治人才研修班等研修学习，在涉外法律服务、涉外法治建设、数字经济与数据合规、多元化争议解决机制等领域有丰富的研修经历。
