肖飒团队 | 如何避免 Deepfake 成为“法外狂徒”？

2024-01-30 12:00

肖飒 lawyer

2024-01-30 12:00

来源链接

订阅此专栏

收藏此文章

近年，人工智能领域发展迅速，特斯拉、谷歌等世界知名企业纷纷开始在人工智能领域布局。但看似鲜花着锦的背后，人工智能的法律风险不容忽视。近日，X、Facebook 平台上，全球顶流霉霉（Taylor Swift）的 AI 不雅照遭到疯狂传播，再次引起了人们对 Deepfake（深度伪造）的担忧与谴责。飒姐团队今天要谈的就是 Deepfake 的法律风险与规制，并为大家盘点一下 AIGC 领域 Deepfake 的相关合规法条。

什么是 Deepfake？

Deepfake，系利用深度学习算法，实现视频、音频、图像的伪造和模拟形成虚假内容的技术总称。Deepfake 种类繁多，视频伪造是最为主要的代表，包括直接换脸、表情操纵、动作迁移等多种类型，核心原理是利用深度学习训练神经网络，将目标对象的面部“嫁接”到被模仿对象上。视频是由连续的帧组成，把每一帧中的人脸对象进行替换便能得到换脸后变脸的新视频。

Deepfake 本身是一项中立的技术，在许多领域尤其是娱乐领域有着广阔的应用前景。但是，它也带来了许多潜在的系统性社会政治风险。正如飒姐公众号文章《肖飒团队 | AI 深度合成技术，会成为未来犯罪的主流吗？》中所提及的，Deepfake 会带来政治操纵、金融诈骗、敲诈勒索与不正当竞争等风险。并且，社会上别有用心之人与各类非法组织也借助 Deepfake 生成与现实相违背的文本、图片、视频等数据，制造热点话题，吸引流量，甚至煽动民众的情绪，进而引发群体性事件。此外，对个人肖像权、名誉权的侵害也是 Deepfake 的重大隐患。除了霉霉之外，饰演芭比的 Magrot Robbie 等名人与许多普通人也曾是 Deepfake 的受害者。

根据世界经济论坛发布的《2024 全球风险报告》，AI 已位居最大风险之首——AI 导致的信息错误与虚假信息风险相互交织，社会两极分化，虚假信息与社会动荡之间的关系将对未来两年几大主要经济体的选举产生核心影响。2023 年 4 月美国国会研究服务处发布的《Deep Fakes and National Security》也强调了对 Deepfake 的风险与监管。以 Deepfake 为代表的 AI 技术加剧了全球范围内的虚假信息泛滥现象，已经引起了各国、各组织的关注与重视。

Deepfake 的治理与维权

当前，我国针对 Deepfake 及生成式人工智能的滥用已出台了一系列相关制度法规，对数据生成与伪造的全流程进行规范。在《网络信息内容生态治理规定》《网络音视频信息服务管理规定》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等部门规章中，均有涉及规制“深度伪造”技术可能的侵权行为。《民法典》第一千零一十九条也将“利用信息技术手段伪造”作为侵害肖像权的方式之一加以规制。具体法条如下：

法律名称	法条内容	施行时间
《民法典》	第一千零二十四条民事主体享有名誉权。任何组织或者个人不得以侮辱、诽谤等方式侵害他人的名誉权。名誉是对民事主体的品德、声望、才能、信用等的社会评价。第一千零一十九条任何组织或者个人不得以丑化、污损，或者利用信息技术手段伪造等方式侵害他人的肖像权。未经肖像权人同意，不得制作、使用、公开肖像权人的肖像，但是法律另有规定的除外。未经肖像权人同意，肖像作品权利人不得以发表、复制、发行、出租、展览等方式使用或者公开肖像权人的肖像。	2021 年 1 月
《刑法》	第二百四十六条以暴力或者其他方法公然侮辱他人或者捏造事实诽谤他人，情节严重的，处三年以下有期徒刑、拘役、管制或者剥夺政治权利。前款罪，告诉的才处理，但是严重危害社会秩序和国家利益的除外。通过信息网络实施第一款规定的行为，被害人向人民法院告诉，但提供证据确有困难的，人民法院可以要求公安机关提供协助。	2021 年 3 月
《网络音视频信息服务管理规定》	第十一条网络音视频信息服务提供者和网络音视频信息服务使用者利用基于深度学习、虚拟现实等的新技术新应用制作、发布、传播非真实音视频信息的，应当以显著方式予以标识。网络音视频信息服务提供者和网络音视频信息服务使用者不得利用基于深度学习、虚拟现实等的新技术新应用制作、发布、传播虚假新闻信息。转载音视频新闻信息的，应当依法转载国家规定范围内的单位发布的音视频新闻信息。	2020 年 1 月
《网络信息内容生态治理规定》	第二十三条网络信息内容服务使用者和网络信息内容生产者、网络信息内容服务平台不得利用深度学习、虚拟现实等新技术新应用从事法律、行政法规禁止的活动。	2020 年 3 月
《互联网信息服务深度合成管理规定》	第六条任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息，不得利用深度合成服务从事危害国家安全和利益、损害国家形象、侵害社会公共利益、扰乱经济和社会秩序、侵犯他人合法权益等法律、行政法规禁止的活动。深度合成服务提供者和使用者不得利用深度合成服务制作、复制、发布、传播虚假新闻信息。转载基于深度合成服务制作发布的新闻信息的，应当依法转载互联网新闻信息稿源单位发布的新闻信息。	2023 年 1 月
《生成式人工智能服务管理暂行办法》	第四条提供和使用生成式人工智能服务，应当遵守法律、行政法规，尊重社会公德和伦理道德，遵守以下规定：（一）坚持社会主义核心价值观，不得生成煽动颠覆国家政权、推翻社会主义制度，危害国家安全和利益、损害国家形象，煽动分裂国家、破坏国家统一和社会稳定，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情，以及虚假有害信息等法律、行政法规禁止的内容；（二）在算法设计、训练数据选择、模型生成和优化、提供服务等过程中，采取有效措施防止产生民族、信仰、国别、地域、性别、年龄、职业、健康等歧视；（三）尊重知识产权、商业道德，保守商业秘密，不得利用算法、数据、平台等优势，实施垄断和不正当竞争行为；（四）尊重他人合法权益，不得危害他人身心健康，不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益；（五）基于服务类型特点，采取有效措施，提升生成式人工智能服务的透明度，提高生成内容的准确性和可靠性。第十二条提供者应当按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识。	2023 年 8 月

滥用 Deepfake 的行为不仅会承担民事责任、行政责任，情节严重的，还有承担刑事责任的风险。但是，目前很多从业者与服务使用者并未充分重视相关法规，例如，根据现行规定，对于 AI 生成内容，服务提供者与使用者有义务以显著方式进行标识，但从目前 AI 的应用来看，该规定并未得到有效落实，没有标识的虚假 AI 图像与视频在微博、小红书、Lofter 等社交软件上广为传播。对此，飒姐团队提醒各位老友，应当及时做好合规工作。

除了法律规章外，技术层面上对 Deepfake 进行规制也是避免滥用该技术的方式之一。Nature 杂志在其“2024 最值得关注的七项技术”一文中提及了 Deepfake 检测，提出让开发者在 AI 工具中加入隐形水印机制。行业内部，Deepfake 检测也被视为布局方向之一。例如，知名杀毒软件公司迈克菲在 CES 2024 推出了一项名为 Project Mockingbird（“仿声鸟项目”）的反 Deepfake 音频检测技术，以 AI 对抗 AI，旨在帮助消费者在恶意和误导性 AI 生成内容的时代辨别真假。据称，经过训练后，McAfee 的 Project Mockingbird 技术结合使用 AI 驱动的上下文、行为和分类检测模型来识别视频中的音频是否可能是 AI 生成的，准确率超过 90%。

相较于文字与音频，在学术界与工业界，图像与视频伪造技术依然是研究主流，在各类案件中也以利用人脸图像及视频的伪造品进行欺诈的案例居多。因此，对于图像与视频的伪造检测技术相较于音频与文本更加成熟。开展深度伪造检测技术的研究是有效打击与遏制其在各类案件中被滥用的前提与基础。但在实际案件中，该技术的准确率能否达到实际应用的标准、检测结果能否被检察院与法院所认可与采纳，目前仍是未知。

此外，对个人（尤其是不具有专业知识的个人）而言，自行维权依旧存在难度。利用 Deepfake 技术，在未经肖像权人授权的情况下，将原有的肖像转移到他人的身体上，破坏了肖像完整性，是一种明显的侵权行为。但是，被侵权人即肖像权、名誉权人维权难度较大。首先，这种行为一般造成的是精神损害而少有财产损害，但精神损害难以具体衡量。而在现行法规定下，只有造成“严重精神损害”方可主张精神损害赔偿。其次，权利人获知被侵权信息较为困难。再次，《民法典》第一千零一十九条并未规定强有力的责任承担方式，被侵权人往往会选择侮辱诽谤或商业用途来提起诉讼，很少根据《民法典》第一千零一十九条进行维权。但这意味着，被侵权人不仅要证明自己的肖像被不经许可地使用，而且利用 Deepfake 生成的内容构成侮辱、诽谤，或内容被用于商业用途，证明难度提高，维权更加困难。

写在最后

Deepfake 技术具有广阔的市场前景，但也带来了严峻的社会挑战，不法分子可能滥用此技术进行欺诈、虚假新闻传播，这种潜在的滥用可能导致信任危机、社会混乱以及法律纠纷的增加。飒姐团队提醒，无论服务提供者与使用者，都需要注意法律法规的新动态以及技术背后存在的法律风险，合法合规经营，善意合法使用。

以上是今天的分享，感恩读者！

如果您身边有对新科技、数字经济感兴趣的朋友，欢迎转发给 Ta。