律师要不要与 AI 保持“安全距离”?从两个离谱案例说起......
2025-02-19 11:59
肖飒 lawyer
2025-02-19 11:59
订阅此专栏
收藏此文章


从 Chatgpt 到 Deepseek,生成式 AI 强大的数据处理与信息收集能力为法律从业者的日常工作带来了巨大的便利,却也催生了律师对于生成式 AI 工具的依赖,甚至产生了利用生成式 AI 的工具属性来编织虚假案例、恶意取证诽谤的案件,破坏了司法公正赖以生存的真实性根基。

 

诚如我国学者所言:“媒介的欺骗性本身属于形式层面的欺骗,但其孕育着规范性欺骗的种子。”生成式 AI 天然擅长缝合现实、补充细节,即使缺少足够的真实信息,也能目的导向地生成符合要求的文字段落。但飒姐团队认为,这种 AI 幻觉不能成为律师失职、编造判例和提交虚假材料的借口,司法机关应当对此类行为严肃处理,必要时,甚至有“虚假诉讼罪”的用武之地。

 

今天,飒姐团队在总结近期司法实践和 AI 使用经验的基础上,跟大家聊聊 AI 与司法之间应保持一个怎样的“安全距离”?

 

01

用 AI 编造虚假案例并作为诉讼请求依据提交,该当何“罪”?



2024 年,加拿大 British Columbia Supreme Court 审理了一起离婚案件,本案进行离婚诉讼的夫妻育有三个孩子,女方带着孩子住在温哥华,男方则在我国工作,诉讼过程中,男方想要争取在中国探视子女的权利,为了表明该诉求存在合理性且有先例支持,男方律师(以下简称“Ke 律”)在法律文书中引用了两个由 Chatgpt 生成的假案例:



该份文件送交对方律师手上后,对方律师发现,无论怎么查都查不到这俩案例的出处,遂向 Ke 律进行反馈。收到反馈后,Ke 律意识到了事情的严重性——对方还真的去查!因此,ke 律试图换案例......遭到对方律师拒绝。

 

最终,Ke 律顶不住了,不得不承认这两个案件是自己用 Chatgpt 搞出来的。为了弥补这个错误,Ms.Ke 撰写了一封邮件承认了相关错误发给对方律师,并对同事进行留言让其将电子邮件的副本代交给法官,并且联系了律师协会进行咨询,以及在听证会上积极承认自己误用 Chatpt 生成案件的错误。

 

而对于 Ke 律事件,对方律师要求 Ms.Ke 个人承担特别费用(注:在加拿大法律中,特别费用 /Special Costs 是一种特殊的费用赔偿制度,用于在特定情况下将胜诉方的法律费用转移给败诉方。与普通费用 /Party and Party Costs 相比,特别费用的赔偿范围更广,旨在对败诉方在诉讼中的不当行为进行惩罚)包括原告律师事务所进行相关法律调查的费用,以及 Ms.Ke 个人延误处理虚构案件所造成的损失,包括时间、费用、文件准备等。

 

根据加拿大的法律规定和司法先例,律师只有在实施了“严重滥用司法系统、不诚实不正当的恶意行为”的情况下才需支付“特别费用”,仅是“错误、判断错误甚至疏忽”是不够的。

 

原告律师认为,Ke 律可是一个法学博士,干出这种事是极其不专业的,不能用简单的“无心之失”糊弄过去。法院则认为,虚构案例的行为无疑是扰乱了司法公正,但是这样的虚构案例客观上并不能够做到在专业律师手上“蒙混过关”,来成为支撑诉讼请求的依据,此外,学术界和实务界也有差异,Ke 律虽然是法学博士,但也不能拿这个来证明 ke 律的行为“不是一个无心之失”。

 

说的有点绕,大致意思就是对方律师想追责,但法官觉得用 GPT 编假案例的行为还不够严重。

 

因此,法院认定要求 ke 律支付特别费用的诉求不成立,但法院最终还是裁定 Ke 律需要支付因用 GPT 虚构案件导致案件延误处理的相关费用。


02

给 AI 喂假数据碰瓷:“李鬼”诉“李逵”?



2024 年 3 月,上海市某基层法院处理了一起商标侵权案件。原告“海上某云”(化名)商标注册人发现,在某搜索引擎输入“海上某云面点加盟官方网站”时,搜索结果首位显示的是“上海某云面点网站 - 加盟总部 - 专注餐饮加盟 20 年”的广告链接。原告认为被告“某云面点”通过购买搜索引擎广告服务并设置与“海上某云”相近的关键词进行推广,构成商标侵权,遂起诉要求赔偿经济损失及合理开支。

 

但承办法官在审理案件时发现,被告“某云面点”的知名度远高于原告“海上某云”,不应存在“傍名牌”的动机。经向被告核实,被告否认侵权,并称未设置过“海上某云”关键词。法院随后向搜索引擎公司发出协助调查函,结果显示被告确实未设置相关关键词。两个月后,赵晖晖法官又承办了一起类似的商标侵权案,原告从“海上某云”变为“某某冒菜”(化名),被告仍是“某云面点”。蹊跷的是,这两起案件的原告均委托了同一律师团队,且该团队在全国代理了 400 起类似案件。

 

在搜索引擎公司介入调查后发现,原告律师系通过同一 IP 进行多次非正常搜索,恶意触发系统故障,导致被告链接误出现在搜索结果首位。

 

具体操作为:原告律师团队故意向搜索 AI 投喂错误数据,持续搜索“海上某云面点加盟官方网站”或“某某冒菜”等相关词组,跳出正确的网页链接后却不点击进入,直到被告“祥云面点”的推广链接出现在第一个词条,才点击查看,导致大模型出现“幻觉”,认为“某云面点”推广页面是“正确答案”,从而输出了貌似侵权的结果。原告律师再将这些虚假结果存证后,对正主提起诉讼。

 

肖飒律师团队提示:在不考虑是否达到“情节严重”入罪标准的情况下,原告及原告律师的行为已经涉嫌“虚假诉讼”。根据两高发布的《关于进一步加强虚假诉讼犯罪惩治工作的意见》第二条:“本意见所称虚假诉讼犯罪,是指行为人单独或者与他人恶意串通,采取伪造证据、虚假陈述等手段,捏造民事案件基本事实,虚构民事纠纷,向人民法院提起民事诉讼,妨害司法秩序或者严重侵害他人合法权益,依照法律应当受刑罚处罚的行为。”

 

说实话,本案律师及原告可以从“碰瓷”行为中获得的利益与涉嫌“虚假诉讼罪”的刑事风险相较,可谓是严重不成比例。一家之言,飒姐团队人物为,这种损人不利己还风险巨大的事,应当离得远远的。


03

写在最后



从两个案例开看,我们能够发现 AI 模型自身的中立工具属性与其幻觉的客观产生机制,一方面为使用者提供了“误用”的借口,另一方面也可为律师、诉讼当事人恶意构造虚假事实提供便利。

 

因此,对于法律行业的从业者,飒姐团队认为,还是需要与 AI 工具保持一个安全的距离:正确的利用其放大自己的专业能力可以,走歪门邪道不可以。另外,律师必须意识到,AI 输出的内容并非完全真实可靠,如果要在司法实践中使用 AIGC 生成物,则必须对其进行人工二次复核。


如果您身边有对新科技数字经济感兴趣的朋友,

欢迎转发给Ta



获取详细资讯,请联络飒姐团队

【 sa.xiao@dentons.cn】

【 guoquan.wang@dentons.cn】

飒姐工作微信:【 xiaosalawyer】

飒姐工作电话:【 +86 171 8403 4530】


滑动查看服务清单

肖飒团队法律服务清单

LIST OF LEGAL SERVICES

1.金刚钻刑事专项法律服务 Criminal Specialized Legal Services

图片

2.拯救“趋利执法”专项法律服务 Special legal services for profit-seeking law enforcement

图片

3.涉案加密资产合规处置专项法律服务 Special legal services for the disposal of confiscated crypto assets in criminal cases

图片

4.企业常年法律服务 Annual Legal Services for Enterprises

图片

5.小保镖专项法律服务 Bodyguard Legal Services

图片

6.小蜜蜂专项法律服务 New Bee Plan

图片

7.落袋为安专项法律服务 Compulsory Enforcement Special Legal Services

图片

8.其他定制化服务 Customized Legal Services for Clients

(1)重大复杂案件刑事辩护、刑事控告;(2)涉案金额巨大的民商事诉讼、仲裁等争议解决。


本法律服务清单报价及沟通请详询团队律师工作微信,微信号:xiaosalawyer。您也可以通过微信公众号后台留言的方式联系我们。


往期精彩回顾


想要合法出“U",目前有哪些渠道和方法?

肖飒律师喜获《科技与金融》杂志感谢信!

Telegram 公开用户 IP 及电话,对“币圈”有何实质影响?
三年时间 + 数十个案件,飒姐团队在司法领域为数藏做了什么?
无罪!肖飒团队代理千万级挪用资金大案,获不起诉决定!
当前“公家”应如何合规集中处置“涉案加密资产”?


【免责声明】市场有风险,投资需谨慎。本文不构成投资建议,用户应考虑本文中的任何意见、观点或结论是否符合其特定状况。据此投资,责任自负。

肖飒 lawyer
数据请求中
查看更多

推荐专栏

数据请求中
在 App 打开