ChatGPT 是好用的 AI 律师吗？它能做什么，不能做什么
ChatGPT 可以在凌晨 2 点免费为你解释一条合同条款——但它并不是持牌律师，把它当作律师使用已经让一些人在法庭上付出了金钱代价。对于日常的初步了解，如今许多人转而使用专门打造的 AI 律师工具，而不是通用聊天机器人，正是因为下文提到的这些缺陷太容易被忽视。简短的答案是：ChatGPT 是一个有能力的法律研究和起草助手，而不是专业法律建议的替代品。
本文将介绍 ChatGPT 实际上擅长什么，在哪些地方会危险地失灵，一起基于捏造引用的案件所带来的真实法庭处罚，把案件细节输入聊天机器人的隐私风险，以及如何安全地使用它。本文是法律信息，而非法律建议——对于会产生真实后果的决定，请咨询你所在司法辖区的持牌律师。
ChatGPT 究竟是什么（以及是谁打造的）
ChatGPT 是 OpenAI 的产品，理解它在技术上是什么，能同时解释它在法律工作中的用处及其局限。
它是一个语言模型，而不是法律数据库
ChatGPT 是由 OpenAI 打造的大型语言模型（LLM），于 2022 年 11 月 30 日发布。LLM 会根据从海量训练文本中学到的模式来预测序列中的下一个词——它并不像法律研究软件那样，在一个经过验证、持续更新的数据库中“查阅”法律。据 OpenAI 自己的研究，OpenAI 于 2023 年 3 月发布的模型 GPT-4，据称在模拟统一律师资格考试中取得了接近第 90 百分位的成绩，维基百科关于 ChatGPT 的条目对此有详细记载。这一结果正是 ChatGPT 听起来如此令人信服地像一名律师的重要原因。
这种流畅有一个隐藏的天花板：模型的知识被冻结在其训练数据被收集的某个时间点，除非专门接上某个工具，否则它与法院案卷、州立法机关或律师协会的规则手册没有任何实时连接。它也无法凭自身告诉你，一个回答中哪些部分它是有把握的，哪些部分它只是在悄悄猜测——所有内容都以同样流畅的语气输出。
一个人在法律图书馆里，在律师的指导下使用 AI 律师工具
为什么“听起来像律师”不等于“是律师”
通过模拟律师资格考试的题目，并不等同于拥有执业资格。这个模型没有律师执照，没有职业责任保险，对你也没有任何法律上的注意义务。正如一篇法律科技评论所言，大型语言模型的工作方式是基于统计模式“逐字地预测出一个答案”——而不是像受过训练的律师那样通过判例来推理。仅这一事实就几乎能解释本页下文描述的每一项风险。
真正持牌的律师与流畅的聊天机器人之间有几点区别：
- 由州律师协会颁发并监管的律师执照
- 在建议出错时能为你提供保障的职业责任保险
- 直接对作为客户的你负有的职业注意义务
- 对其提交给法庭的内容的准确性承担个人责任
ChatGPT 在法律任务中能做好哪些事
正确使用时，ChatGPT 及类似的生成式 AI 法律工具在一个法律问题的早期阶段——在任何东西被提交、签署或依赖之前——确实非常有用。
起草初稿和解释术语。 ChatGPT 擅长把晦涩的法律术语翻译成通俗的语言，概括一份冗长的租约或服务条款文件，起草粗略的初版模板（例如催款函或简单的保密协议大纲），并帮你准备一份带去见真正律师时的聪明问题清单。免费版就能处理其中大部分；ChatGPT Plus 每月约 20 美元，可获得更多访问权限。在任何情况下，输出的都是初稿，而不是最终的法律文件。
常见的初稿使用场景包括：
- 在提起小额索赔诉讼前的催款函大纲
- 一份租约或服务条款页面的通俗易懂的摘要
- 供律师完善的粗略保密协议或简单协议模板
- 一份带去实际咨询时使用的澄清性问题清单
法律研究的初步筛查——需配合核实。 ChatGPT 可以帮你在一个陌生的法律领域中找到方向，并生成值得进一步追查的线索。但它生成的每一处引用、法条援引或案件名称，都必须对照真实、权威的来源进行核对——官方法院网站、州法条数据库，或一位持牌律师。绝不要在没有人工核查的情况下，提交、签署或发送任何 ChatGPT 写的内容。
| ChatGPT 的正确用法 | ChatGPT 的高风险用法 |
|---|---|
| 用通俗语言解释某条条款的含义 | 未经核对就提交带有 ChatGPT 案件引用的诉状 |
| 在与律师通话前概括一份冗长的合同 | 依赖它了解你所在州现行的具体法条 |
| 为一封简单信函起草粗略的初版 | 签署一份它“定稿”却未经审阅的合同 |
| 准备好要问真正律师的问题 | 把客户的姓名和案件事实粘贴进聊天框 |
ChatGPT 不能做什么（危险的缺口）
让 ChatGPT 擅长听起来流畅的那套预测机制，正是让它作为独立法律工具不可靠的原因。既然连一个了解司法辖区的在线 AI 律师都仍然需要人工审阅，那么对于一个从一开始就不是为法律打造的通用聊天机器人来说，这一点更是加倍适用。
它会捏造假案件和假法律（幻觉）
AI 幻觉是指自信、流畅、听起来合情合理却根本是假的输出——包括捏造的案件名称、编造的引文，以及援引从未发生过的法院判决。对于法律用途而言，这是最危险的单一失灵模式，因为在有人去核查之前，一处捏造的引用读起来和真实引用一模一样。
一位律师向客户解释一条被高亮标注的合同条款
在法律语境中，幻觉往往以几种反复出现的形式呈现：
- 一个听起来真实却并不存在的案件名称和引用
- 一句被归于某位真实法官或某条法条、实际上从未被写过的引文
- 一个自信的回答，混淆了两个不同州或国家的规则
- 一个纯粹错误的法条编号或提交截止日期
它不了解“你的”司法辖区或现行法律
法律因州和国家而差异巨大，并且通过新的法条和裁决不断变化。一个通用模型可能在一个回答中糅合来自不同司法辖区的规则，或依赖在你提问时就已经过时的训练数据。
即便对于听起来简单的问题——比如提交截止日期或通知期——这一点也很重要，因为在一个州正确的规则，在隔壁州可能完全错误。这个模型没有内置的办法来为你标示出这种不确定性。
没有问责、没有特权、没有义务
持牌律师受州律师协会监管，持有职业责任保险，并且从你成为客户的那一刻起就对你负有职业注意义务。ChatGPT 对你没有任何此类义务——没有可吊销的执照，如果答案出错也没有可提起的职业责任索赔。
如果持牌律师给了你有过失的建议，你有救济途径：一项职业责任索赔、一份对律协的投诉，或基于其所述内容记录而提起的上诉。针对聊天机器人，这些选项一个都不存在，这使得独立核实成为你唯一真正的保障。
警世案例：Mata v. Avianca
幻觉风险最清晰的现实世界证据，是 2023 年纽约南区的一起案件。
用放大镜和红笔核对一处法律引用
事情经过
在 Mata v. Avianca, Inc. 一案中，代表原告的律师提交了一份法律诉状，其中引用了几个 ChatGPT 生成的法院判决——这些案件并不存在。当对方律师和法院都无法找到这些引用时，律师们请 ChatGPT 确认它们。
当律师 Steven Schwartz 询问 ChatGPT 这些案件是否真实时，聊天机器人向他保证，这些案件“确实存在，可以在 LexisNexis 和 Westlaw 等信誉良好的法律数据库中找到”。——引自 Mata v. Avianca, Inc. — 维基百科
在这份诉状被提交给法院之前，法律团队中没有任何人对照实际数据库独立核对这些引用。那一个被遗漏的步骤——在真实的判例法数据库中搜索一次——正是把一条起草捷径变成一次公开处罚的原因。
后果
法官 P. Kevin Castel 于 2023 年 6 月依据《联邦民事诉讼规则》第 11 条对这些律师处以 5,000 美元的处罚，认定他们在向法院提交前未核实引用，主观上存在恶意。这一教训远远超出这一个案件的范围：签署并提交文件的人对其准确性负责，而不是起草它的 AI 工具。
Mata v. Avianca 如今已成为律师协会、法学院和法院在提醒律师及自我代理诉讼当事人警惕未经核实的 AI 输出时最常引用的例子——本文后面的清单正是为帮你避免这种声誉风险而设计的。
隐私与律师-客户特权风险
除了准确性之外，还有一个单独且极易被忽视的风险，就是仅仅把案件细节输入一个公开的聊天机器人。
不要把机密粘贴进对话框
律师-客户特权保护客户与其律师之间的保密沟通，但这种保护取决于信息保持机密。把敏感的案件事实、姓名或文件输入一个通用的消费级聊天机器人，可能被视为向第三方的自愿披露，从而可能放弃这种保护——而且输入到某些 AI 工具中的内容也可能被用于帮助训练未来的模型。
一间庄严的法庭，传达法律建议的真实分量
最安全的习惯，是在提问前剔除任何可识别身份的信息。在把一个事实情节粘贴进 ChatGPT 之前，请删除：
- 客户、证人或对方当事人的全名
- 地址、电话号码，以及账户或案件编号
- 可能缩小到某个真实、可搜索案件范围的确切日期
- 医疗、财务或其他明显敏感的细节
一旦事实被匿名化，同样的问题通常仍然对一般性的初步了解有用——却没有了特权风险。
规则：ABA 对 AI 的说法
由于律师自己也越来越多地使用 ChatGPT 这类工具，美国律师协会已就职业责任的界线在哪里发布了正式指引。
承担责任的是律师，而不是工具
ABA 第 512 号正式意见于 2024 年 7 月 29 日发布，是美国律师协会针对法律执业中生成式 AI 工具的首份正式伦理指引。它确认，使用 AI 的律师仍必须履行其现有的能力、保密、与客户沟通、对法庭坦诚以及只收取合理费用等义务。换句话说，使用 ChatGPT 并不会降低门槛——它抬高了对那个核查其工作的人的要求，无论那个人是受聘的律师，还是直接使用某项 AI 律师服务的人。
该意见按义务而非按工具来拆分这些责任，这使它即便对一个并非律师、却想衡量法律专业人士应当如何谨慎对待 AI 输出的人来说，也是一份有用的清单：
| 义务（ABA 第 512 号正式意见） | 它要求什么 |
|---|---|
| 能力 | 充分了解 AI 工具的局限，以便负责任地使用它 |
| 保密 | 避免输入可能被暴露或被用于训练的客户信息 |
| 沟通 | 在 AI 的使用对该事项重要时，向客户披露 |
| 对法庭的坦诚 | 绝不提交未经独立核实的 AI 生成引用 |
| 合理费用 | 不要把 AI 生成的捷径当作完整的人工工作向客户收费 |
对于任何自己就法律问题使用 ChatGPT、而非通过律师使用的人来说，在你依赖某个答案之前，同样这五个类别是一个可以用来检验自己的公允标准。
如何安全地使用 ChatGPT 处理法律问题
一份简短的清单能在保留 ChatGPT 有用之处的同时，避免上文描述的各种失灵模式。
- 把每一个输出都当作起点，绝不当作最终的法律文件。
- 在依赖之前，对照官方来源核实每一处引用、案件名称和法条援引。
- 绝不把可识别身份的客户数据、案件编号或机密事实粘贴进聊天框。
- 通过真实、最新的来源——而不是模型的记忆——来确认你所在司法辖区的现行法律。
- 在你签署或提交任何具有真实法律、财务或合同后果的东西之前，让一位持牌律师审阅它。
需要说明的是：本文中的任何内容都不是法律建议，任何 AI 聊天机器人——包括 ChatGPT——都无法取代一位持牌律师对你案件具体事实的评估。请把上文的一切都当作法律信息和你自己研究的起点，而不是最终答案。