分类：AI动态 标签：人工智能、ChatGPT、法律科技、大模型幻觉

在人工智能大行其道的今天，法律界因使用 AI 工具翻车的新闻已屡见不鲜。但这一次，情况变得更加离谱和危险——AI 不再仅仅是捏造不存在的法条或判例，而是直接在谋杀案上诉中“凭空捏造”了关键证词和虚构证人。

这起事件再次将生成式人工智能的“幻觉”顽疾，以及人类在使用技术时的盲目信任，推上了舆论的风口浪尖。

案件回溯：从“图省事”到“造假证”

在这起备受关注的谋杀案上诉中，律师史蒂芬·阿伦（Stephen Aaron）负责代表他的客户争取权益。然而，在向法院递交的正式法律文件中，却出现了一份令人惊掉下巴的内容：其中包含了大量捏造的警方证词，甚至还凭空虚构了几位根本不存在的证人。

面对法庭的质问，阿伦供认不讳，并给出了一个令人哭笑不得的解释。他声称，自己将一份由计算机生成的庭审记录以及其他案卷材料一股脑地喂给了 ChatGPT，并想当然地认为这个热门 AI 工具能够为他生成一份“无懈可击的摘要”。

从工作流来看，阿伦的操作模式基本可以简化为： 输入海量案卷 -> 依赖 AI 盲目生成 -> 未经人工核实直接提交。

他完全没有意识到，或者说根本不了解大语言模型的固有缺陷——幻觉（Hallucination），即 AI 在缺乏准确信息时，会一本正经地胡说八道，虚构出看似合理实则完全不存在的内容。

法官的怒火：罚款与纪律调查

对于这种极不负责任的执业行为，法官在庭审现场表达了难以置信的震惊，甚至当场反问他：“难道你从来不看新闻吗？”（注：此前已有多起律师因引用 AI 虚构判例而被公开处罚的案例）。

鉴于此案事关重大（涉及谋杀案上诉），而伪造证词的行为严重践踏了司法公正和律师的职业操守，法官最终开出了严厉的罚单：

  1. 对阿伦处以 5000 美元的现金罚款。
  2. 决定将其正式移交给律师纪律委员会，进一步展开深入调查，其执业资格面临严重威胁。

科技编辑点评

这起事件给所有法律从业者乃至各行各业的知识工作者敲响了警钟。

效率工具永远不能替代人类的专业判断。ChatGPT 等大模型本质上是概率预测机器，而非严谨的真理引擎。当我们将它应用在法律、医疗等容错率极低的领域时，任何“图省事”的侥幸心理，最终都会变成法律和职业生涯无法承受之重。技术没有善恶，但使用技术的人必须保持清醒。