分类：AI动态 标签：人工智能、ChatGPT、法律科技、AI幻觉
在生成式人工智能快速渗透各行各业的今天，AI“幻觉”引发的翻车事件早已屡见不鲜。但这一次，事件的严重程度被推向了新的高度——一位律师在涉嫌谋杀案的上诉文件中，不仅让 AI 虚构了不存在的法律案例，甚至直接捏造了警方证词与虚构证人，最终迎来了法律的严厉惩罚。
事件始末：盲目信任引发的“灾难”
在这起谋杀案的上诉审理中，律师史蒂芬·阿伦（Stephen Aaron）为了减轻工作负担，选择将一份由计算机生成的庭审记录及大量案卷材料直接输入给 ChatGPT。他的初衷很简单：希望 AI 能够快速帮他梳理并生成一份高效的法律文件摘要。
然而，阿伦显然低估了大语言模型的局限性。他既不了解 AI 可能会产生“幻觉”（即一本正经地胡说八道），也没有在生成后对内容进行人工核对，便直接将这份包含“捏造的警方证词”和“虚构证人”的文件提交给了法庭。
法官震怒：严肃的法律不容草率
面对如此荒唐的法律文书，主审法官感到难以置信，并在法庭上发出严厉质问：“你难道从来不看新闻吗？”
在法律界，利用 AI 虚构判例早已不是新鲜话题，此前多家媒体和法院都曾发出过严厉警告。而阿伦此次伪造证词的行为，已经严重触及了司法公正的底线。最终，法庭对阿伦处以 5000 美元的罚款，并决定将其移交至律师纪律委员会进行进一步的调查与惩戒。
科技与数码视角的深度思考
这起案件再次为我们敲响了警钟：
- AI 是工具，而非决策者：大语言模型（如 ChatGPT）本质上是概率预测模型，而非具备事实核查能力的专家。输入 -> 处理 -> 输出的全流程中，人类的把关不可或缺。
- 专业领域的边界：在法律、医疗等对真实性要求极高的严肃领域，盲目外包给生成式 AI 无异于自毁前程。
- 技术普及与素养的滞后：正如法官的质问所言，科技发展的速度远超普通大众的认知更新速度。如何让各行各业的从业者正确认识并安全使用 AI，依然是一项长期且艰巨的社会课题。