分类:AI动态 标签:人工智能、大模型、ChatGPT、Claude


在人工智能大模型飞速发展的今天,越来越多的人开始将 AI 视为万能助手,甚至向其咨询复杂的财务与税务问题。然而,一项最新的深度研究给所有盲目信任 AI 的用户敲响了警钟。

触目惊心的测试数据

根据 Saturn 近期公布的一项专项研究显示,目前市面上主流的 AI 聊天机器人——包括 ChatGPT、Claude、Copilot、Grok 以及 Gemini 在内,在回答财务相关问题时,平均错误率竟然高达 57%。

为了得出这一结论,研究团队设计了严谨的测试方案:

  • 测试体量:使用超过 100 个真实的财务相关问题,涵盖 18 种不同的免费及付费 AI 模型。
  • 重复验证:每个问题最多重复提问 5 次,累计进行了超过 10,000 次的问答交互。

AI 财务回答的三大“雷区”

研究发现,AI 模型在处理财务和税务问题时,主要暴露出以下几类严重问题:

  1. 低级计算错误:基础的数学与财务算术逻辑出现偏差。
  2. 政策信息滞后:未能及时更新或遗漏即将实施的税收政策变更。
  3. 严重的幻觉现象:凭空捏造税务规则或法律条文(即 AI 幻觉)。

在实际生活中,税务和财务问题往往容不得半点差池。依赖 AI 提供的错误答案进行财务决策,极有可能给用户带来严重的经济损失甚至是法律风险。

谁的表现相对更好?

尽管整体表现令人担忧,但研究也发现了一些规律和亮点:

  • 付费 vs 免费:付费模型的整体准确率明显优于免费版本。
  • 新老版本迭代:架构更新、发布更晚的模型表现优于较旧的模型。
  • 巅峰对决:在所有测试模型中,表现最好的是具备强大推理能力的 Claude Opus 5,但即便如此,它在面对专业财务问题时,仍然有 39% 的答案存在错误。

科技编辑点评

这一研究结果再次印证了现阶段生成式 AI 的局限性。尽管 AI 能够流畅地生成文本并模仿专业人士的语气,但它们缺乏真正的逻辑校验和事实对齐能力。

在涉及法律、医疗、财务等高风险专业领域时,我们绝不能将 AI 的输出奉为圭臬。将 AI 仅作为辅助检索工具,并始终通过专业人士或官方权威渠道进行最终核实,才是目前最为稳妥的使用方式。