分类:AI动态 标签:人工智能、大模型、存储技术、企业级服务


在生成式 AI 与大模型加速落地的今天,推理环节的响应速度和并发吞吐能力,正成为企业级应用成败的关键。近日,中科曙光正式发布了全新迭代升级的 AI 推理原生存储 FN Neo。此次升级直击大模型落地过程中的核心痛点,通过底层架构创新,大幅刷新了存储性能上限,为企业级 AI 业务的规模化生产按下“加速键”。

核心性能突破:告别交互等待

随着大模型参数量不断膨胀,用户在与智能体(Agent)交互时常常面临首字延迟高、高并发下吞吐下降等问题。FN Neo 针对这一场景进行了深度优化,实测数据表现亮眼:

  • 首字响应极速化:模型首 Token 响应时间大幅缩减 73%,有效压缩了用户的交互等待时长,带来更接近真人对话的实时响应体验。
  • 吞吐能力倍增:整体 Token 吞吐能力提升 150%,显著强化了系统在高并发场景下的服务承载能力,轻松应对海量用户的同时在线请求。

生产级高可靠性:护航 7x24 小时业务

对于企业级 AI 业务而言,服务的连续性至关重要。任何一次突发故障都可能带来不可估量的业务损失。

FN Neo 专为生产级 AI 业务的 7 x 24 小时 不间断运行需求打造,具备 99.999% 的电信级高可靠性。通过内置的多重故障防护与冗余机制,产品能够从容应对各种极端异常情况,全力保障核心推理业务的连续不中断。

平滑部署与生态兼容:实现敏捷迭代

除了极致的性能与可靠性,企业的迁移成本也是技术落地的主要考量因素。FN Neo 在这方面展现了极高的灵活性:

  • 广泛兼容:全面兼容当前主流的 AI 推理框架以及多元化的组网环境。
  • 无缝接入:企业无需对现有系统进行大规模改造即可快速完成部署,最大程度复用现有的推理生态。

总结与展望

中科曙光 AI 推理原生存储 FN Neo 的全新升级,不仅是一次硬件与存储性能的简单迭加,更是面向大模型与智能体规模化落地的一剂“强心针”。通过实现“低延迟 -> 高吞吐 -> 强连续”的技术闭环,FN Neo 正在帮助企业以更低的改造成本、更高的生产效率,加速迈入 AI 深度应用的全新阶段。