分类:科技 标签:苹果、iPhone 18 Pro、AI大模型、芯片
随着端侧人工智能技术的飞速发展,智能手机正在成为运行大型语言模型的重要前沿阵地。苹果在最新一代硬件中展现出了强悍的端侧 AI 爆发力,通过全新的 A20 Pro 芯片与硬件升级,让手机本地运行超大参数模型成为现实。
A20 Pro:双 16 核神经网络引擎的算力飞跃
作为 Apple Silicon 发展史上的里程碑,苹果 A20 Pro 芯片首次搭载了双 16 核神经网络引擎。这套专为处理高强度人工智能运算负载打造的架构,在性能表现上彻底超越了以往的所有移动端 SoC。
在实际硬件配置方面,iPhone 18 Pro 以及 iPhone 18 Pro Max 均配备了 12GB、96 位位宽的 LPDDR5X 内存。相比上一代产品,内存速度和带宽实现了质的飞跃,其统一内存带宽可达 115.2GB/s。强大的神经网络引擎在处理特定 AI 任务时的峰值吞吐性能,甚至直接超越了芯片内部的 7 核 GPU。
实测表现:本地驾驭 270 亿参数模型速度翻倍
得益于硬件层面的全面升级,iPhone 18 Pro 的端侧 AI 性能迎来了跨越式提升。海外数码达人亚历安・格龙丁(Adrien Grondin)通过在 iPhone 18 Pro 上运行 Bonsai-27B 模型,直观展示了这一代芯片的惊人实力。
测试结果显示,iPhone 18 Pro 在本地离线运行 270 亿参数大模型时,模型生成词元(token)的速度达到了 iPhone 17 Pro 的两倍,整体运行过程行云流水,完全没有出现降速或严重卡顿。
内存与量化的权衡:端侧 AI 的现实挑战
尽管 iPhone 18 Pro 能够轻松驾驭 270 亿参数的庞大体量,但在实际体验中,用户和开发者依然需要面临一些技术上的取舍。
例如,以 Bonsai 2 为代表的新一代模型虽然能力更强,但由于其 2 比特量化版本体积过大,如果直接放入本地内存可能会引发性能下降。相比之下,经过 1 比特量化的初代 Bonsai 模型对硬件更加友好,在 12GB 大内存与 A20 Pro 的强力加持下,能够发挥出最完美的运行效率。
科技编辑点评
iPhone 18 Pro 成功在本地流畅运行 270 亿参数模型,标志着智能手机正式跨入超大模型端侧运行的新时代。硬件带宽的增加与神经网络引擎的革新,为用户带来了前所未有的离线智能体验。我们有理由相信,随着未来移动端内存规格的进一步提升,智能手机将在个人人工智能领域扮演越来越核心的角色。