毫无疑问,苹果的 AI 系统「Apple Intelligence」是今年 WWDC 最大亮点;变聪明的 Siri、各种生成式 AI 功能以及整合 ChatGPT 都让人相当期待。
但极其严格的设备需求也引来不少用户抱怨,为何只有 A17 Pro 与 M 系列晶片的设备可用?分析师郭铭琪表示关键原因在于「运行内存大小」。
Apple Intelligence 至少需要预留 2GB 运行内存来运作
Apple Intelligence 发布时苹果就有强调仅限 iPhone 15 Pro 与配备 M 系列晶片的 Mac 或 iPad 可用;也就是说至少要是 A17 Pro 与 M1 以上等级的晶片才可支持 Apple Intelligence。
由于 A16 晶片的 NPU 性能为 17 兆次 / 秒,而 M1 晶片的 NPU 性能为 11 兆次 / 秒,所以很明显问题不是出在算力,而是运行内存大小;因为配备 M1 晶片的 iPad 与 Mac 基础就是 8GB 起跳、而 iPhone 部分只有 iPhone 15 Pro 才是 8GB、A16 晶片的 iPhone 15 则为 6GB。
郭铭琪指出 Apple Intelligence 会在设备端上运行 30 亿参数的大型语言模型,而为了减少语言模型佔用的空间,将部分数据压缩成 2-bit 和 4 bit 的溷合形式后需要随时预留 0.7~1.5GB 的运行内存来进行运算,也就是说目前 Apple Intelligence 对运行内存的要求约为 2GB 或是更低。
简单解释的话就是 A17 Pro 与 M1 晶片的 8GB 运行内存,其中 6GB 是拿来日常使用、而 2GB 可拿来给 Apple Intelligence;而 A16 晶片就只有 6GB 运行内存,没有多余的空间可以拿来跑 Apple Intelligence,因此才无法使用。
此外,郭铭琪也对 Apple Intelligence 表达了几点分析与看法:
- 苹果的 AI 应用至少需要一个 30 亿参数的语言模型,且所需的运行内存大小取决于这个模型的压缩方式。
- 微软对与 AI PC 的需求为 40TOPS;而对苹果来说,搭配云端计算(Private Cloud Compute),设备端仅需 11TOPS 就已足够执行 AI 应用。
- 未来 Apple Intelligence 一定会持续升级(最有可能升级到 70 亿参数的大型语言模型);届时就会需要更大的 RAM 才能运作,苹果可能会以此作为区分高低阶产品的标准。
Apple Intelligence 秋季才会推出测试版,率先支持英文使用
Apple Intelligence 测试版会在秋季时随 iOS 18、iPadOS 18、macOS 15 一起推出,率先支持英文使用;部分功能、软件平台和其他语言则会在明年陆续推出;届时只要将设备更新至 iOS 18、iPadOS 18、macOS 15 并且将 Siri 和设备语言设置为英文 (美国) 即可免费体验 Apple Intelligence。