高通芯片和模型的本地化

高通骁龙 8 至尊版芯片是高通公司 2024 年推出的一款性能强劲的旗舰级移动平台芯片，有几个核心的特性：

CPU 性能：

架构设计：搭载第二代定制的高通 Oryon CPU，采用“2+6”的全大核架构，即 2 颗超级内核以及 6 颗性能内核。其中超级内核主频高达 4.32GHz，适合应对需要更快响应速度的密集型应用；性能内核主频为 3.53GHz，负责运行最密集型的应用程序，每个性能内核都经过调优，具有较高能效。

性能提升：与上一代芯片相比，CPU 单核性能提升 45%，多核性能提升 45%。在全新架构以及技术优化的加持下，可确保在手机等紧凑产品外观设计下保持全天候冷静运行。并且该芯片的二级缓存达到 24MB，是目前移动领域最大的缓存，为芯片的高性能运行提供了有力支持。

GPU 性能：

架构升级：采用切片架构的 Adreno GPU，主频达到了 1.1GHz，在图形处理方面实现重大升级。并且为每个切片分配了专用内存，用于图形数据的传输，减少向芯片内存发送的图形数据，提升了图形处理的效率和性能。

性能表现：图形性能方面，对于图形密集型游戏，其性能将提升 40%，功耗降低 40%。同时，光追性能提高了 35%，结合 Snapdragon Elite Gaming 的先进技术解决方案，能够为用户带来出色的游戏体验。并且该芯片首次支持了虚幻引擎 5.3，让手机游戏实现电影级 3D 环境成为可能。

AI 性能：

NPU 升级：搭载全新架构的 Hexagon NPU，AI 性能提升 45%，能效提升 45%，基础大语言模型上的 token 生成速率提升了高达 100%。在目前业界流行的一些大语言模型上，处理速度达到超过 70 tokens/s，快速响应能力出色。

智能体验：用户可以打造个性化多模态 AI 助手，AI 助手在底层依靠多种先进 AI 模型支持，包括自动语音识别（ASR）、大语言模型（LLM）、大视觉模型（LVM）和全新多模态大模型（LMM），通过异构计算，这些模型在高通 AI 引擎的不同内核上运行，确保一切任务都能流畅高效地运行。例如，用户可以将手机摄像头直接对准想要了解的事物，然后对手机进行提问，手机可以基于摄像头的实时画面进行分析并给出答案，增强了用户的交互体验。