联发科最近发布了一款名为天玑9300的flagship型号的5G生成式AI移动芯片。这款芯片采用了全新的全大核架构设计，并结合了新一代AI处理器APU和联发科独有的优秀技术，使得端侧生成式AI应用能够展现更强大的性能，为用户提供多样且丰富的AI体验。此外，联发科还与多家AI行业内的公司进行了深入的合作，共同打造了丰富的移动端AI生态
全新第七代AI处理器APU 790，为生成式AI而生
随着用户对生成式人工智能应用的需求不断增长，端侧生成式人工智能的便捷性和安全性等优势也开始显现。当然，部署端侧的人工智能大语言模型需要强大的人工智能算力来支持
天玑9300搭载联发科第七代AI处理器APU 790，为生成式AI而设计，拥有硬件级的生成式AI引擎，可以实现更加高速且安全的边缘AI计算，深度适配Transformer模型进行算子加速，速度是上一代的8倍。
同时APU 790的性能和能效得到显著提升，整数运算和浮点运算能力提升至前一代的2倍，苏黎世ETHZv5.1 AI-Benchmark Mobile Soc跑分2109 分，AI性能成功霸榜，功耗更是降低了45%。在强大的AI性能支持下，1秒以内即可生成图片。天玑9300强悍的AI算力、创新的全大核CPU架构和Immortalis-G720 GPU都为端侧运行生成式AI打下坚实的性能基础。
同时，联发科基于亿级参数的大语言模型特性，开发了混合精度 INT4 量化技术。结合联发科独特的内存硬件压缩技术NeuroPilot Compression，可以更有效地利用内存带宽，显著减少AI大模型占用终端内存，从而突破手机内存限制，为端侧运行AI大语言模型提供支持，助力更大参数模型在端侧应用上
在以上的基础上，天玑9300首次在vivo旗舰手机上成功应用了70亿参数的AI大语言模型，其处理速度可达到每秒20个标记。不仅如此，联发科还突破了行业的极限，已经与vivo成功地在手机上运行了130亿参数的大语言模型。甚至，天玑9300还率先实现了在移动芯片上成功运行330亿参数的AI大语言模型，并引领了业界的发展
天玑9300还支持多模态生成式AI大模型，可以创造出丰富有趣的端侧体验，如“文生诗”、“文生图”以及“文生趣图”
可见，天玑9300的AI算力和端侧生成式AI能力已领先行业，足以让用户随时随地AI创造力全飙。
生成式AI模型端侧技能扩充，带来全面、丰富的端侧生成式AI体验
与云端生成式AI解决方案不同，由于硬件环境的差异，部署在手机端的生成式AI也需要考虑手机内存、存储容量、负载上限等因素。为此，联发科率先提出了先进的解决方案
APU 790 支持生成式AI模型端侧技能扩充技术NeuroPilot Fusion，它可以基于基础大模型持续在端侧进行低秩自适应（LoRA，Low-Rank Adaptation）融合，在混合式AI的赋能下，可以基于1个基础大模型，通过云端训练，在端侧完成N个功能的融合，赋予基础大模型更全面、更丰富的生成式AI应用能力。
比如基于AI模型端侧技能扩充技术的“图生GIF动图”功能，用户可以根据一张照片更换不同的风格甚至表情，玩出个人专属风格的表情包，秒变表情包小达人。
AI开发平台NeuroPilot正在加速端侧生成式AI生态布局的发展
通过利用强大的AI算力和先进的内存硬件压缩技术，以及AI模型端侧技能扩充等技术，联发科的天玑9300的APU 790将端侧生成式AI的速度和广度提升到了一个全新的水平。与此同时，为了加速将生成式AI部署到端侧并推广应用，联发科还利用其AI开发平台NeuroPilot构建了一个完善的AI生态系统，涵盖了从底层硬件到工具链、模型中心以及开发生态的各个方面，以便快速、高效地部署端侧生成式AI应用
AI开发平台NeuroPilot支持Android、Meta LIama 2、百度文心一言大模型、百川智能百川大模型等前沿主流AI大模型。可以重写为：AI开发平台NeuroPilot支持Android、Meta LIama 2、百度文心一言大模型、百川智能百川大模型等领先的主流AI大模型
NeuroPilot拥有一套完整且先进的工具链，其中最重要的是NeuroPilot Compression低秩自适应融合技术，Speculative Decoding推测解码加速技术以及模型优化与转化技术
联发科的天玑开发者中心还为开发者提供端侧生成式AI落地一站式开发资源，分享端侧模型部署案例，以提高开发效率。目前，已有20多个生成式AI合作伙伴加入了这个开发生态圈
联发科还携手业界合同伙伴打造精彩的生成式AI应用体验。虹软的生成式AI超级分辨率技术基于天玑9300 APU 边缘计算能力，相比前代，性能可提升30%。在25倍放大的拍摄时，利用生成式AI超级分辨率技术，可以拍出细节更真实的图像效果。
生成式AI语意搜索技术极大地受益于天玑9300 APU的边缘计算能力，相较于前代，性能提升了260%。例如，在手机相册中搜索照片时，只需描述照片的内容，即可在毫秒内精准找到相应的照片。而且，即使在断网状态下也能进行搜索，而且不会泄露隐私
Morpho的视频通话实时数字分身生成技术，同样基于天玑9300 APU边缘计算能力，对比前代，性能提升26%。一般的虚拟人像生成器需手动选取容貌样式花费时间。但基于视频通话实时数字分身生成技术，用户操作容易，仅需打开摄像头单帧图片即可瞬间生成数字分身。
基于天玑9300 APU边缘计算能力，慧鲤生成式AI防眩光技术性能可提升60%。在此技术加持下，无论是室外还是室内，在拍摄时如有眩光，只要轻松一暗即可消除眩光干扰。
在AI端云融合的潮流下，我们可以明显看到天玑9300在AI算力、生成式AI用户体验和生态方面展现出了全面的优势。它为新一代旗舰级端侧生成式AI体验树立了新的标杆，因此天玑是强大生成式AI的首选
此外，领导生成式AI的公司，如联发科，正不断进行技术革新和生态布局，大力推进混合式AI计算，为在端侧部署生成式AI打下了坚实的基础。他们致力于在端侧普及生成式AI，让更多用户享受个性化的AI体验，并创造全新的全场景智能体验，让科技成果造福于全体大众
