5G加持AI创新应用，高通钱堃：混合AI赋能千行百业

(相关资料图)

从ChatGPT到Stable Diffusion，从对话文本、小说到创意图片、音乐、视频等，生成式AI在今年掀起了一轮又一轮的舆论热潮，受到了热烈的关注与讨论。凭借着在趣味性、生产力提升等方面的优势，生成式AI吸引了海量的用户，具有巨大的发展潜力。瑞银预计，整个生成式AI的市场规模可能高达1万亿美元。

与此同时，生成式AI模型的参数规模也急剧扩张，例如OpenAI的GPT参数规模从第一代的1.17亿提升到GPT-2的15亿，而ChatGPT之前的AI模型GPT-3甚至拥有1750亿参数。模型“体量”的膨胀和海量用户的涌入，对算力提出了巨大的挑战，甚至出现了“一卡难求”的现象，无疑会影响生成式AI的普及。在最近举办的世界互联网大会尼山对话主活动上，高通公司全球高级副总裁、技术许可业务中国区总经理钱堃引用研究数据指出，每个生成式AI网络搜索查询的成本比传统搜索高10倍，如果每天进行超过100亿次查询，每年的额外成本可能达数十亿美元。

钱堃表示，要让人工智能更广泛地走进千家万户，需要经历从“云端”到“终端”的不断推进，这其中5G承担着连接云端算力和终端应用的关键桥梁。在5G的加持下，混合AI架构使AI在云端、边缘云和终端侧协同运行，使整个系统中的计算和处理能力能够以最有效的方式重新分布，实现更强大、更便利、更高效、更优化的AI。

高通是全球领先的无线科技创新者，在5G等连接技术，以及AI、影像、图形等技术领域拥有长期积累，已打造出“统一的技术路线图”，将先进的连接、低功耗高性能计算和终端侧AI等技术从手机高效扩展至不同行业中的下一代智能终端，包括汽车、VR头显、物联网设备等。钱堃认为，如今具备AI功能的手机、PC和其他品类的便携终端数量已达到数十亿台，伴随着移动终端成为人们生活中的必备品，混合AI架构中终端侧的优势更加凸显，利用大规模终端侧AI处理支持生成式AI有着广阔前景，并将在未来几年稳步增长。

公开信息显示，今年2月，高通在MWC大会上演示了Stable Diffusion在智能手机上的运行情况。这款手机搭载高通第二代骁龙8 5G移动平台，通过利用高通AI软件栈执行全栈AI优化，可以在15秒内执行20步推理，生成一张512x512像素的图像，媲美云端响应速度。更为重要的是，这些为在手机上运行生成式AI所做的优化，也可以用于高通骁龙平台支持的VR头显、笔记本电脑等各种终端上，有助于推动生成式AI加速普及应用。

钱堃进一步指出，在推动生成式AI规模化扩展的同时，混合AI架构还将赋能AI深入千行百业，在汽车、物联网、XR等细分领域提供全新的增强用户体验。根据预测，到2025年，在智能手机、PC/平板电脑、扩展现实（XR）、汽车和物联网等细分市场的AI应用率，将从2018年的不到10%，增长至100%。在这一趋势的推动下，终端侧AI将成为许多关键平台的标准特性，这将为AI赋能的千行百业的发展带来机遇。

可以预见，5G连接所具有的高速率、低时延、海量连接等优势，将会让混合AI架构更好地统筹运用云端、边缘云和终端侧的AI算力，从而让更多消费者和行业用户享受到生成式AI带来的全新体验。钱堃表示，AI技术发展的普惠价值在于惠及千家万户，赋能千行百业。凭借技术创新、全球化规模和生态系统赋能，高通正在让混合AI成为现实，积极与全球合作伙伴一起把更多的AI特性带给用户，把AI扩展到更广泛的领域，带来更深入的体验。展望未来，混合AI势不可挡，高通公司将以持续的5G、AI技术创新为人们的未来科技体验奠定基础，在数字文明下寻求合作共赢，在相互成就中构建开放、协同的数字生态系统。