高通全球副总裁孙刚：未来几个月将有望在手机上运行超过 100 亿参数的 AI 模

7月20日中午，在今天举行的2023世界半导体大会暨南京国际半导体博览会上，高通全球副总裁孙刚发表演讲。

他表示，5G技术持续发声，5G将开启新一轮5G创新； 推广混合AI架构，在终端侧运行AI推理，共享或支持云端处理。 5G与人工智能将携手并进、同步发展，两大基本要素协同，助力未来创新。

孙刚提到，生成式AI将带来搜索、内容生成、代码编写、生产力等方面的变化。 颠覆行业现状，秒级创作内容，巨大的市场机会和大幅提升生产力的潜力。 2020年至2022年，生成式AI相关投资将增长425%，生成式AI市场初步估计将达到1万亿美元（目前约为7.23万亿元人民币）。

但他指出，云经济很难支撑生成式网AI的大规网模扩张。 为了实现大规模扩张，AI处理的中心正在向边缘转移。 比如XR、汽车、手机、PC、物联网，生成式AI会影响各种终端上的应用。

期间，高通进行了全球首次在手机上运行的生成式AI的终端侧演示，下一步将在终端上运行大规网模语言模型。

“目前我们可以支持超过10亿个参数的模型在终端上运行，预计未来几个月内超过100亿个参数的模型将在终端侧运行。” 他说。

广告声明：文章中包含的外部跳转链接（包括但不限于超链接、二维码、密码等）用于传达更多信息，节省选择时间。 结果仅供参考。 IT之家的所有文章均包含此声明。