高通钱堃:聚合生态力量,推动行业和社会迈向可持续发展未来
11月21日,2024年世界互联网大会乌镇峰会数字化绿色化协同转型发展论坛于浙江乌镇举行。论坛由清华大学、中国移动通信集团有限公司主办,以“数字化绿色化深度融合加快培育新质生产力”为主题,汇聚各地政府、企业、国际组织、学术机构及企业代表,共话数字化绿色化协同发展的最新趋势和前沿技术,共推经济社会绿色发展。
高通公司全球高级副总裁钱堃受邀出席论坛,并发表了题为《5G-Advanced与终端侧AI助推可持续发展未来》的主旨演讲。钱堃分享了高通公司如何通过5G Advanced和终端侧AI技术创新,携手生态合作伙伴,促进数字化和绿色化协同转型,推动行业和社会迈向可持续发展的未来。
高通公司全球高级副总裁钱堃在2024年世界互联网大会乌镇峰会数字化绿色化协同转型发展论坛发表主题演讲
面对气候变化带来的挑战,高通强调了前沿技术在提高效率、降低计算功耗方面的重要性。钱堃提到,随着生成式AI应用的激增,数据中心的电力消耗也随之增加,尤其是使用生成式AI进行搜索推理的电力消耗是传统网络搜索的十倍。为了解决这一问题,除了在数据中心部署节能芯片外,将AI工作负载转移到边缘计算设备上也是一个有效的策略。采用混合AI架构可以灵活地结合云和边缘计算的优势。他指出,边缘侧终端设备,如智能手机、PC以及车辆等,完全有能力使用较小的模型来处理相应的工作负载,而无需依赖云端资源。
钱堃还提到,将更多的AI工作负载转移到边缘,并实现云端与边缘侧终端的协同处理,这将比以往任何时候都更加需要可靠、低时延且端到云的连接。据钱堃介绍,高通携手合作伙伴积极推动5G技术向5G Advanced演进。5G Advanced重点关注面向终端和网络的专属节能特性,并持续探索端到端的节能技术机遇,助力构建更加绿色节能的网络。
钱堃还强调,要真正发挥这些先进技术的能力,全球协作和整个生态系统的合作至关重要。高通正与全球各地的企业及生态系统紧密合作,将5G与AI的创新扩展到新的受众和行业,为全球最紧迫的挑战提供解决方案。
以下为钱堃发言实录:
尊敬的各位领导,各位嘉宾,大家下午好!非常荣幸能和大家相聚在世界互联网大会乌镇峰会。
当今,5G和AI开启了新一轮的创新浪潮。很高兴在这里和大家分享,高通公司如何通过5G Advanced和终端侧AI技术创新,推动行业和社会迈入可持续发展的未来,并且共同探讨,如何聚合生态力量,推动数字化和绿色化协同转型。
气候变化是每个人都关注的社会、经济和环境问题。据预测,到2050年,全球人口增长将超过25%,达到近100亿;同时,全球经济预计增长近300%,这将大幅度增加对自然资源的需求,预计能源消耗将增加80%。因此,构建一个更加可持续、更加绿色的未来,已成为全球面临的至关重要的课题。
在这个过程中,多项前沿技术的不断突破和融合将发挥关键作用,包括5G连接、高性能低功耗计算、终端侧AI和云服务等。作为从业者,我们很高兴能够推动和见证无线通信和AI技术的持续创新和突破,这些技术在提高效率、降低功耗的同时,实现了数字化与绿色化的深度融合,从而助力社会经济的绿色发展。
智能技术在通过数字化转型提高效率方面,发挥着至关重要的作用。据预测,生成式AI每年能创造的经济效益介于2.6万亿至4.4万亿美元之间。特别是近年来,生成式AI的兴起带来了新的应用和场景,对数据中心建设的需求激增。
数据中心非常耗电,特别是使用生成式AI进行单次搜索推理的电力消耗大约是传统网络搜索的十倍。随着图像和视频创作、文本摘要、智能体等新兴应用的不断涌现,未来将有数十亿用户需要依赖AI进行推理处理。若沿用现有的AI处理模式,到2030年时,AI的能耗可能将达到全球总电力消耗的3.5%,这一数值相当于支撑像上海这样规模的大城市约35年的电力需求。这将引发一系列问题,包括电力来源、传输需求、冷却实现和可持续性等第。因此,数据中心的电力消耗是一个必须从多个角度加以解决的问题。
除了在数据中心部署更加节能的芯片之外,另一个有效的策略是将关键的AI工作负载转移到边缘计算设备上。这是因为与云端相比,边缘侧的终端设备在支持高效的AI处理方面表现出更佳的每瓦特性能,能够以更低的成本和能耗运行生成式AI模型。
尤其是,并非所有的任务都需要通过云端的大规模生成式AI模型来处理。边缘侧终端设备,如智能手机、PC以及车辆等,完全有能力使用较小的模型来处理相应的工作负载,而无需依赖云端资源。
此外,采用混合AI架构可以根据实际需求,灵活访问数据中心,从而充分利用云和边缘计算的优势。据预测,如果将20%的生成式AI工作负载迁移到终端侧,到2028年全球范围内可节省高达160亿美元的计算资源成本。
为了实现生成式AI在终端侧上的有效部署,除了需要对生成式AI模型进行训练优化,使其体积更小、效率更高,并逐步向终端侧迁移之外,还需要在终端侧打造高性能的AI处理器。经过数十年的高性能低功耗计算领域的创新,如今的智能手机拥有比2000年的超级计算机更强的计算能力,而且其能耗甚至比一个LED灯泡还要低。这种技术进步在确保性能的同时,能延长电池寿命并提高能效,使仅靠电池供电的移动终端设备也能随时随地运行生成式AI。
高通开创并赋能终端侧AI的未来,正在为手机、PC、汽车、XR、网络连接和物联网等边缘侧终端提供软硬件。根据分析机构的资料,高通的第三代骁龙8移动平台在图像生成任务方面的效率是数据中心的30倍。同时,我们还承诺提高设计解决方案的可持续性,每年将旗舰级骁龙移动平台的功耗降低至少10%。特别是从2023年的第三代骁龙8到最近发布的骁龙8至尊版,能效提升高达44%,这使得用户能够在保持极低功耗的同时,更好地享受终端侧AI处理带来的诸多优势。
将更多的AI工作负载转移到边缘,并实现云端与边缘侧终端的协同处理,这将比以往任何时候都更加需要可靠、低时延且端到云的连接。
近两年,高通携手合作伙伴积极推动5G技术向5G Advanced演进。5G Advanced重点关注面向终端和网络的专属节能特性,并持续探索端到端的节能技术机遇,助力构建更加绿色节能的网络。
在现有5G技术的基础上,5G Advanced重点研究了提高5G网络能效的新方法。其中一种降低网络能耗的方法,是根据终端反馈来动态调整网络运行。例如,根据总体网络流量负载降低传输功率,或使用更高效的天线等。
5G-Advanced的第一个版本Release 18标准,不仅包括网络节能研究项目,还包括采用特定节能技术的工作项目。第二个版本Release 19将引入 “能效即服务” ,这种新方法能够帮助用户和垂直行业根据自身的需求,来选择能效标准和其他网络性能参数,从而控制功耗、实现网络资源的最优化。
然而,要真正发挥这些先进技术的能力,全球协作和整个生态系统的合作至关重要。高通正与全球各地的企业及生态系统紧密合作,将5G与AI的创新扩展到新的受众和行业,为全球最紧迫的挑战提供解决方案。
例如,在全球范围内,风力发电是一种正在快速扩展的清洁能源,但是风力发电机旋转时会产生尾流湍流,有时可能干扰附近其他发电机的性能。这会导致发电量减少,也增加能源生产成本。在美国,高通正在与VayuAI公司合作,通过5G和AI技术最大限度减小尾流湍流对风电场 “系统” 性能的影响,以提高风力发电能力,增加清洁能源部署。
在新一轮前沿技术浪潮下,高通将继续坚持研发先行、持续投入,不断突破科技边界。基于与各行业生态伙伴的紧密协作,我们将继续推动5G和终端侧AI应用规模化,赋能行业数字化、智能化、绿色化转型,共同迈向“让智能计算无处不在”的绿色未来。