今天分享的是AI系列深度研究报告:《2023年AI笔记本电脑引发场景变革:终端AI化白皮书》。
(报告出品方:IDC)
报告共计:27页
海量/完整电子版/报告下载方式:公众号《人工智能学派》
AI 性能将成为衡量笔记本电脑产品的重要指标
IDC 将 AI 终端定义为处理器集成 AI 引擎的终端设备。在其内含之中,AI 笔记本 电脑即处理器集成 AI 引擎的笔记本电脑。该类设备对于语音、图像信息具备 AI 感知能力,软件系统兼容 AI 搜索、内容生成、智能推荐等 AI 应用,并能够贡献 AI 算力。现阶段 ARM 架构芯片集成 AI 引擎已实现规模化落地,X86 架构芯片对 AI 引擎的集成将对现有 AI 应用生态实现进一步泛化,使 AI 笔记本电脑发展为重要的 业趋势。
AI 行业迅猛发展,促生 AI 终端大爆发
AI 技术在过去几年中取得迅猛发展。在基础设施方面,随着计算硬件的不断进步特别是图形处理器 (GPU) 和专用 AI 芯片的普及,云、边、端侧计算能力大幅提升,加速了 Al 模型的训练和推理过程。在数据供给方面,随着互联网的普及和大数据技术的发展,越来越多的数据可用于训练 AI 模型,这些数据的丰富和多样性为 AI 系统提供了更好的学习和泛化能力。
AI 技术在各个领域得到了广泛应用,包括医疗诊断、智能交通、金融风控、智能制造等,这些应用不仅提高了人类活动的效率和准确性,还带来了新的商业机会和社会影响。其中,与个人终端结合紧密度较高的场景亦正在实现快速增长。
AI 技术在消费类终端的应用逐渐普及
手机、平板电脑等消费类终端设备处理能力在过去几年中得到了显著的提高,消费者逐渐在手机、平板上操作更加复杂的任务。AI 技术在手机端的应用非常广泛常见的应用领域包括语音助手、图像识别、智能翻译、智能推荐、聊天机器人、增强现实(AR)等。在平板端的应用涉及教育领域、医疗领域、制造业、娱乐领域.商务领域、智能家居等。
交互体验日益发展为产品的核心使用痛点,越来越多的设备从硬件方面强化针对AI 任务的处理能力。厂商在探索业务新增长点的过程中,不断尝试各种 AI 应用力求使产品为用户提供更智能、便捷和个性化的体验。
用户逐渐习惯于 A 技术对工作、生活的助力
随着时间的推移,用户逐渐习惯于使用 AI,并将其视为工作和生活中的重要助力。用户对于 AI 技术的期待也在这一过程中不断增长,尤其体现于交互的人性化与个性化两方面。AI 技术在未来将继续发展,为用户提供更多的便利和助力。
在工作过程中,AI 技术能够帮助用户提高工作效率和准确性。办公软件中的 AI 能够自动完成一些重复性的任务,如数据分析、报告生成和文件整理等,节省了用户的时间和精力。AI 还可以提供智能推荐和个性化服务,帮助用户更好地处理信息并做出决策。在生活方面,AI 技术也给用户带来了很多便利和娱乐。例如,智能助手能够回答用户的问题、提供实时天气预报、设置提醒事项等。智能家居系统能够自动控制家电设备、监控安全等。智能音箱可以播放音乐、讲故事、进行语音交互等。这些功能使得用户的生活更加智能化、便捷化和娱乐化。
笔记本电脑市场发展趋于平稳,AI 将刺激新一轮增长
中国笔记本电脑市场开始进入存量阶段,驱需新兴技术的落地刺激新的增长。随着Al 技术的不断发展和创新,越来越多的 AI 应用开始在 PC 系统中实现落地。笔记本电脑需要适应和满足用户对于 AI 应用的需求。
中国笔记本电脑市场出货量增长放缓,需求拉动不足
远程办公需求在 2020 年的爆发对笔记本电脑市场形成了较强的刺激,但随着大部分消费者均开始拥有一台或多台电脑,该轮增长快速饱和。加之现代笔记本电脑在性能和耐用性两方面均有显著提升,除硬核游戏对硬件的要求不断逼近供给上限之外,市场上的笔记本电脑基本能够良好满足用户在办公、生活中的一般需求。用户可以使用同一台设备更长时间,而不需要进行升级或更换,市场的增长随之放缓。
尽管笔记本电脑市场整体上的增长有所放缓,但更高的需求依然不断涌现于各个细分市场之中。如游戏本市场,该领域一直是高性能笔记本电脑需求的重要来源。商用领域设计师、摄影师、视频编辑等行业创意专业人士对于高性能笔记本电脑的需求同样不断增加,包括虚拟现实 (VR) 和增强现实 (AR) 对应用端的拉动。科学研究和工程领域也需要进行大规模的数据处理、模拟和计算,高性能笔记本电脑可以提供更快的处理速度和更大的存储容量,满足科学家和工程师的需求。
高性能笔记本电脑在市场中占比的提升是产业升级的缩影,经济的发展加快了人们工作与生活的节奏。不论作为生产力工具还是生活助手,用户均需要笔记本电脑以创新的方式助力协同、提升效率。
AI 的落地应用不断增多,为笔记本电脑市场带来新的增长点
AI 技术可以在电脑端提供各种智能化的功能和服务,生成式 AI 的大范围推广进一步加速了这一进程。软件厂商与硬件厂商开展充分合作,基于对 AI 设备的最佳适配提供功能移植、软件优化,使 AI 应用得以帮助用户更高效地完成工作和提升生活品质,进而满足用户更深层次的需求。
AI 引擎向 CPU 的集成是笔记本电脑行业发展的重要趋势
AI 任务通常可以分为训练和推理两个阶段。训练阶段需要使用大量的数据和算法来训练 AI 模型,在这个阶段,AI 系统通过学习输入数据和相应的输出标签之间的关系,调整模型的参数和权重,以使其能够准确地预测未知数据的输出。训练过程通常需要大量的计算资源和时间,以及专业的数据科学家或工程师来设计和优化模型。推理阶段是指使用已经训练好的 AI 模型来进行实际的预测或决策,在这个阶段,AI 系统接收输入数据,并使用之前训练好的模型来生成相应的输出。
虽然 A 推理对计算资源的要求较低,但在整体规模上远高于 AI 训练,并随应用端的规模化与日俱增,完全依赖云端资源将造成高昂的使用成本。AI 大模型下游应用的规模化与商业化需要利用端侧的 AI处理能力,终端设备神经网络计算总量的增加将促进硬件架构的针对性开发。随着终端设备 AI 算力的发展,复杂度较低的训练任务也将实现向终端的迁移,AI 笔记本电脑将成为 PC 行业的大势所趋。
行业前沿:三合一处理器架构 :“CPU+GPU+AI 引擎”
AI引擎在架构层面与本地模型的计算需求适配性更高
AI 计算向端侧的转移促使终端处理器增加专用加速器,即 AI 引。CPU 的设计初衷是用作通用处理器,目的在于执行各种不同类型的任务,包括通用计算、控制流程、操作系统等。CPU 在单线程任务上具有更高的性能,具有更复杂的指令集和编程模型,支持更多的编程语言和开发工具,使得开发人员可以更灵活地编写和优化代码,以满足特定的需求。此外,CPU 在多任务管理方面更加成熟,具有更强大的操作系统支持和任务调度机制,可以有效地管理和切换多个任务,并提供更好的响应时间和用户体验。
然而 AI 计算需要处理器高效执行特定类型的计算任务。CPU 的多核架构下,每个核心可以执行不同的指令流,但在处理多个任务时,仍然需要通过时间片轮转等方式进行任务切换。随着 AI 行业不断成熟,应用端算力需求呈指数级增大,大量 AI计算任务由云端向终端设备转移。与此同时,AI 算法的规范性不断提升,终端设备处理器对专属硬件的集成势在必行。
AI 引擎通常具有大量的计算单元,采用并行计算的方式,可以同时执行多个计算任务,从而提高计算性能。此外,AI 引擎还可以针对特定的指令集和架构进行优化,以提高计算效率。
A引擎对计算资源的灵活分配保证最优化利用
AI 引擎本身相当于一个友好于矩阵乘运算的列阵,可以将多个任务同时分配到不同的计算单元上进行处理,跟据任务的实际需求对计算资源的数量和规模进行动态调整,以最优化的方式实现多任务并行处理,提高计算效率和性能。并通过负载均衡机制将数据请求分发到不同的节点,避免单个节点成为瓶颈,进一步提高系统的整体性能。对计算资源的灵活分配可以充分利用加速器的并行处理能力提高计算效率和性能,避免资源的浪费和闲置。
AI 引擎架构采取分布式存储,具备更强带宽优势
AI 计算任务需要大量数据频繁访问内存,存取强度较高。在 CPU 架构中,数据通常需要从较低级别的缓存或内存逐级上传到较高级别的缓存或寄存器中,以供处理器执行计算操作。这个过程涉及数据的传输和等待,因而引起一定的延时。尽管现代 CPU 多级缓存和预取技术的进步不断缩小这一时延,但仍然无法避免数据因循环往复存取而造成的容量折损。相比之下,AI 引擎采用分布式存储,单元之间具有专用的互联通路,存取模式直接针对神经网络计算开发,能够实现最大程度的带宽优化。
硬件的针对性带来能效比的提升
AI 引擎专门针对于 Al 计算任务开发,软件和硬件之间的接口更为简单,程序代码更为紧凑。过往制程工艺的进步使得芯片上的晶体管尺寸不断缩小,较小的晶体管尺寸意味着更高的集成度和更短的电路路径,从而减少能量消耗和信号传输延迟。然而随着单位面积芯片的功率接近极限,处理器在通用性与效率之间的权衡取舍日益突出。而与针对于图形应用开发的 GPU 相比,A引警在架构层面对效率的倾斜更加明显,使 AI 计算任务的功耗进一步产生了数量级水平的减小。
软件适配方面向 PC 生态突破
Al 应用在移动端的大范围落推动了 ARM 架构处理器对AI引警的集成。与之相对的 X86 架构广泛应用于个人电脑、服务器、工作站等领域,以及许多行业标准设备拥有编译器、调试器和性能分析工具等丰富的开发工具和调试工具,可以帮助开发者更方便地进行软件开发、调试和优化,提高开发效率和软件质量,是许多软件开发者的首选平台。
PC 生态有着非常成熟的生态系统,包括操作系统、应用程序和开发工具等,X86架构处理器对 AI 引擎的集成将拓展 AI 应用算力向终端设备下放的边界。PC 领域大量软件均基于 X86 架构开发,AI 引擎向相应处理器的拓展意味着该生态内的软件可以在硬件平台上直接运行,无需进行额外的适配和修改。这些软件过往的优化和适配依然能够发挥价值,无需进行大规模的重新编译。
微软旗下 的发布标志着 AI 在电脑端的应用进入了新的时代。 不仅可以作为智能助手帮助用户提高工作效率,还可以赋能开发场景,自动生成高质量代码。该功能的出现改变了传统的工作模式,使人工智能与人类的协作更加默契。
报告共计:27页
海量/完整电子版/报告下载方式:公众号《人工智能学派》