最近重视PC市场的朋友想必会留意到，“AI PC”已经成为了诸多厂商最新的宣扬口号。
在更进一步的产品介绍里，这些厂商往往会宣称他们的新品运用了全新内置NPU（神经网络单元）的处理器，因而它能够运转老旧设备所不能支撑的各种AI运用，供给从语音助手到用户感知、从生成式绘图到文本辅佐修改在内的众多新功用。
乍看之下这似乎有些诱人，并且依照手机职业的经验，最新的“生成式AI”功用往往仅限于最近的两代硬件平台能够适配。所以关于更早之前、被以为“AI算力缺乏”的机型，它们即便更新到了最新的体系或软件版本，往往也不能看到相关的AI功用和选项。
那么这是否意味着，现在各种各样的AI功用也都必须要运用这些内置NPU新款处理器的新电脑才干用到呢?毫无疑问，这是一个很微妙的问题。由于从最近的一些职业动向来看，答案似乎是否定的。
多款AI PC软件上新，但都不需求新硬件就能运用
比方在2024年2月23日，NVIDIA推出了最新的551.61版显卡驱动、以及与之调配的“NVIDIA App”。在这个新的控制界面里，NVIDIA新增了多个根据显卡AI算力的游戏画面优化功用。理论上只要运用的是最近几代的RTX显卡就都能够启用，然后让AI来主动处理游戏画面，使得它看起来色彩更生动、纹理更明晰。
图片
又比方说，(cc外挂网)差不多就在同一天，微软方面也更新了旗下“相片”软件的最新版本。其最大的改变便是新增了“AI擦除”功用。据称，这一功用类似于现在许多新款旗舰手机上的AI相片路人消除，也便是能够擦除相片布景上的小范围异物，同时运用AI算法来主动补全布景。
图片
但问题在于，微软的新版“相片”软件完全没有限定电脑的硬件。换句话说，它所运用的这套“生成式绘图AI”，哪怕是运用最一般的x86CPU也能运转，并不需求用户非得换用“AI处理器”或“AI PC”。
为什么会这样?其实这背面触及到了两个问题，一是AI核算的实质，二是PC比较智能手机在基本思路上的差异。
AI核算并不奥秘，也不肯定非要NPU才行
首要，咱们来说说AI核算的性质。大家都知道，现在PC有所谓的“位数”概念，比方8位、16位、32位和64位，而这个位数一般指的是每一次核算所运用的数据字长。字长越长就意味着核算的结果越准确，但与此同时也会占有更多的核算资源。
图片
关于干流的通用CPU来说，它们的内部结构一般是为32位和64位核算而设计。同时为了应对一些特别高性能的核算任务（比方多媒体编解码、游戏渲染），现在CPU也会具有额外的256位、乃至512位浮点单元和指令集，以加快这部分任务的核算速度。
但是AI推理（留意咱们的用词，它不是“核算”）并非如此，关于AI处理的场景来说，它其实更像是在做无数次的猜想，因而核算的次数要远比核算精度更重要。这便是为什么越是先进的AI处理单元(也便是NPU)，它们往往会支撑越低精度、短字长(比方8bit、4bit)的核算格局。
图片
这样一来，问题就出现了。假设现在有两颗处理器，一颗是32位的CPU、每秒能够完结2次运算，而另一颗是4位的NPU、每秒能完结10次运算。那么从整体的数据吞吐量来说，肯定是CPU更高（32*2>4*10），但由于CPU不能将自己的运转模式变成4位字长为最小单位进行运算，所以假如强行让它去进行AI推理，那么它实际上每秒还是只能算2次，而不是16次。这时候，CPU的“AI性能”自然就比NPU来得慢了。
图片
没错，尽管这个例子举得相当浅显，但它的关键在于，传统CPU并不是“完全不能用来算AI”，它顶多仅仅速度低一点罢了。何况许多稍近代一点的CPU（比方10代酷睿-X，11代到14代移动和桌面酷睿），实际上也适配了专用于强化AI核算功率的指令集，也不会像这个例子里功率那么低。
更不要说就像咱们前面所说到NVIDIA的状况那样，PC上的AI功用有时候也未必就适配了最新型的NPU硬件，它们反而或许是针对部分显卡优化得更好。毕竟在PC范畴，显卡可是早就支撑AI加快运算、相当于早就有内置“NPU”，并且是性能数十倍、数百倍于智能手机里的NPU了。
因而这实际上也就解释了，为什么没有NPU的电脑一样能够运转AI程序的原因。
AI PC的现有优势是能效，但性能还得看未来
或许有的朋友看到这儿就会问，那是不是关于现在配备有NPU的“AI PC”来说，它们运转AI程序的速度还是会更快一些呢?
图片
其实也不一定。这是由于NPU固然在架构上是专为AI推理而设计、核算功率会更高，但问题在于，“功率高”并不完全等于“速度快”。实际上关于现在的消费级NPU来说，它们更大的含义其实是在于下降设备进行AI推理、感知时的功耗，而并非寻求更高的肯定AI性能。
这很好了解，毕竟消费级NPU的设计远本就最早源自智能手机这类、功耗敏感型的终端形状，并且目前的AI PC和PC的AI处理器，绝大多数还都是为笔记本电脑，乃至能够说是为轻浮本而生。
图片
打个比方，就比如现在有一段AI代码，假如咱们用台式PC里的“线程撕裂者”192核CPU、或者是RTX4090显卡去运转，那么它很有或许会比智能手机、比轻浮本里的NPU算得更快。但前者核算过程中的设备功耗会高达好几百、乃至上千W（瓦），后者则或许会只耗费10W、乃至不到1W就能完结运算。
很显然，关于前一种设备来说，是无法让这种AI代码一向处于运转状态的，但后者就能够做到。
图片
所以在某种程度上，这也就引出了未来“AI PC”或许的两种发展方向。要么便是将来AI PC会继续强调能效比，主打AI核算的功率。在这种状况下，需求随时启动、感知型的AI功用就会成为首要的体验差异。
要么，假如真的能够迎来“高性能NPU”的进化，让NPU在AI推理速度上完全压倒尖端CPU和GPU。那么比如AI绘图乃至是视频生成这样的高算力AI运用场景，才有或许真正在端侧落地，并且深度地改变咱们运用PC进行学习、作业的方法。