在全面“本地化”前,所有AI PC都是“伪AI PC”?
在全面“本地化”前,所有AI PC都是“伪AI PC”?
文 | 雷科技 leitech
先思考一个问题:
一个依赖于云端 AI 的 PC,能够称之为 AI PC 吗?
2024 年的 PC 市场,AI PC 无疑会是最重要的概念之一,主流 PC 厂商以及英特尔、AMD 都在下重金押注。但对于已经发布的 AI PC 产品,不少人并不认可,核心在于这些 AI PC 中「AI」与「PC」(硬件)基本是分离的。
很简单,就拿目前 PC 上最大的 AI 用例——微软 Copilot 来说,在英特尔与微软对「AI PC」的联合定义中,强调必须配备混合架构芯片、Copilot 及其对应的物理按键。但事实是,所有升级到最新 Windows 11 版本的 PC 都能使用 Copilot,因为 Copilot 只依赖于微软 Azure 云端算力,与 PC 硬件本身无关。
换言之,无论是不是顶着「AI PC」的光环,不论是依赖云端算力抑或是本地性能强大,一切 PC 看似都是 AI PC,大家用起来都是「众生平等」。
这样看,似乎现在的 AI PC 全都是 " 伪概念 ",只有等到 Copilot 能在本地运行,并且深入 Windows 系统层面,或许才会出现真正的 AI PC。
好消息是,这个时间点可能就是下一代。
Copilot 将支持本地运行,Windows 12 大变革
Copilot 要支持本地运行的消息,之前其实就有包括集邦咨询在内的机构和媒体传出,但传闻终归是传闻,云计算已经是第一大支柱业务的微软,未必会允许 Copilot「下云」。
所幸在台北举办的英特尔人工智能峰会上,英特尔客户端计算事业部副总裁 Todd Lewellen 在接受采访时表示,Copilot 将很快支持在 PC 上本地运行。
当然不是全部功能。众所周知,终端算力不可能和云端算力相比,想要让 Copilot 保持强大的性能和「智商」还是离不开云端的支持。但据 Todd Lewellen 介绍,Copilot 的很多关键功能将直接运行在本地的 NPU 上。
也不只是我们今天所看到的云端 Copilot。
早在雷科技之前关于下一代 Windows(以下简称「Windows 12」)的报道中,我们就引用消息源指出,微软将引入 AI 驱动的 Windows Shell,通过「高级版 Copilot」,持续帮助系统增强搜索、启动项目或工作流、上下文理解等生成式 AI 能力。
同时,微软还在开发一项新的时间线功能,允许让 Copilot 记下所有应用、网站浏览等活动记录,并且能够随时进行回溯,甚至是通过 Copilot 增强的搜索能力,快速找到过去某个时刻在 Windows 上的活动。
除此之外,微软还有更多基于 AI 改造 Windows 的想法和计划。
但不管是 Copilot 的本地运行还是在系统层面的深度引入,都意味着未来「AI 味」越来越重的 Windows 需要更强的端侧算力。
「将进入下一代 AI PC,NPU(算力)的要求为 40 TOPS,」Todd Lewellen 表示,「我们即将推出的下一代产品将属于这一类别。」
真 AI PC 需要强悍算力,芯片巨头燃战火
从之前多个来源的传闻以及英特尔高管的说法来看,40 TOPS(每秒万亿次运算)是微软对于下一代 AI PC 的最低算力要求,而且需要注意的是,这是对 NPU 的要求,不同于当下混合架构(CPU+GPU+NPU)提供的算力。
而仅从 NPU 提供的算力来看,今天所有宣称「AI PC」的笔记本电脑产品,都够不到微软下一代 AI PC 的资格。
比如英特尔最新的酷睿 Ultra,也就是 Meteor Lake,在 CPU+GPU+NPU 共同参与运算下的 AI 算力可达 34 TOPS,但如果仅算 NPU 就只有 10 TOPS,GPU 才是出力的大头。而 AMD 最新一代锐龙 8040 系列(Hawk Point),NPU 的算力也只有 16 TOPS:
两者都低于 40 TOPS 的性能要求。
相比之下,将在年中集中上市的骁龙 X Elite 笔记本倒是满足了要求,混合架构下的 AI 算力可以达到 75 TOPS,仅 NPU 的算力也能达到 45 TOPS。
不过这种优势大概只能保持半年。
英特尔这边是确定了下一代 Lunar Lake(预计年底发布)的 NPU 算力将超过 40 TOPS。AMD 那边虽然没有消息,但如果不出意外也会在下一代大幅提升 NPU 算力,以满足微软对于 AI PC 的标准和 Windows 系统的需求。
至于为什么微软只看 NPU,其实不难理解。Todd Lewellen 表示,微软坚持让 Copilot 在 NPU 而不是 GPU 上运行,以尽量减少对电池寿命的影响:
去年(与微软)进行了很多讨论,我们问『为什么我们不能在 GPU 上运行它?』他们说是希望确保 GPU 和 CPU 被释放出来完成其他工作。而且我们希望确保出色的电池寿命体验,如果在 GPU 上运行 Copilot 和其中一些工作负载,你会看到对电池续航的巨大影响。
核心其实就是两点:一是不能影响 CPU 和 GPU 日常干活;二是 GPU 用于 AI 运算功耗太大了,对续航的影响太大,NPU(神经网络处理器)作为专门为神经网络运算而设计的处理器,则恰恰有更高的效率和更低的功耗。
而这也从一个侧面说明了,目前已发布的 AI PC 产品,并没有准备好面对「AI 真正改变 PC 体验」的未来。
但 PC 的未来又是什么?
依赖云有致命问题,本地对 AI PC 意味着什么?
个人终端的特性决定了,基于云端运行的 AI 存在太多问题,首当其冲的就是隐私安全。一个表现是,在与 Copilot 或者 ChatGPT 等 AI 聊天机器人的对话中,用户是不敢发送个人隐私信息的。
当微软要基于 AI 改造 Windows 系统的时候,肯定要让 AI 从系统层面了解和处理大量关于系统、软件运行以及用户的数据,但不管是网络连接还是模型训练,都会大幅放大用户隐私泄露的风险。
从这个角度,虽然我们离不开云端运行的强大 AI,但同时,基于本地运行的 AI,又是必需的。
另外受制于网络连接,延迟和稳定性都会影响云端 AI 的实际处理能力,从而影响到用户的终端体验,还有云端的持续成本等问题,都是英特尔、高通以及各大 PC 和手机厂商强调「端侧 AI」的重要原因。
不过更本质的问题是,只有将 AI 平台化,自下而上从系统层面重新设计产品体验,将算力平台化,让应用可以充分利用端侧算力,才能真正称得上 AI 化。而这些,都需要 AI 能在本地运行,终端也能提供相应的端侧算力。
这也是 PC 的未来。也只有当 Windows 开始自我革命,改造基于 AI 的个人电脑操作系统;当处理器厂商毅然决然转身,大幅提高 AI 运算效率;当 PC 厂商脚踏实地,真正思考 AI 时代的 PC 体验:
PC 才会是真正的 AI PC。
-
- 威高骨科:陷入骨科反腐风波,高管集体辞职,净利跌八成
-
2024-03-31 08:52:17
-
- 农夫山泉比2022年多挣了100亿
-
2024-03-31 08:50:01
-
- Visa万事达降费 商户痛点解了吗
-
2024-03-31 08:47:45
-
- 东南亚国家没理由要害怕中国强大
-
2024-03-31 08:45:29
-
- 今天,A股撤回了一次“3000点保卫战”
-
2024-03-31 08:43:14
-
- 日本解禁战斗机出口,这“一大步”要迈向哪?
-
2024-03-29 21:51:15
-
- 就近期涉军问题,国防部回应
-
2024-03-29 21:48:59
-
- 爆上热搜!小米汽车价格公布
-
2024-03-29 21:46:43
-
- 莫斯科恐袭事件有四大疑点
-
2024-03-29 21:44:27
-
- 新华社深度报道|小林制药产品致死4人,震动日本国内外!
-
2024-03-29 21:42:11
-
- 邯郸初中生被害案:核准追诉或需4个月
-
2024-03-29 21:39:55
-
- 杨颖被《奔跑吧》抛弃?资源全由白鹿接手,复出彻底失败
-
2024-03-29 21:37:39
-
- 雷军谈小米SU7定价:马斯克有能力砸钱,我们就要比特斯拉便宜3万,反正已经吐
-
2024-03-29 21:35:24
-
- 一个吐槽“像鬼屋”,一个回怼“审美差”!长沙业主与设计师互骂,双方回应
-
2024-03-29 21:33:08
-
- 纵苇科技完成近2亿元战略融资,加速磁驱输送技术的普及
-
2024-03-29 21:30:52
-
- 机构展望:A股市场积极信号仍在累积
-
2024-03-26 02:43:37
-
- 调查:过去十年奢侈收藏品中仅稀有威士忌能跑赢美股大盘
-
2024-03-26 02:41:21
-
- 莫斯科恐袭嫌疑人被捕画面公布,其称有人出100万卢布买凶
-
2024-03-26 02:39:05
-
- 马英九将率台湾青年来大陆交流参访
-
2024-03-26 02:36:50
-
- 消息称小红书2023年首次盈利,IPO前景不明
-
2024-03-26 02:34:33