一個(gè)依賴(lài)于云端 AI 的 PC,能夠稱(chēng)之為 AI PC 嗎?
2024 年的 PC 市場(chǎng),AI PC 無(wú)疑會(huì)是最重要的概念之一,主流 PC 廠商以及英特爾、AMD 都在下重金押注。但對(duì)于已經(jīng)發(fā)布的 AI PC 產(chǎn)品,不少人并不認(rèn)可,核心在于這些 AI PC 中「AI」與「PC」(硬件)基本是分離的。
很簡(jiǎn)單,就拿目前 PC 上最大的 AI 用例——微軟 Copilot 來(lái)說(shuō),在英特爾與微軟對(duì)「AI PC」的聯(lián)合定義中,強(qiáng)調(diào)必須配備混合架構(gòu)芯片、Copilot 及其對(duì)應(yīng)的物理按鍵。但事實(shí)是,所有升級(jí)到最新 Windows 11 版本的 PC 都能使用 Copilot,因?yàn)?Copilot 只依賴(lài)于微軟 Azure 云端算力,與 PC 硬件本身無(wú)關(guān)。
換言之,無(wú)論是不是頂著「AI PC」的光環(huán),不論是依賴(lài)云端算力抑或是本地性能強(qiáng)大,一切PC看似都是AI PC,大家用起來(lái)都是「眾生平等」。
這樣看,似乎現(xiàn)在的AI PC全都是“偽概念”,只有等到 Copilot 能在本地運(yùn)行,并且深入 Windows 系統(tǒng)層面,或許才會(huì)出現(xiàn)真正的 AI PC。
好消息是,這個(gè)時(shí)間點(diǎn)可能就是下一代。
Copilot 將支持本地運(yùn)行,Windows 12 大變革
Copilot 要支持本地運(yùn)行的消息,之前其實(shí)就有包括集邦咨詢(xún)?cè)趦?nèi)的機(jī)構(gòu)和媒體傳出,但傳聞終歸是傳聞,云計(jì)算已經(jīng)是第一大支柱業(yè)務(wù)的微軟,未必會(huì)允許 Copilot「下云」。
所幸在臺(tái)北舉辦的英特爾人工智能峰會(huì)上,英特爾客戶(hù)端計(jì)算事業(yè)部副總裁 Todd Lewellen 在接受采訪時(shí)表示,Copilot 將很快支持在 PC 上本地運(yùn)行。
圖/微軟
當(dāng)然不是全部功能。眾所周知,終端算力不可能和云端算力相比,想要讓 Copilot 保持強(qiáng)大的性能和「智商」還是離不開(kāi)云端的支持。但據(jù) Todd Lewellen 介紹,Copilot 的很多關(guān)鍵功能將直接運(yùn)行在本地的 NPU 上。
也不只是我們今天所看到的云端 Copilot。
早在雷科技之前關(guān)于下一代 Windows(以下簡(jiǎn)稱(chēng)「Windows 12」)的報(bào)道中,我們就引用消息源指出,微軟將引入 AI 驅(qū)動(dòng)的 Windows Shell,通過(guò)「高級(jí)版 Copilot」,持續(xù)幫助系統(tǒng)增強(qiáng)搜索、啟動(dòng)項(xiàng)目或工作流、上下文理解等生成式 AI 能力。
同時(shí),微軟還在開(kāi)發(fā)一項(xiàng)新的時(shí)間線(xiàn)功能,允許讓 Copilot 記下所有應(yīng)用、網(wǎng)站瀏覽等活動(dòng)記錄,并且能夠隨時(shí)進(jìn)行回溯,甚至是通過(guò) Copilot 增強(qiáng)的搜索能力,快速找到過(guò)去某個(gè)時(shí)刻在 Windows 上的活動(dòng)。
類(lèi)似 Rewind,圖/ Rewind
除此之外,微軟還有更多基于 AI 改造 Windows 的想法和計(jì)劃。
但不管是 Copilot 的本地運(yùn)行還是在系統(tǒng)層面的深度引入,都意味著未來(lái)「AI 味」越來(lái)越重的 Windows 需要更強(qiáng)的端側(cè)算力。
「將進(jìn)入下一代 AI PC,NPU(算力)的要求為 40 TOPS,」Todd Lewellen 表示,「我們即將推出的下一代產(chǎn)品將屬于這一類(lèi)別。」
真AI PC需要強(qiáng)悍算力,芯片巨頭燃戰(zhàn)火
從之前多個(gè)來(lái)源的傳聞以及英特爾高管的說(shuō)法來(lái)看,40 TOPS(每秒萬(wàn)億次運(yùn)算)是微軟對(duì)于下一代 AI PC 的最低算力要求,而且需要注意的是,這是對(duì) NPU 的要求,不同于當(dāng)下混合架構(gòu)(CPU+GPU+NPU)提供的算力。
而僅從 NPU 提供的算力來(lái)看,今天所有宣稱(chēng)「AI PC」的筆記本電腦產(chǎn)品,都?jí)虿坏轿④浵乱淮?AI PC 的資格。
比如英特爾最新的酷睿 Ultra,也就是 Meteor Lake,在 CPU+GPU+NPU 共同參與運(yùn)算下的 AI 算力可達(dá) 34 TOPS,但如果僅算 NPU 就只有 10 TOPS,GPU 才是出力的大頭。而 AMD 最新一代銳龍 8040 系列(Hawk Point),NPU 的算力也只有 16 TOPS:
兩者都低于 40 TOPS 的性能要求。
相比之下,將在年中集中上市的驍龍 X Elite 筆記本倒是滿(mǎn)足了要求,混合架構(gòu)下的 AI 算力可以達(dá)到 75 TOPS,僅 NPU 的算力也能達(dá)到 45 TOPS。
驍龍峰會(huì)上的展示機(jī),圖/雷科技
不過(guò)這種優(yōu)勢(shì)大概只能保持半年。
英特爾這邊是確定了下一代 Lunar Lake(預(yù)計(jì)年底發(fā)布)的 NPU 算力將超過(guò) 40 TOPS。AMD 那邊雖然沒(méi)有消息,但如果不出意外也會(huì)在下一代大幅提升 NPU 算力,以滿(mǎn)足微軟對(duì)于 AI PC 的標(biāo)準(zhǔn)和 Windows 系統(tǒng)的需求。
至于為什么微軟只看 NPU,其實(shí)不難理解。Todd Lewellen 表示,微軟堅(jiān)持讓 Copilot 在 NPU 而不是 GPU 上運(yùn)行,以盡量減少對(duì)電池壽命的影響:
去年(與微軟)進(jìn)行了很多討論,我們問(wèn)『為什么我們不能在 GPU 上運(yùn)行它?』他們說(shuō)是希望確保 GPU 和 CPU 被釋放出來(lái)完成其他工作。而且我們希望確保出色的電池壽命體驗(yàn),如果在 GPU 上運(yùn)行 Copilot 和其中一些工作負(fù)載,你會(huì)看到對(duì)電池續(xù)航的巨大影響。
核心其實(shí)就是兩點(diǎn):一是不能影響 CPU 和 GPU 日常干活;二是 GPU 用于 AI 運(yùn)算功耗太大了,對(duì)續(xù)航的影響太大,NPU(神經(jīng)網(wǎng)絡(luò)處理器)作為專(zhuān)門(mén)為神經(jīng)網(wǎng)絡(luò)運(yùn)算而設(shè)計(jì)的處理器,則恰恰有更高的效率和更低的功耗。
酷睿 Ultra 上的 GPU 和 NPU,圖/英特爾
而這也從一個(gè)側(cè)面說(shuō)明了,目前已發(fā)布的 AI PC 產(chǎn)品,并沒(méi)有準(zhǔn)備好面對(duì)「AI 真正改變 PC 體驗(yàn)」的未來(lái)。
但 PC 的未來(lái)又是什么?
依賴(lài)云有致命問(wèn)題,本地對(duì)AI PC意味著什么?
個(gè)人終端的特性決定了,基于云端運(yùn)行的 AI 存在太多問(wèn)題,首當(dāng)其沖的就是隱私安全。一個(gè)表現(xiàn)是,在與 Copilot 或者 ChatGPT 等 AI 聊天機(jī)器人的對(duì)話(huà)中,用戶(hù)是不敢發(fā)送個(gè)人隱私信息的。
當(dāng)微軟要基于 AI 改造 Windows 系統(tǒng)的時(shí)候,肯定要讓 AI 從系統(tǒng)層面了解和處理大量關(guān)于系統(tǒng)、軟件運(yùn)行以及用戶(hù)的數(shù)據(jù),但不管是網(wǎng)絡(luò)連接還是模型訓(xùn)練,都會(huì)大幅放大用戶(hù)隱私泄露的風(fēng)險(xiǎn)。
從這個(gè)角度,雖然我們離不開(kāi)云端運(yùn)行的強(qiáng)大 AI,但同時(shí),基于本地運(yùn)行的 AI,又是必需的。
另外受制于網(wǎng)絡(luò)連接,延遲和穩(wěn)定性都會(huì)影響云端 AI 的實(shí)際處理能力,從而影響到用戶(hù)的終端體驗(yàn),還有云端的持續(xù)成本等問(wèn)題,都是英特爾、高通以及各大 PC 和手機(jī)廠商強(qiáng)調(diào)「端側(cè) AI」的重要原因。
不過(guò)更本質(zhì)的問(wèn)題是,只有將 AI 平臺(tái)化,自下而上從系統(tǒng)層面重新設(shè)計(jì)產(chǎn)品體驗(yàn),將算力平臺(tái)化,讓?xiě)?yīng)用可以充分利用端側(cè)算力,才能真正稱(chēng)得上 AI 化。而這些,都需要 AI 能在本地運(yùn)行,終端也能提供相應(yīng)的端側(cè)算力。
