太平洋科技要聞

首頁 > 科技要聞 > 科技> 正文

懂AI PC的人要先擁抱新世界了

量子位整合編輯：黃安莉發(fā)布于：2024-03-10 21:41

2024年第一個四分之一還沒過完，PC市場的最熱關鍵詞，已是非「AI」莫屬。

最新消息，繼聯(lián)想、榮耀之后，微軟的首款AI PC馬上也要來了。

據(jù)Windows Central爆料，微軟將于3月21日發(fā)布新款Surface Pro和Surface Laptop。

兩款新品圍繞人工智能打造：

硬件方面，Intel版本搭載號稱“AI CPU”的全新Intel Core Ultra，arm版本則用上了能把130億參數(shù)大模型塞進PC的高通驍龍X Elite。

軟件方面，兩款新品均將首批支持Windows 11的“下一代”AI體驗，包括一個內(nèi)部名為“AI Explorer”的全新AI功能。

消息人士稱，AI Explorer將會“使AI PC與非AI PC完全區(qū)分開來”，依靠自然語言交互，用戶就能在PC上完成一切。

（賈維斯內(nèi)味兒，這不就來了嗎doge）

這還不算完，各種老牌PC玩家也都坐不住了，紛紛放出自家首款AI PC的消息。

由大模型技術風暴掀起的「模力時代」中，我們?nèi)粘Ｊ褂玫纳a(chǎn)工具正在加速變革。

這樣的趨勢，現(xiàn)在越發(fā)明朗。而終端產(chǎn)品的變革，也意味著，對于人們的日常工作生活而言，新一代的辦公、學習姿勢已經(jīng)在醞釀之中。

△ChatGPT4生成

那么，問題來了——

對于普通打工人而言，產(chǎn)品概念花里胡哨，但究竟怎樣的PC，才算是真正的AI PC？

PC可以怎樣AI？

終端側(cè)AI趨勢開始后，終端、芯片、應用廠商正在用一個個面向生成式AI的芯片逐步補全關于AI PC的定義。

最先勾勒出想象的是微軟。

去年9月，Colpilot正式進入Windows 11，成為電腦系統(tǒng)的AI助手。

這徹底掀開PC上自然語言交互的序幕，更改設置、整理桌面、打開軟件都能通過聊天的方式實現(xiàn)。

聯(lián)想緊隨其后，推出首款AI PC，展示了大模型運行在本地后，給用戶帶來更加專屬化的體驗。

基于用戶個性化信息創(chuàng)建本地知識庫，量身定制完成一系列新任務。

比如基于電腦上的家庭照片和視頻，創(chuàng)作一段“智能剪輯”。

再或者是成為更本地化的工作助手，幫助寫文檔、總結(jié)知識點、提升生產(chǎn)力。

與此同時，最關鍵的底層芯片也重大更新。

高通發(fā)布驍龍X Elite，就從底層角度給出了關于AI PC的一系列思考。

這塊4nm制程的CPU支持130億參數(shù)大模型的本地運行，70億參數(shù)模型可每秒生成30個token。

AI引擎算力可達75TOPS，AI處理速度可達競品的4.5倍。

CPU、GPU性能均是競品的2倍，相同峰值性能功耗比競品低68%。

除此之外，剛落幕不久的MWC 2024上，高通還展示了多模態(tài)大模型在PC本地運行的示例。

它能理解音頻并進行推理，可實現(xiàn)語音輸入的多輪對話。

這意味著，AI PC趨勢和多模態(tài)趨勢正在交匯融合，傳統(tǒng)PC的交互方式將發(fā)生更加徹底的變革。

透過廠商們的實際動作，一些關于AI PC的初步共識已逐漸清晰。

即AI PC應該成為一個用戶專屬的個人助理，它具備強大的AI能力和底層計算能力，將人類從日常生活中常規(guī)的、重復性的、看似瑣碎的工作中解放出來，轉(zhuǎn)而從事更加具有創(chuàng)造性、求變的工作。

但問題是，現(xiàn)在的傳統(tǒng)PC如何才能走到這一步？哪些地方已經(jīng)悄然發(fā)生改變？

技術趨勢給出了一定答案。

AI如何重塑PC？

面向生成式AI，PC要經(jīng)歷的是一場全新計算架構(gòu)的變革。從底層硬件到上層應用，都正在發(fā)生變化。

因為生成式AI浮現(xiàn)出的典型場景，給計算連接等都提出新要求。

高通最新公布的《通過NPU和異構(gòu)計算開啟終端側(cè)生成式AI》白皮書中總結(jié)，生成式AI用例可分為三類：

按需型：由用戶出發(fā)，需要立即響應。比如在PC上生成會議摘要、開車時用語音查詢最近的加油站。

持續(xù)型：運行時間較長。比如用手機進行實時對話翻譯，PC上玩游戲時逐幀運行超級分辨率。

泛在型：在后天持續(xù)運行。比如始終開啟的預測性AI助手。

這些情況都面臨兩大關鍵挑戰(zhàn)。

第一，考慮到終端的功耗和散熱問題，通用CPU和GPU難以滿足這些AI任務的計算需求。

第二，生成式AI應用還在不斷豐富，不能在功能完全固定的硬件上進行部署。

硬件方面，NPU和異構(gòu)計算成為應對挑戰(zhàn)的關鍵。

在終端側(cè)AI趨勢興起后，原本更常出現(xiàn)在手機芯片上的NPU，也開始在電腦芯片上發(fā)揮更加重要的作用。

NPU（Neural Processing Unit）專門為加速神經(jīng)網(wǎng)絡和AI任務而生，可以快速處理AI推理任務。它不易于編程，但能實現(xiàn)更高的峰值性能、能效和面積效率，從而運行機器學習所需的標量、向量和張量數(shù)學運算。

隨著AI趨勢演變，NPU的設計也發(fā)生了一系列變化。比如2015年時，NPU主要面向音頻和語音AI設計，用于簡單CNN并主要需要標量和向量數(shù)學運算。

后面隨著AI在拍照和視頻中的使用增多，以及Transformer、RNN、LSTM和高維度CNN等模型相繼出現(xiàn)，NPU又增加了張量加速器和卷積加速，可以降低內(nèi)存帶寬占用和能耗。

發(fā)展到大模型時期，低時延、續(xù)航、內(nèi)存、等因素共同要求下，NPU往往比GPU表現(xiàn)出更好的能效和性能，也使得NPU成為生成式AI終端上不可或缺的部分。

舉例來看，驍龍X Elite上集成的Hexagon NPU算力達到45TOPS。

在不損失太多精度的情況下，F(xiàn)ast Stable Diffusion能夠在0.6秒內(nèi)生成一張512×512分辨率的圖像。

但隨著生成式AI終端逐漸發(fā)展，端側(cè)運行的模型可能規(guī)模還將繼續(xù)擴大，多模態(tài)趨勢已經(jīng)顯現(xiàn)，還有可能會搭載多個大模型。

僅靠NPU來支撐生成式AI任務，可能還不是最佳方案。

目前廠商們已經(jīng)開始通過異構(gòu)計算，讓不同處理器分別處理擅長的任務，也就是讓全部處理器都來支持生成式AI任務。這一直是高通堅持且擅長的賽道。

GPU不僅用于處理圖像任務，也能用于以高精度格式進行AI并行處理，支持FP32、FP16、INT8運算。

CPU則能用于計算量低、要求低時延的AI任務上，如高通Oryon CPU性能達競品的2倍，功耗還降低了三分之二。

處理器之間的相互配合，可以進一步釋放AI引擎性能，超越單NPU效果。

與此同時，軟件層面也受到AI影響發(fā)生改變。

一方面，生成式AI終端需要軟硬結(jié)合才能更充分釋放性能；另一方面，開發(fā)者也需要適宜當下的工具，能夠更快速將大模型加入到應用中。

在MWC 2024上，高通宣布推出的AI Hub正是這樣一個平臺。

它是一個全面的模型優(yōu)化庫，為開發(fā)者提供超過75個主流模型，如Stable Diffusion、ControlNet、Baichuan-7B等。這些模型全部經(jīng)過優(yōu)化，可以充分利用高通AI引擎內(nèi)所有核心的硬件加速能力，實現(xiàn)4倍推理速度提升。開發(fā)者能快速將大模型無縫集成到應用程序中，縮短產(chǎn)品面市時間。

同時這些優(yōu)化后的模型也同步上線到GitHub、Hugging Face。開發(fā)者可在搭載高通和驍龍平臺的云托管終端上自行運行模型。

更早推出的高通AI Stack可全棧支持主流AI框架（如TensorFlow、PyTorch、ONNX和Keras）和runtime。集成高通神經(jīng)網(wǎng)絡SDK，面向Android、Linux和Windows不同版本。

此外還提供一系列量化、壓縮開發(fā)工具，能夠在盡量不降低模型精確度同時壓縮模型。一些生成式AI模型由此可以量化至INT4。

總之，從底層硬件到上層軟件，都在以生成式AI為中心進行快速變革。

巨頭們腳步一致，紛紛加速All in AI，也讓生成式AI帶來的變革更加迷人。

AI變革究竟會如何影響每一個人的生活？

AI PC展現(xiàn)出的演進過程，已經(jīng)給大家做了一些小劇透。

AI PC通往何處？

細數(shù)起來，AI PC從概念興起到初步產(chǎn)品落地，剛剛過去半年的時間。

高通產(chǎn)品管理高級副總裁兼AI負責人Ziad Asghar將其類比為“人們剛剛能夠?qū)崿F(xiàn)手機上網(wǎng)”的階段：數(shù)十億人都能夠通過手機連接到網(wǎng)絡，奠定了此后移動互聯(lián)網(wǎng)應用大爆發(fā)的格局。

我想如果我們能夠在終端側(cè)實現(xiàn)AI的發(fā)展，就可以把生成式AI的能力和優(yōu)勢充分發(fā)揮出來，打破所有的界限，利用生成式AI的能力讓我們在生活、工作、娛樂、醫(yī)療等各個方面都獲得更好的體驗。

換言之，AI重構(gòu)PC，現(xiàn)在正是打地基的階段。