幾乎所有用過車載語音助手的人都遇到過同一個瞬間:車開進隧道、地庫或山區,網絡信號掉下去,剛才還在應答的助手突然安靜。功能列表再長,也擋不住這一刻的失效。2026 年 11 月 3 日公佈的 PATEO AI Box,針對的正是這個不太體面卻很真實的問題。

這套方案的思路不是替換車輛已有的主控芯片,而是在旁邊加一個模塊化算力單元。PATEO 把它建在 NVIDIA DRIVE AGX Thor 平臺之上,與原車主控並存。這個設計決定的分量不亞於模型本身:車企不必為一次 AI 升級重新設計整車電子電氣架構,已經進入開發管線的項目也有機會加裝。

盒子裡跑著兩項主要負載:NVIDIA 的 Nemotron 3.5 自動語音識別模型負責實時聽寫,字節跳動的豆包語言模型負責自然語言理解與上下文推理,後者是總參數約 350 億的混合專家模型。語音進、語義出,整條鏈路在座艙內閉環,不依賴蜂窩網絡即可工作。

把 350 億參數放進車裡,難點並不只在峰值算力。DRIVE AGX Thor 提供最高 1000 INT8 TOPS 與 273 GB/s 內存帶寬,而官方特別強調後者:隨著對話變長,鍵值緩存持續膨脹,真正先被壓住的是帶寬而不是算力。一塊跑分漂亮但帶寬不足的芯片,會在對話後半段暴露成可感知的遲滯。

混合專家架構在這裡不是營銷詞。它不必為每個請求激活全部參數,而是把輸入路由到內部的一小組專用網絡,單次計算量下降,卻保留了大模型的表達深度。對一座既要控制功耗又要控制熱的座艙來說,按需激活比一味堆算力更接近工程現實。

把 350 億參數模型放進車裡:離線語音助手為什麼非要不上雲 配图 1
FIG.01 · Shixart1985 · CC BY 2.0

離線並不等於拒絕雲。更準確的描述是分層:喚醒、識別、座艙控制與基礎理解放在本地,模型迭代、軟件更新與擴展服務仍走雲端。網絡在時是增強層,網絡斷時不再是開關。這種把可用性從網絡質量裡解耦的做法,比單純比較本地與雲端誰更聰明更有意義。

AI Agent 平臺把語音輸入、面向駕駛員的攝像頭畫面與車輛傳感器數據匯成一張實時座艙圖景。系統能從攝像頭裡讀出疲勞的早期跡象,不必等一句指令就主動提議調整通風或開啟座椅按摩;城市行駛中,空氣質量傳感器也能在汙染升高時自動關窗並切換內循環。

更外一層的 Sentinel AI 把感知範圍推向車外:提示可能的違停風險、附近積水或周邊火情,都不需要駕駛員另外打開應用。這些能力的共同點不是新奇,而是觸發時機——它們發生在用戶還沒意識到要開口之前,這恰是本地低延遲推理最有價值的位置。

用戶還可以授權助手在本地學習個人的空調與路線習慣,形成不上傳服務器的推理畫像。把行為數據留在車裡,既減輕帶寬壓力,也讓隱私邊界更容易解釋。當然,授權是否清晰、數據能否被徹底刪除,仍取決於產品實現,而不是架構本身。

商業化進度上,一家新能源車企已給出下一代車型的量產定點,目標指向 2027 年第二季度,合作方名稱未披露。模塊化設計是拿下定點的關鍵:它與車企已經選定的主控芯片共存,既能進新平臺,也能補進開發到一半的項目,顯著降低了導入門檻。

把 350 億參數模型放進車裡:離線語音助手為什麼非要不上雲 配图 2
FIG.02 · Ivan Radic · CC BY 2.0

更值得玩味的是 PATEO 對這門生意的定義。它並不把 AI Box 當成一次性硬件零件,而是在推進所謂車載 Tokenomics——按 AI 算力消耗持續計費,類似雲服務按用量結算。硬件於是變成 recurring revenue 的入口,車賣出去之後,智能仍是一項可運營的服務。

對車企而言,這種結構減輕了另一重顧慮:智能化升級不必與整車改款綁定。過去座艙體驗的迭代節奏被車型週期拖著走,如今至少有一個可以獨立加裝、獨立升級的算力層。硬件預埋與軟件付費的邊界因此被重新劃了一次。

風險也集中在物理層面。持續本地推理帶來的功耗與散熱,需要座艙環境裡額外解決;高性能算力單元的成本,會直接傳導到整車定價;同時運行語音、視覺與車輛數據,還要求更清晰的權限與隔離設計。把服務器級負載搬進一輛暴曬後可達高溫的車,從來不只是模型問題。

從用戶視角看,衡量這套系統的標準會很樸素:進隧道時能不能繼續把話說完,長對話後半程會不會變慢,斷網時的功能是否仍然完整。這些指標不上發佈會,卻決定一項智能是被信任還是被繞過。

11 月 3 日這條消息的價值,因此不在於又一筆車端算力升級,而在於它把一個問題擺到了檯面上:智能的上限由模型決定,可用性卻由最弱的一環決定。當那一環是網絡,把模型放進車裡,就是最直接的答案。