端側(cè)AI計(jì)算開發(fā)最難的問題,都被這家公司搞定了
端側(cè)AI計(jì)算開發(fā)最難的問題,都被這家公司搞定了 2022-08-10 14:45:09 端側(cè)AI計(jì)算開發(fā)最難的問題,都被這家公司搞定了 0

文章轉(zhuǎn)載機(jī)器之心報(bào)道》作者:澤南



為什么高通技術(shù)能成為眾多公司產(chǎn)品宣傳的重點(diǎn)?

最近一段時(shí)間,車規(guī)芯片的「天花板」驍龍 8155(第三代驍龍座艙旗艦級(jí)平臺(tái))引發(fā)了人們的熱議,這款芯片強(qiáng)大的整體算力一舉改變了很多車型飽受詬病的車機(jī)卡頓問題。

很多品牌都以搭載驍龍 8155 芯片作為賣點(diǎn),理想 L9、小鵬 P5、蔚來 ET5、吉利星越 L 等熱門車型上都有它的身影,極氪 001 甚至為了讓車主放心,宣布免費(fèi)為已購車的用戶升級(jí) 8155 芯片。

根據(jù)車廠公布的信息,驍龍 8155 是首款 7 納米制程工藝打造的車規(guī)級(jí)數(shù)字座艙 SOC,性能是上代 820A 的三倍,其具有八個(gè)核心,最多支持 6 個(gè)攝像頭,同時(shí)能帶動(dòng)四塊 2K 或者三塊 4K 屏,支持 WiFi6,也支持 5G 和藍(lán)牙 5.0。在配合大容量?jī)?nèi)存之后,它能夠讓汽車的中控屏操作體驗(yàn)像一臺(tái)旗艦智能手機(jī),最大程度提升了座艙系統(tǒng)的體驗(yàn)。

高性能的車機(jī)芯片也為全場(chǎng)景語音等 AI 功能提供了可能性。在一些車型中,AI 助手支持全場(chǎng)景連續(xù)對(duì)話,駕駛者可以連續(xù)下達(dá)多個(gè)指令,實(shí)現(xiàn)真人對(duì)話一樣的體驗(yàn),不再需要每個(gè)指令說一次喚醒詞。


8155 已是驍龍座艙平臺(tái)的第三代產(chǎn)品,作為這一領(lǐng)域的后來者,高通在車機(jī)芯片上對(duì)英特爾、瑞薩等老勢(shì)力已開始占據(jù)優(yōu)勢(shì)。第四代的高通 8295(第四代驍龍座艙平臺(tái))也已經(jīng)發(fā)布,相關(guān)車型也已在路上,據(jù)稱它采用 5nm 工藝,搭載的 NPU 能達(dá)到 30 TOPS 的 AI 算力,性能比目前這一代還要提升兩倍多。

汽車只是高通技術(shù)新進(jìn)展的一小部分,在手機(jī)芯片上占據(jù)市場(chǎng)主流的高通最近在做的事,已遠(yuǎn)遠(yuǎn)超出了人們的手掌心。

從手機(jī)到智能駕駛,走統(tǒng)一路線

高通的車規(guī)級(jí) 8155 芯片源自于手機(jī)芯片驍龍 855,即將在集度汽車上首發(fā)的 8295 芯片則來自驍龍 888,它們都是高通基于自己在移動(dòng)端領(lǐng)域的領(lǐng)先技術(shù)打造的。在新的領(lǐng)域里,高通技術(shù)能為產(chǎn)品能力和用戶體驗(yàn)帶來了質(zhì)變級(jí)的提升。

據(jù)統(tǒng)計(jì),全球所有主要汽車制造商均已選擇驍龍座艙平臺(tái),超過 1.5 億輛汽車采用高通汽車無線解決方案,市場(chǎng)份額高達(dá) 80%。驍龍數(shù)字底盤及其集成式汽車平臺(tái)訂單總估值超過 190 億美元。

邊緣側(cè) AI 的流行,讓高通在大量實(shí)踐中形成的技術(shù)優(yōu)勢(shì)在越來越多的新領(lǐng)域獲得了應(yīng)用。

為構(gòu)建萬物互聯(lián)的世界,高通還希望實(shí)現(xiàn)跨終端的一致性體驗(yàn),「統(tǒng)一的技術(shù)路線圖」(one technology roadmap)應(yīng)運(yùn)而生。高通希望憑借在 AI、影像、圖形、算力和連接等領(lǐng)域的領(lǐng)先技術(shù),為幾乎所有邊緣終端提供 AI 能力、高性能低功耗系統(tǒng)和無線組件。

在高通 CEO 克里斯蒂亞諾 · 安蒙的設(shè)想中,「統(tǒng)一」的范圍覆蓋從耳機(jī)到智能網(wǎng)聯(lián)汽車,這背后是高通在各領(lǐng)域中的深厚布局。


早在 2021 年驍龍技術(shù)峰會(huì)上,高通便稱,通過驍龍移動(dòng)平臺(tái),高通的 AI 技術(shù)已經(jīng)支持超過 18 億終端。在新一代驍龍 8 和驍龍 8 + 移動(dòng)平臺(tái)中,強(qiáng)大 ISP 和第七代高通 AI 引擎合力實(shí)現(xiàn)了精細(xì)、低延遲的面部識(shí)別能力,更進(jìn)一步的拍照夜景增強(qiáng)、實(shí)時(shí)背景虛化、手勢(shì)識(shí)別,甚至能讓手機(jī)能夠通過聲音識(shí)別用戶是否患病,這些 AI 能力為眾多應(yīng)用提供了支持。

通過驍龍移動(dòng)平臺(tái)、驍龍計(jì)算平臺(tái)和驍龍 XR 平臺(tái),高通已經(jīng)讓各種終端設(shè)備能夠在影音娛樂、智能助手、情景感知等領(lǐng)域帶來豐富、創(chuàng)新的沉浸式使用體驗(yàn),改變了人們的工作和生活方式。

這些技術(shù)也被延伸到了 IoT 領(lǐng)域,AI 正在推動(dòng)家庭、工業(yè)、企業(yè)和智慧城市等應(yīng)用的發(fā)展,高通支持了近 13000 家企業(yè)的物聯(lián)網(wǎng)解決方案,其提供的高效 AI 算力正在為機(jī)器人、智能制造、智慧城市、智慧零售等場(chǎng)景帶來新能力。

AI 能效是驍龍平臺(tái)的技術(shù)優(yōu)勢(shì)。除了智能座艙,高通還在汽車領(lǐng)域推動(dòng)可擴(kuò)展開放自動(dòng)駕駛解決方案 Snapdragon Ride。該平臺(tái)面向不同駕駛場(chǎng)景提供不同等級(jí)算力:它可以以小于 5W 的功耗為攝像頭提供 10 TOPS 機(jī)器學(xué)習(xí)算力,也能為 L4、L5 級(jí)自動(dòng)駕駛提供超過 700 TOPS 算力。


統(tǒng)一的布局也包括云端算力。5G 網(wǎng)絡(luò)的連接下,很多 AI 任務(wù)負(fù)載都可以在云端實(shí)現(xiàn)推理,高通通過 Cloud AI 100 加速器,使芯片架構(gòu)從邊緣到云端實(shí)現(xiàn)了統(tǒng)一。

Cloud AI 100 支持?jǐn)?shù)據(jù)中心、邊緣設(shè)備和汽車等多種場(chǎng)景。單個(gè)高通 Cloud AI 100 PCI-E 卡能提供 400 TOPS 算力,高通與合作伙伴提出的服務(wù)器解決方案,實(shí)現(xiàn)了 AI 推理突破每秒千萬億次運(yùn)算大關(guān)。

從端到云,高通的各個(gè)業(yè)務(wù)線都已深度整合了 AI 能力,已為人們帶來了全新的體驗(yàn)。

打造統(tǒng)一的 AI 開發(fā)工具

在 AR、VR 和智能駕駛這些「未來方向」上,已有的算力和 AI 算法仍然無法滿足人們的需要。為了應(yīng)對(duì)挑戰(zhàn),高性能計(jì)算和端云融合是目前科技公司發(fā)展的趨勢(shì)。硬件之外,高通還實(shí)現(xiàn)了 AI 軟件工具的統(tǒng)一。

最近,高通發(fā)布了自己的首個(gè) AI 軟件棧 Qualcomm AI Stack,將所有業(yè)務(wù)線的 AI 軟件能力整合在了統(tǒng)一的軟件棧中,實(shí)現(xiàn)了跨智能網(wǎng)聯(lián)終端的完整解決方案。

現(xiàn)在,開發(fā)者可以在一個(gè)體系下,高效、低成本地面向不同智能終端進(jìn)行 AI 模型和軟件開發(fā)了。

根據(jù)官方介紹,高通 AI 軟件棧主要包括三大部分:硬件、軟件和工具。這套方案可以在所有高通支持的產(chǎn)品上運(yùn)行,覆蓋范圍包括智能手機(jī)、汽車、AR/VR 硬件、物聯(lián)網(wǎng)和云平臺(tái)。

首先,高通 AI Stack 包括系統(tǒng)接口、仿真支持和驅(qū)動(dòng)程序,支持大部分常用的操作系統(tǒng),包括 Android、Windows、Linux 以及面向網(wǎng)聯(lián)汽車的 QNX 等,以及 Prometheus、Kubernetes 和 Docker 等容器平臺(tái)。


在更高一層的庫和服務(wù)層面,高通 AI 軟件棧支持大量數(shù)學(xué)庫、編譯器和虛擬平臺(tái),以及分析器和調(diào)試器。AI Stack 支持大多數(shù)流行的 AI 框架和 Runtime 如 TensorFlow、PyTorch、ONNX 和 TensorFlow Lite、TensorFlow Lite Micro、ONNX 等。

另外,AI Stack 的編譯器可以針對(duì)特定內(nèi)容進(jìn)行定制化處理,幾行 Python 代碼就可以完成更多工作,為開發(fā)者提供很多便利。

AI Stack 集成了高通在 AI 領(lǐng)域十余年來的研發(fā)成果,如高通 AI 模型增效工具包(AIMET),它能提供模型量化和模型壓縮技術(shù),進(jìn)行量化感知訓(xùn)練(Quantization Aware Training)和無數(shù)據(jù)訓(xùn)練,它的最重要能力之一是能將在云端訓(xùn)練的高算力需求 AI 模型從 32 位浮點(diǎn)精度轉(zhuǎn)化為 8 位整數(shù)格式,在幾乎不降低推理效果的情況下提升 4 倍效率,從而覆蓋更多低功耗設(shè)備。

作為新解決方案的一部分,高通 AI 引擎 Direct 現(xiàn)在可以在高通所有產(chǎn)品的 AI 加速器上進(jìn)行擴(kuò)展,從高通平臺(tái)上直接向 AI 加速器部署模型,不僅能夠?yàn)殚_發(fā)者提供模型開發(fā)的功能,還支持將新開發(fā)的模型遷移至不同產(chǎn)品和層級(jí)。

虛實(shí)融合是未來發(fā)展的方向,高通開放的 XR 平臺(tái) Snapdragon Spaces XR 也成為了 AI Stack 的一部分,開發(fā)者可以從零開始面向 AR 眼鏡創(chuàng)建 3D 應(yīng)用,或在現(xiàn)有 Android 智能手機(jī)的 2D 應(yīng)用中增加頭戴式 AR 特性。


現(xiàn)在,人們只需要一次開發(fā) ,就可以在多個(gè)不同領(lǐng)域部署自己的技術(shù),工作重點(diǎn)可以放在探索創(chuàng)新的 AI 用例上,無需重復(fù)造輪子。

基于高通 AI Stack,企業(yè)也能夠?qū)崿F(xiàn)在不同產(chǎn)品、不同平臺(tái)之間的擴(kuò)展,方便地把移動(dòng)端開發(fā)經(jīng)驗(yàn)遷移到汽車上,也能將 XR 等平臺(tái)的復(fù)雜模型開發(fā)經(jīng)驗(yàn)帶回移動(dòng)端。

結(jié)語

每當(dāng)我們用手機(jī)拍照、看短視頻時(shí),很少會(huì)意識(shí)到這些日常行為的背后有很多 AI 技術(shù)的支撐。雖然從邊緣設(shè)備到云服務(wù)器,只要是連接網(wǎng)絡(luò)的地方,AI 已經(jīng)無處不在,但展望未來,還有很多事可以做。

據(jù) Gartner 預(yù)測(cè),到 2025 年將有超過 50% 的數(shù)據(jù)在傳統(tǒng)數(shù)據(jù)中心之外產(chǎn)生和處理。數(shù)據(jù)處理正在從數(shù)據(jù)中心轉(zhuǎn)向邊緣,并推動(dòng)對(duì)更強(qiáng)大的本地處理能力的需求。

高通處于行業(yè)趨勢(shì)的交匯點(diǎn),在長(zhǎng)期持續(xù)的技術(shù)投入之后,高通已經(jīng)構(gòu)建起一套完整的體系,從芯片、軟件平臺(tái)、算法到生態(tài)系統(tǒng)和參考設(shè)計(jì),面向開發(fā)者和用戶提供了強(qiáng)大的能力。

可以感受到,讓汽車聰明起來只是一個(gè)開始,高通的 AI 能力,還在賦能越來越多的領(lǐng)域。


推薦文章欄目:
產(chǎn)品推薦
熱門標(biāo)簽
解決方案
客服
客服
電話
電話
4000-780-190
樣機(jī)申請(qǐng)
樣機(jī)申請(qǐng)
0
頂部
頂部