2024年7月4日,備受矚目的世界人工智能大會暨人工智能全球治理高級別會議(WAIC)將於上海開幕。自2024年首次舉辦以來,WAIC已走過六個年頭,如今,WAIC已經成爲全球人工智能領域最具權威和影響力的行業盛會。
在本屆WAIC即將開幕之際,終端側AI推動者、領導者高通宣佈了即將登展WAIC的消息,並迅速引發了業界的廣泛期待。
據瞭解,7月4日-6日期間,高通將帶來一系列的主題演講和直播訪談,將重點分享AI技術基礎研究、領先產品應用和未來行業賦能願景上的最新進展。例如,大會當天,高通公司中國區董事長孟樸將出席活動,並發表主題爲“推動終端側AI發展讓智能計算無處不在”的演講,同時還有“擁抱AI終端創新”等系列直播訪談節目。高通公司中國區研發負責人徐晧也將發表“終端側AI規模化擴展,釋放工業化創新活力”的演講,並通過媒體直播間分享“我們可以用上怎樣的AI硬件?”。
技術展示環節更是亮點頻現,包括首個在Android智能手機上運行的大語言和視覺助理大模型(LLaVA)、驍龍XElite終端上的剪映AI視頻編輯功能、第三代驍龍8賦能Android智能手機帶來創新終端側生成式AI體驗等等。
這一系列技術展示,將是高通公司在推動終端側AI技術邊界拓展與行業生態合作方面的集中展現,也是對未來智能科技發展趨勢的一次生動預演,相當值得期待了。
當下,生成式AI已經成爲行業炙手可熱的話題,特別是隨着生成式AI技術在全球數以億計的終端中的大規模應用,以終端側爲主旋律的生成式AI浪潮已然到來,而引領這一變革的核心力量,正是高通。
高通作爲AI行業變革的賦能者,已經從底層芯片、到軟硬件生態建設,以及應用的落地,都做足了準備,賦能引領行業創新。
比如在標準制定上,去年,高通發佈了《混合AI是AI的未來》白皮書,明確指出雲端與智能手機、汽車、個人電腦及物聯網終端的協同工作,將促進更強大、更高效且高度優化的AI發展,這是實現AI普惠的必由之路。今年,高通又推出了《通過NPU和異構計算開啓終端側生成式AI》白皮書,深入解析了HexagonNPU爲核心的異構計算技術,並探討了如何利用這些技術,在生成式AI需求激增的背景下,爲終端側帶來豐富多樣的生成式AI應用場景。
再比如在底層芯片方面,早在2024年,高通就在驍龍820平臺上集成了首個AI引擎;在2024-09-24的第三代驍龍8上,高通將高性能AI注入整個平臺系統,採用面向生成式AI應用重新設計的HexagonNPU,夠在終端側運行高達100億參數的模型,無論是首個token的生成速度還是每秒生成token的速率,都處在業界領先水平。例如在生成式AI語言理解模型MobileBERT上,第三代驍龍8的表現比競品A高17%,在魯大師AIMarkV4.3、安兔兔這些AI基準測試的總分方面,第三代驍龍8也是遠超競品。
更重要的是,高通還將大語言模型完整的搬到了端側運行,賦能衆多的AI手機。比如包括三星、小米、榮耀、OPPO、vivo等在內的手機廠商,其發佈的驍龍8Gen3手機,均已具備了在端側運行生成式AI的能力。
藉助第三代驍龍8的AI能力,此次展會,高通也將展示首個在Android智能手機上運行的大語言和視覺助理大模型(LLaVA)。
除了移動端,在AIPC領域,高通還帶來了驍龍XElite和驍龍XPlusPC平臺,凝聚了高通在通用處理和AI異構計算多年積累的技術成果,其集成的NPU更是具有45TOPS的恐怖算力,這是PC平臺中最強大的NPU。
當下,微軟Surface系列新品,以及聯想、戴爾、惠普、宏碁、華碩等品牌,也都已經或即將發佈搭載驍龍X系列平臺的Windows11AIPC新品。在這次展會上,高通就將展示驍龍XElite終端上的剪映AI視頻編輯功能,可以期待,無論是消費者還是企業用戶,藉助驍龍XElite終端,都能夠全天候利用AI增強的終端側工具來提升生產力、創造力和協作能力。
不僅如此,高通還積極投身AIPC生態的建設,讓開發者能夠獲取基於異構計算的AI加速,高通打造了AI軟件棧(QualcommAIStack)。它能夠支持目前所有的主流AI框架,包括TensorFlow、PyTorch、ONNX、Keras;它還支持所有主流的AIruntime,包括DirectML、TFLite、ONNXRuntime、ExecuTorch,以及支持不同的編譯器、數學庫等AI工具。
就在6月份,高通還針對其45TOPS的HexagonNPU開發、優化並驗證了AI模型。註冊開發者可以前往高通的AIHub獲取這些預訓練模型,快速構建人工智能應用。據介紹,高通AIHub提供了各種針對驍龍X系列處理器的邊緣設備優化的AI模型,涵蓋圖像分類、對象檢測、語義分割和生成式AI等領域。此外,AIHub還提供了便捷的工具和文檔,幫助開發者輕鬆地在視覺、音頻和語音等應用中部署AI模型。
其所做的這一切,正如高通公司AI產品技術中國區負責人萬衛星所言:
高通具備頂尖的異構計算能力,使AI能力能夠貫穿整個SoC,將CPU、GPU、NPU和高通傳感器中樞的能力都充分釋放給應用開發者。
可以說,驍龍XElite/XPlusPC平臺的推出,如同爲AIPC的變革性體驗打下了紮實的地基,而藉助驍龍XElite平臺強大AI能力和高通在生態建設上的開放策略,接下來會有更多AI生成式應用的湧現。
寫在最後
在剛剛結束的MWC上海展會上,高通AI產品技術中國區負責人萬衛星發表了“終端側生成式AI的未來”的主題演講,他提到,憑藉面向生成式AI全新設計的NPU和異構計算系統,高通正爲終端側AI規模化擴展提供了有力支持。此外,高通還致力於構建完善的AI生態系統,不斷推動AI技術的創新與發展。
利用領先的邊緣AI、高性能低功耗計算和無與倫比的連接,高通正不斷推動終端側AI的規模化擴展,讓智能計算無處不在。隨着WAIC(世界人工智能大會)的到來,可以期待,終端側AI領導者的高通還將帶來更多新的驚喜。
7月4日-6日,WAIC,我們現場見!
(本文轉載自IT之家)
最新评论