高通(Qualcomm)在COMPUTEX演講中大談新AI處理器Hexagon，並強調其工作速度比intel的CPU快了五倍。此外，更提出「混合式AI」的概念，意指將來AI的運算不會都在雲端上，而是和裝置設備一起分配運算。高通也加碼曝光台灣相關供應鏈，廣達、緯創、瑞昱、創惟等皆在其中。
高通資深副總裁暨行動、運算與XR部門總經理Alex Katouzian，以及高通資深副總裁暨運算暨遊戲部門總經理Kedar Kondap，在COMPUTEX 2023發表主題演講。兩人皆不約而同地同時強調，隨著生成式AI的使用加速，將這些模型都放在在雲端上運作?是不切實際的，因為數據過多，資料中心的維護成本也會過高。
因此以後將以「混合式AI」來呈現，處理工作將在雲端和邊緣設備之間分配，未來生成式AI的訓練和推理不會只侷限於雲端。
圖1：未來的AI運算將是混合式AI，共同存在於終端裝置和雲端中。
Katouzian在展會介紹高通新AI處理器Hexagon，表示未來AI性能將成為消費者購買個人電腦時會關切的重要指標，就像消費者會比較CPU和GPU的性能。而AI的應用分成所謂的「前台」和「後台」，前台指的是利用生成式AI，讓文字可以轉影像、文字轉聲音等；後台則是像增強手機的攝影功能、影像功能、遊戲、電源管理等。
Katouzian表示，高通的AI堆疊可以經由20個推理步驟，可以在不到15秒的時間內生成的逼真影像，而且「是在沒有網路連接的情況下實現的」，而整個模型還可以存在手機上，專用AI引擎並能夠運行具備數十億參數的大型複雜模型。
Kondap說，我們每天平均花6.5小時在網路上，其中有超過2.8小時是在電腦上用網路。Katouzian則補充，未來這些AI模型將協助電腦用戶閱讀和撰寫郵件，快速起草文件，撰寫會議記錄或從腳本自動生成簡報等等。「這些大型語言模型的可能性確實是無限的。」
Kondap並秀出Hexagon處理器的工作速度，表示以跑分來看，Hexagon處理器比Intel的CPU快五倍，是Intel GPU的2.5倍。
圖2：高通比較自家產品性能跑分比競爭對手高5倍。
高通也全面揭露PC平台供應鏈，將PC平台宏碁、華碩、小米等8家OEM，台廠供應鏈組裝廠仁寶，廣達、緯創、英華達，面板廠友達、IC設計業者瑞昱、譜瑞-KY、威鋒電子、創惟、新唐等廠商入列。
圖3：高通展示相關供應鏈。
The post 高通：混合式AI將成大勢所趨 appeared first on 電子工程專輯.
