downloadGroupGroupnoun_press release_995423_000000 copyGroupnoun_Feed_96767_000000Group 19noun_pictures_1817522_000000Member company iconResource item iconStore item iconGroup 19Group 19noun_Photo_2085192_000000 Copynoun_presentation_2096081_000000Group 19Group Copy 7noun_webinar_692730_000000Path
移至主內容
2024-04-16

ASIC客製化晶片崛起,微軟、谷哥及亞馬遜紛紛搶進?認識未來AI運算力的神隊友

隨著演算法不斷進化,「AI人工智慧」鋪天蓋地襲來,生活中越來越多種的應用反映了人工智慧的價值,例如我們在使用電商購物時,網站推薦商品能夠切中消費者心中所需,數位機器人的對話也逐漸具備真人回應的精準與辨識度,而這一切的成果,都將仰賴大量數據資料與不斷強化的運算力來做為背後的支撐。

 

 

Table of content:

 

AI晶片市場強勢擴張,運算效能供不應求

根據TrendForce研究報告指出,在數位化與智慧化趨勢推動下,包括智慧型手機、智慧音箱甚至是工業機器人等物聯網裝置設備都將不斷增加,加上自動駕駛、影像辨識與ChatGPT等應用,在在都加速了AI技術發展與晶片市場的擴張,預期在雲端運算、智慧車應用領軍下,將持續帶動市場高速成長,至2025年全球AI晶片市場規模將上看740億美元,2022~2025年的CAGR達到23.8%。

從應用面的本質來看,隨著數據資料量體正不斷提升,從文字到影像的交互生成與轉換,這場AI運算的賽局已可預見過去單純以CPU(中央處理器)為首的裝置已無法滿足應用場景所需的運算效能;因此除了讓專注於GPU(圖形處理器)技術開發的NVIDIA、AMD近期聲勢大漲,ASIC(Application Specific Integrated Circuit)客製化晶片的抬頭,更是眾人關注的目標。

 

ASIC晶片的強項在哪裡?關鍵字一次看懂

能夠處理不同的任務場景的優勢,是早年CPU被大量產用原因,AI應用早年聚焦在聲音影像的辨識,帶動了GPU的發展;但當運算需求無法被滿足時,更加專精、更符合某領域應用,針對特殊運算需求的客製化晶片ASIC就成了最佳解答。在分析ASIC客製化晶片為何能成為明日之星前,我們需要對於目前已發展的幾個重要運算處理器,先有初步的認識。

 

一、CPU中央處理器

中央處理器  (Central Processing Unit) 可以視為電腦/裝置的大腦,負責執行整體協調,控制電腦與作業系統的各種指令,適合進行更為複雜的運算處理。

 

二、GPU圖形處理器

圖形處理器  (Graphics Processing Unit) 採用平行運算架構,可以同時處理許多相對簡單的任務,加速處理效率,因此強項在於處理影像、圖片相關資訊,能同時進行大規模運算,在遊戲領域,影片剪輯及AI有絕佳著力點。

 

三、FPGA 現場可程式化邏輯閘陣列

現場可程式化邏輯閘陣列(Field Programmable Gate Array)。晶片出廠後,能由使用者重新設定功能,調整它適合執行的任務以滿足場景所需,可視為半客製化晶片概念。適合在需要靈活性與可以重新配置的場景做發揮,包括通訊設備等,能更有彈性的適應不同演算法任務需求,惟晶片成本較高,不利於大量採用。

 

四、ASIC 特定應用積體電路

特定應用積體電路(Application Specific Integrated Circuit)即客製化晶片,顧名思義,針對特定且專門之應用需求開發的晶片,特別適合應用在單純的應用環境,但對於性能、與能耗有更高、更嚴格的標準需求,例如挖礦、特殊演算法的資料分析及推論等,其製造出來的晶片多半僅能滿足單一場域的應用,無法相容於其他應用場域。

 

 

如上圖,想像不同的運算處理器就如同公司裡各式各樣的員工,各擅勝場:CPU 是全能性的通才,不僅加減乘除都會做、連複雜的一元二次、三元二次題目都能解,然而像這樣的人才不僅數量較少、薪資也相對高昂;GPU則是在某些專業領域表現特別突出,但也有比較做不來的工作,例如特別會算加法和減法,其他項目是弱項;FPGA 員工適應力強、配合度高,無論指派到哪個部門都能工作,缺點是雖然什麼都學得會、效率卻不高;而 ASIC 則像是公司為了某項任務特地培養的專案人才大軍,例如訓練出一批超級擅長算乘法的員工,這批員工除了乘法以外不具備其他專業,不過當他們集體專注在處理大量的乘法業務,對公司來說平均成本更佳、效率也達到最大化。

晶片的表現,不外乎從「效能」、「功耗」及「應用場域」三者間的表現去評斷,在開發運算架構時,就如同企業招募不同專長的人才一起工作一樣,如何配合任務去設計電路為晶片找到最佳的表現空間、發揮價值就更顯重要。

 

 

如何在既有的系統及成本下提升運算效能、降低資料傳輸距離以減少能耗損失、避免產生過高熱能等,都是考量。以CPU與GPU為例,CPU多以下達指令並處理邏輯運算為主,但一次只能執行一個任務,在處理影像及巨量資訊時的速度相比具備平行運算能力、能夠同時執行很多任務的GPU要來的慢,但兩者間並不互斥、反而能共生共榮,在CPU的帶領下發揮GPU的算力,讓電腦與設備能有絕佳效能,同時透過先進製程輔助讓算力大增之餘,也可有效降低能耗。

特別是在AI時代下,各式的應用擁有各自的演算法,即便是相同的演算法,訓練(Training)以及推論(Inference)的需求也不盡相同,如何在打造AI雲端伺服器如何同時滿足「效能」、「功耗」及「應用場域」進而到整個系統建置的成本,並為未來的擴充或任務轉換保留相對應的空間…等,都讓業界思索找出能更完美契合的那塊晶片拼圖,這也讓FPGA與ASIC找到了著力點。至於FPGA與ASIC的差異何在?

FPGA可視為隨意塑型之黏土,面對不同應用場景能有比CPU、GPU更彈性的調整空間,搭配合適的軟硬體整合,可以針對不同的應用場景進行細緻的軟硬體調整,來達到最佳化的效能,為既有的系統架構提供了彈性,充分發揮加速運算效能表現,這在系統開發初期尚須進行微調的狀況下尤為重要。

而ASIC則完全針對單一應用場景進行全客製化設計,開發時間與成本上相對FPGA大,但卻能更吻合某特定領域之所需,當人工智慧發展越趨成熟、產業應用朝向單一領域專精發展,ASIC 將在運算上成為不可或缺的得力助手;以AI晶片舉例,GPU雖可以滿足大多數基本運算的要求,但ASIC則能再更進一步瞄準單一場域執行任務,更加精準針對自身的需求進行匹配,獲得更好的效能及功耗,整體的能耗比甚至能較GPU好上數倍,大量導入的情況下甚至能攤提開發的費用,反而有助於降低成本。

 

搶進投入ASIC晶片!雲端大廠追求效能,創造兆元市場規模

正因ASIC的導入能更精準針對特定領域、特定產品提升運算力表現,同時有效節省能耗,這也讓雲端大廠包括Google、AWS、Meta及微軟等紛紛投入。

以Google來說,其自行研發的TPU晶片能達到2-3倍的效能提升;AWS也同樣為了提高效能搶進ASIC市場,提供每瓦50%的性能提升,讓客戶可以擁有更快、更經濟的方式訓練大型模型;而Meta所開發的客製化加速器「MTIA」則可以創造2倍的性能提升。在在顯示雲端業者已經開始在差異化的應用上,以ASIC晶片提供客戶更優異的AI解決方案。

根據摩根士丹利的報告,2027年時這類ASIC晶片在雲端半導體市場將有機會從現在的個位數占比成長至30%。Global Information也指出,ASIC市場規模將在2030年來到345億美元,不過該項產品的研發成本仍是小型企業發展的重要障礙。

從半導體產業的生態來看,晶片開發需投入大量人力與資金成本,這意味著雲端業者可能要自組IC 設計團隊;與此同時,晶片製造的成本也隨著先進製程技術演進而飛漲。也因此,運算的成本與效益,將會成為投入特定領域運算需求時的重要考量。

台灣半導體產業作為全球科技業者背後重要的供應鏈,面對這場AI賽局與ASIC晶片的研發,依舊是充滿機會。以「晶圓製造」跟「封裝測試」環節來說,客戶下單晶片的需求提升,勢必將帶動產業發展,而手握先進製程與先進封裝等關鍵技術的業者,更是這群雲端業者不可或缺的夥伴。至於在開發ASIC晶片比較有關聯的上游IC設計端來說,若擁有重要IP或關鍵人才,將有機會成為雲端業者開發ASIC晶片的重要合作夥伴。

 

結語

再回到那個令使用者驚艷的精準廣告投放場景,正因為有了過去CPU與GPU將大量資料進行運算分析,產生出初步的模型(Model),成為了個別場域應用的基石。而雲端業者投入ASIC的開發,則在不產生更多能耗下,利用更強的晶片效能處理更大規模的AI模型幫助廣告投放變得更貼近、更快速。「精準」的最後一哩路,就是以ASIC為首的客製化AI晶片所能發揮之處。

綜觀來看,各項AI晶片皆有其優勢與弱點,端看應用面如何從效能、表現、成本等進行全面評估。而GPU依舊能發揮重要角色,扮演AI伺服器與主要運算力的幕後功臣;至於如何安排ASIC、FPGA接棒在不同領域的應用發揮價值,讓客戶能更快速獲得解決方案,也是目前雲端業者的機會與挑戰。

 

【延伸閱讀】半導體是什麼?晶片產業一次看懂 立即閱讀

【延伸閱讀】先進製程領軍:全面剖析半導體產業突破摩爾定律的極限 立即閱讀

#

關於SEMI國際半導體產業協會

成立於1970年,SEMI於全球設有10大營運據點,並於1996年正式成立SEMI國際半導體產業協會台灣分會,致力協助連結全球半導體和電子設計及製造供應鏈3,000多家會員企業,以及150萬名專業人士。自同年起固定舉辦年度SEMICON® Taiwan國際半導體展、國際高峰會與各項大型技術論壇,持續推升台灣之國際影響力及競爭力。SEMI國際半導體產業協會始終秉持客觀中立原則,並以誠信、透明、敏捷為核心價值,為台灣企業會員提供半導體產業智庫角色,促進國際間產、官、學、研各界深度交流,推動台灣半導體產業與全球接軌,搭建雙向溝通對話機制。

SEMI國際半導體產業協會目前在台灣成立十八大技術委員會,以持續推動設計、裝置、設備、材料、服務和軟體方面的產業成長和技術創新為目標,並竭力提供企業會員完整的市場產業情報、標準制定、政策倡議、人才培育、永續發展、供應鏈管理和各式計劃協助,助力會員應對產業挑戰。更多資訊歡迎瀏覽www.semi.org,或加入SEMI Facebook粉絲團SEMI LinkedIn

 

SEMICON Taiwan 國際半導體展

SEMICON Taiwan 國際半導體展不僅匯集全球具影響力廠商、人才和技術,創造新市場機會,更是台灣最國際化且唯一的半導體專業展會。

SEMICON Taiwan 2024 | 9月4-6日 | 台北南港展覽館一館&二館 | 了解更多