AI霸主輝達在AI人工智慧年度盛會GTC上,發表了最新的AI超級晶片「GB200」,能運轉數兆參數規模的語言模型,也代表著大型語言模型將進入「兆級參數」的時代,而這款AI晶片,我們台灣也有多家廠商跟著受惠,其中鴻海就是輝達最強晶片GB200的首批合作名單,在股東大會上,董事長劉揚偉現身,更首度曝光最新超級AI伺服器GB200,上面還有輝達執行長黃仁勳的親筆簽名。
輝達AI人工智慧年度盛會「GTC大會」,最大量點,就是這款超強AI晶片。
輝達執行長黃仁勳:「2080億個電晶體,各位可以看到,我這裡可以看到兩個裸晶片之間有條細線,兩個裸晶片從未如此緊緊相接,以至於兩個裸晶片以為這是同一個晶片,兩者之間有10TB資料,每秒傳輸10TB,因此Blackwell晶片的兩端並不知道自身是哪一端,沒有記憶體區域性問題也沒有快取問題,就是個巨大的晶片。」
GB200能運轉數兆參數規模的語言模型,也代表著大型語言模型,已經進入「兆級參數」時代。
輝達執行長黃仁勳:「我們推進運算技術速度飛快,但還不夠快因此我們打造了另一款晶片,這款晶片簡直不可思議,我們稱之為NVLink交換器,其中有500億個電晶體,幾乎和Hopper一樣大,這款交換器晶片有四個NVLink,各個都達每秒1.8TB,而且具備我剛提及的運算功能,這款晶片的用途是什麼?如果能打造出這樣的晶片,就能讓每個GPU,都能同時與其他GPU全速通訊,這太瘋狂了。」
台廠相關供應鏈也陸續出列,從PCB硬板上下游到IC載板,市場點名,包括台光電、聯茂、台玻等等都可望合作,其中鴻海入列輝達最強晶片GB200的首批合作名單,在股東大會上,董事長劉揚偉現身,更首度曝光最新超級AI伺服器GB200。
鴻海董事長劉揚偉:「我們預估今年鴻海AI伺服器的營收,可以成長超過4成,那在整體伺服器的營收的占比,也會達到4成以上。」
台經院產經資料庫總監劉佩真:「那麼台廠相關受惠的一個供應鏈,當然除了在這個伺服器的代工廠商,或者是在散熱電源供應器,還有在印刷電路板以外,那麼更重要的其實是在這個半導體業,在這個先進製程還有先進封裝,在這個部分掌握度最高的,其實就是台積電。」
根據研調機構預估,輝達Blackwell新平台產品需求增加,供應鏈對GB200預計2025年出貨量有機會突破百萬顆,佔輝達高階GPU4到5成左右。
2024年被視為AIPC元年,未來CPU、GPU、NPU的組合將成為AI PC的算力基礎,
耐能智慧董事長劉峻誠:「模型基本上現在是每3.5個月就疊料一次,那你設計IC從開始到結束到晶片出來,最少也要一年甚至一年半到兩年都有可能,那所以變成說你的下一代晶片還沒出來之後,你就先把它疊起來,疊起來的用意就是讓它的算力增加更大、增加更大之後它才能跑得動這麼大的模型。最新的不管是這幾代的晶片,其實它最大的差異就是堆疊,然後散熱加了一些水冷,加了一些散熱板這樣,GPU它其實強的就是它堆疊的更多,然後core更多,然後散熱跟水冷加得更多這樣。」
市場傳出,一顆GB200超級晶片價格可能高達7萬美元,相當於台幣225萬,隨著輝達AI晶片不斷升級,也可望帶動台廠AI供應鏈。
「2024台北國際電腦展(COMPUTEX 2024)」,將於6月4日至6月7日在台北隆重舉行。展前,NVIDIA執行長黃仁勳也將於6月2日晚間7點,在臺灣大學體育館進行主題演講。精彩內容將在6月2日晚間7點至9點,透過TVBS 56頻道以及TVBS Asia頻道收看,並同步於TVBS NEWS及TVBS World Taiwan YouTube頻道進行直播, 為更多人提供觀看的機會。TVBS 56頻道、TVBS NEWS的YouTube頻道也將提供獨家中文口譯,讓觀眾不受地域限制,共同見證AI時代的到來。
◤2024史上最熱一年◢