生成式AI晶...
」 輝達
人工智慧掌中戲1／二大IC設計龍頭廝殺 生成式AI晶片「最強大腦」植入手機
今天也AI（人工智慧）了嗎？昔日電影裡酷炫魔幻的AI，也要飛入尋常百姓家。近一個月來，先是全球IC設計龍頭高通（Qualcomm）發表「驍龍8 Gen 3」，主打新一代旗艦AI手機晶片，台廠聯發科（2454）不讓賢，也推出「天璣9300」，跑分追過其他同業，使得手機市場掀起一輪廝殺，明年起，高價手機若沒有內建AI、那就落伍了。一年多前ChatGPT橫空出世後，國際上各大科技公司掀起大型語言模型建置及超算力雲端資料庫的軍備競賽，如今這場生成式AI賽局，因IC設計龍頭們的廝殺，也從雲端往下落地，直接攻進終端設備――手機市場。蟬聯多年王者的全球第一大IC設計業者高通，今年第二季被專攻繪圖處理器GPU晶片的輝達（NVIDIA）超越，就是因輝達能大啖生成式AI晶片市場而奪魁；高通緊急在10月25日於夏威夷發表其秘密武器驍龍8 Gen 3，主打可在終端裝置上運行生成式AI，而第一個搭載高通驍龍8 Gen 3晶片的是小米14手機。小米14在10月31日晚間首次開賣，到雙11活動前的短短10天就賣出144萬支，創下小米高端旗艦機最高銷量紀錄，雙11購物節當天，更是收割所有大陸電商平台上的銷售冠軍，包括京東、天貓、抖音等，讓小米創辦人雷軍大呼「我們都沒有想到小米14會這麼受歡迎」。大陸手機品牌率先使用AI晶片，高通陣營是小米14、聯發科陣營為vivo X100。（圖／翻攝自vivo發布會YT、維科網）除了小米，接下來包括華碩、華為、OPPO、索尼及中興等，許多兩岸的手機品牌會用驍龍8 Gen 3晶片做手機。外資看好這能讓高通在明年第一季的手機業務營收季增雙位數，大幅優於先前預期的季減3.4%。全球排名第四、台灣的IC設計龍頭聯發科也不甘示弱，11月6日大動作發表最新旗艦級手機晶片「天璣9300」，效能強卻省電，正面對決高通。用測試程式Geekbench來看，聯發科的天璣9300跑分大約7500分到8000分，蘋果A17Pro 為 7100到7700 左右，高通的驍龍8 Gen 3則是落在7200到7500分。跑分如何贏過勁敵？聯發科員工告訴CTWANT記者，「這是商業機密，無數工程師夜以繼日地測試與研發，採取跟高通不一樣的配置設計，才能把原本需要放在大型雲端伺服器機台上、生成式AI所需要的架構，採用台積電(2330)4奈米製程打造，總計227億組電晶體，濃縮在這小小的手機晶片上。」第一個使用天璣9300的是大陸品牌vivo X100，11月13日開賣，雖沒趕上雙11活動，但vivo產品副總裁黃韜14日凌晨在其微博上發文表示，X100系列是前一代X90銷量7.4倍，還開玩笑說因供不應求大缺貨，要「馬上訂機票回產線打螺絲」。這兩款都是高價產品，最基礎的機型約1.7萬元台幣起跳，能在當前低迷的大陸消費市場闖出業績，可見外界對於AI手機的高期待。而內建AI晶片的重點，就是可以在自己的手機上操作AI，不需要連上網路，就能體驗ChatGPT帶來的震撼、也就是生成式 AI，最強大腦放進你的手機裡，讓你的手機作詩作曲寫故事，手拙的人也能以此不斷產出精緻新畫作，只要想得到、沒有做不到，掌握成千上萬的資料庫，擁有教師等級的知識回答。舉例來說，一般手機若要做AI畫圖，須下載專用的商業APP，或是連上網站，將你的資料或要修改的照片上傳到APP公司的伺服器做圖、做完再下載回自己的手機，所以速度比較慢，試用完後需要付費，也擔心你的資料因此被APP公司「扣留」。AI晶片內建後，手機不需要上網，就能使用生成式AI功能。（圖／翻攝自天璣9300發布會YT）聯發科技無線通訊事業部副總經理李彥輯跟CTWANT記者說，「就是注重隱私和個人化，越來越多人會想在手機端就完成AI，而不是上傳雲端」，看到這個趨勢，聯發科才提早研發，想辦法把AI做進晶片裡，在收不到網路訊號的地方，AI助理也可以繼續運作。然而手機的記憶體的確比較小，沒辦法像ChatGPT一樣、大語言模型擁有1750億個參數，聯發科目前研發出最高可支援330億組參數規模的語言模型，但對應的記憶體容量至少要33GB以上 ，目前主流的手機記憶體則是8GB或16GB，所以天璣9300以16GB記憶體容量為主，最高可對應130億組參數的執行規模。參數越多、AI就越聰明，雖然手機的AI還無法全知全能，但聯發科推出可擴充平台，替換技能包內的參數，改變成你想要的專精知識，像是金融、美術等任何你有興趣的事情，反而會比現有的ChatGPT更專業。聯發科副董事長暨執行長蔡力行17日在美國表示，他們光是在2018至2023年間，就投入約180億美金於技術研發，就是因為起步早，才能拿下現在領先的市占率，相信在天璣9300的帶動下，今年旗艦級手機單晶片的營收規模將可達10億美金。
輝達超級財報帶旺AI族群嗨翻上半場 廣達、緯創股價午盤跳水
AI晶片大廠輝達（NASDAQ: NVDA）公告第2季營收翻倍成長至135.1億美元，好消息今（24）日台股AI族群上演慶祝行情，廣達 (2382) 、緯創 (3231)早盤漲幅一度超過6%，但11時許跌落盤下 ，台股加權指數1萬6800點得而復失，台積電（2330）、鴻海（2317）、英業達 (2356) 、技嘉 (2376) 股價盤上震盪。輝達第2季營收135.1億美元，年增101％、季增88％，其中貢獻最大的「資料中心」103.23 億美元、暴增171％，第二大「遊戲」為 24.86 億美元，雙雙優於市場預期。分析師指出，廣達、緯創先前在AI的想像行情獲利了結，回歸基本面，市場關注9月Copilot訂閱使用狀況；聯發科開始運用Meta Llama 2大型語言模型開發生成式AI晶片組，則預告AI邊緣運算商機逐步開展，今日振奮IC設計族群信驊（5274）、世芯-KY（3661）等股價。
急單加持日月光6月營收467.22億元創今年高 法人估輝達對CoWoS需求強至2024年
美系客戶手機晶片急單加持，半導體封測大廠日月光（3711），6月營收467.22億元、寫下今年新高，今年第二季每股稅後盈餘（EPS)1.8元，累計上半年EPS 3.16元。日月光財務長董宏思在今日法說會指出，第3季汽車、工控與運算等應用回升，晶圓銀行（Wafer bank ）逐步去化，平均稼動率上季60% 、本季提升至65%。日月光旗下矽品擁有生成式AI晶片所需的CoWoS先進封裝產能，法人看好輝達對矽品CoWoS強勁需求至2024年並催化獲利表現。董宏思表示，此部分業務處於早期階段，佔封測營收約 1-3%，隨應用逐步導入，有望推進產業邁入新成長週期。此外，日月光投控、日月光環保永續基金會及矽品精密認養中科虎尾園區公園，重視人類與環境的依存關係、營造具多元價值生態保育園區，後續矽品精密響應並持續認養維護園區生態，讓科學園區生活充滿綠意。
半導體女王蘇姿丰1／MI300X發布AMD股價反跌？ Lisa Su七月來台風潮再起
「我超興奮要呈現給你們」，AMD（超微）董事長蘇姿丰6月14日在「AMD資料中心與人工智慧技術發表會」上，手持「MI300X」昭告市場進軍生成式AI戰場；本刊獨家掌握，蘇姿丰（Lisa Su）將在7月中旬抵台舉辦發表會、拜訪供應鏈，預估將帶起不亞於NVIDIA（輝達）創辦人黃仁勳5月訪台的超級旋風。市場抱持AMD「MI300X」叫陣nVIDIA「 H100」的高期望，因此MI300X在登台之前就獲封「怪物晶片」。然而華爾街認為AMD未有如NVIDIA有OPEN AI這樣具體的出海口，較晚上市讓NVIDIA佔盡先機，令AMD股價在發布會後股價走跌、而NVIDIA再創高峰，至16日前者股價收報124.24美元、後者來到426.53美元。台灣供應鏈人士看完AMD的新品發布會，普遍指出MI300X最大賣點為「軟體環境完整、更高的兼容性」，「能夠結合處理器CPU與顯示晶片GPU」，縮短開發時間，加上「進入成本（TCO）相對低」，這對於初期需要快速大量普及的工業電腦、AI伺服器，是很大的誘因。業內專家分析，MI300X有進入成本低、能源效率高等優勢，因為先進封裝CoWoS技術令AMD能夠採用3D小晶片設計，有24個Zen 4內核的高速處理，為掌握生成式AI的關鍵「需有大量記憶體」，設計放進192GB高頻寬記憶體（HBM3），能源效率也比輝達高5倍。AMD已經開始對資料中心客戶送樣。輝達創辦人黃仁勳，5月出席COMPUTEX主題演講。（圖／報系資料照）供應鏈人士指出，黃仁勳與蘇姿丰在發表會後直衝台灣，不僅因為他們出生在台灣，更是因台廠能順利助輝達與AMD晶片上市。AMD、NVIDIA與台灣供應鏈早在20年前就開始進行生成式AI的生產製造與合作；最令人津津樂道的故事是黃仁勳找台積電創辦人張忠謀代工，而廣達AI伺服器採用NVIDIA產品，蘇姿丰即在2019年盛讚：「台灣是高速運算產業體系中心。」搭載生成式AI晶片的載具，從機構件、電源、散熱、配合的軟體等都要重新設計，加上供應鏈正面臨重配置，更要與廠商全面規畫布局。而蘇姿丰預估生成式AI市場以50％年複合成長率（CAGR）高速成長，從現在規模300億美元、2027年成長到1500億美元：「因大型語言模型驅動，AI成為下世代計算的關鍵技術… 一切都剛開始而已，還有好多好多機會和需求。AMD7月台灣發布會後，市場對MI300系列有更清楚了解。半導體產業人士指出：「輝達沒有CPU技術，而AMD因2006年買下具備CPU及GPU實力的加拿大ATI、2020年併入FPGA設計商 Xilinx，除了幫助顯示晶片設計，也多了跨界能力。」「輝達是頂規產品，就像跑車也能夠代步、但很貴，也不是什麼時候都需要寫複雜的文章；在圖形檢測、分類方面，就能用AMD的。」工業電腦樺漢董事長朱復銓表示，生成式AI伺服器比一般伺服器，價格高10～15倍以上；黃仁勳5月曾拜訪樺漢旗下AI伺服器子公司超恩（Vecow），對於記者詢問蘇姿丰會不會也安排前往參觀？朱復銓未置可否。生成式AI伺服器。（圖／取自AMD官網）
半導體女王蘇姿丰3／Lisa Su睽違3年再臨台灣 「AI的一站式方案」工業電腦起漲、安控成主流
今年度新主題「生成式AI」出現，挽救台廠於庫存去化的泥淖中，自5月COMPUTEX展出AI伺服器、NVIDIA創辦人黃仁勳抵台宣傳，晶片製造、工業電腦、安控族群率先展開反彈；AMD董事長蘇姿丰將睽違3年、於7月下旬抵台舉辦發表會、拜訪供應鏈，市場料再掀行情。資料中心是支撐AI晶片的最大應用，研調機構TrendForce預估計，2023年搭載GPU、FPGA、ASIC等「廣義的」AI伺服器出貨量近120萬台、年增38.4％，占整體伺服器出貨量近9％。2022～2026 AI伺服器出貨量年複合成長率29％。英業達（2356）是Open AI主機板獨家供應商，近月漲幅高達50％引起關注。（圖／報系資料照）撼訊總經理陳劍威指出，生成式AI強化資訊處理，有車用、工控等跨領域潛力。工業電腦大廠樺漢（6414）總經理蔡能吉表示：「有生成式AI晶片，TURNKEY（一站式方案）才是重點，用軟體開發硬體、硬體配合應用。」針對客戶需求設定好軟硬體並調整完成，能立即使用。製造AI伺服器、工業電腦的族群如廣達（2382）、緯穎（6669）、技嘉（2376）一個月來漲幅超過3成。此外，Open AI主機板獨家供應商英業達（2356）近月漲幅高達50％也引起關注。AMD、NVIDIA生成式AI晶片需要6奈米以下先進製程，須向台積電（2330）下單，工研院半導體資深研究員王宣智預估年需求1萬片，但現在產能遠遠不足；AI晶片讓影像捕捉和分析更快，在2027年一半以上監視設備都有即時分析的能力，安全監控族群有晶睿（3454）、奇偶（3356）、勝品（6556）、彩富（5489）。台積電美國廠移機典禮，董事長劉德音（右六）香檳慶祝，超微董事長蘇姿丰（左二）和台積電創辦人張忠謀（右五）、總裁魏哲家（左七）、輝達執行長黃仁勳（左三）、蘋果執行長庫克（左五）等同台祝賀。（圖／台積電提供）台新投顧副總黃文清指出， AI伺服器對較一般伺服器，零組件需求值、量提升，有利散熱、PCB印刷電路板、載板、機殼等零組件庫存去化且開發新規格，不過股價都已提前表態；此產業屬於初始階段，後續應觀察實際營收及獲利貢獻。