A100
」 輝達 晶片 中國 Nvidia 美國
輝達A100遭非法轉運中國 美司法部起訴4名嫌犯
美國司法部近日宣布破獲1起跨國科技走私案件,2名中國公民與2名美國人因涉嫌非法將輝達(Nvidia)高階人工智慧晶片轉運至中國而遭到逮捕。此案不僅牽涉偽造文件、假合約與洗錢操作,更觸及美中科技競逐的核心領域,成為美國出口管制執法的新示例。據《CBS新聞》援引司法部提供的資料,涉案4人分別為居住加州的中國籍李湛(Cham Li,音譯)、持F-1學生簽證並居於佛州坦帕(Tampa)的中國籍陳靖(Jing Chen,音譯),以及2名美國籍嫌疑人,定居佛州的何漢寧(Hon Ning Ho,音譯)與住在阿拉巴馬州(Alabama)的雷蒙德(Brian Curtis Raymond)。他們共同面臨違反《出口管制改革法》(Export Control Reform Act,ECRA)與洗錢罪的指控,若罪名成立,每項罪名最高可判處20年徒刑。美國司法部指出,4名被告涉嫌透過馬來西亞與泰國,以轉運方式規避美國對人工智慧晶片的出口限制,將受管制的輝達A100繪圖處理器(GPU)輸往中國。這類晶片廣泛應用於大型語言模型、深度學習訓練以及軍民兩用的高性能運算,是美國政府在美中科技競賽背景下高度管制的核心項目。美國司法部國家安全司助理司法部長艾森柏格(John Eisenberg)表示,被告的行為可被界定為「蓄意且具有欺騙性」,他們透過偽造文件、製作假合約並向美國政府做出誤導陳述,試圖掩蓋非法出口行為。司法部稱,被告從中國方面獲得近400萬美元資金,以支持整個轉運計畫的運作。根據調查,在2024年10月至2025年1月間,約400顆輝達A100晶片已成功以2批貨物方式運抵中國;另有2批則因美國執法單位介入而未能完成。司法部強調,被告明知這類晶片在出口前必須申請許可,但從未提交任何申請。美國政府將此案視為其科技管制戰略的一部分。司法部在聲明中再次強調,中國正積極追求尖端美國技術,將其納入2030年之前成為全球人工智慧領導者的國家目標,而美國的出口管制措施正是為了阻斷這條科技流向。此案曝光之際,輝達剛公布其第3季亮眼財報,單季收益達319億美元,營收更創下570億美元紀錄,凸顯AI晶片在全球科技競賽中的戰略價值。
輝達中國市佔自95%歸零 黃仁勳喊「這樣做」取平衡
美國晶片霸主輝達(NVIDIA)執行長黃仁勳日前出席一場座談時表示,受美國出口管制影響,輝達無法向中國企業銷售先進製程產品,在中國先進晶片的市場占有率已從95%降至0%。根據南華早報報導,黃仁勳6日參加城堡證券(Citadel Securities)舉辦的座談,影片於14日發布於YouTube。輝達2022年起被禁止向中國銷售AI晶片,包括A100、H100及H200,雖然華府批准銷售降規版H20晶片,但中國網信辦以安全疑慮為由展開調查,建議陸企避免採用。黃仁勳表示,輝達100%被排除在中國市場之外,不僅不利於中國,對美國「甚至更糟」。這番話重申輝達必須在中國銷售產品,否則會把市場拱手讓給華為等中國的見證對手。黃仁勳表示,開發者對整個軟體產業都非常重要,中國擁有約50%的全球AI研究員,但無法以美國的技術為基礎打造AI,是個錯誤。問題在於,要怎麼在獲勝、領先,並讓美國技術在全球取得平衡。黃仁勳表示:「要達到平衡,就必須講究細微差別,通常不是全有或全無的策略。一個隨時間演變而調整的細膩策略,既能讓美國保持領先,同時持續吸引全球研究人員,這可能是正確的平衡方式。」
美管制輝達晶片助攻陸新商機 外媒:走私貨爆大量維修需求
美國政府全面禁止輝達(Nvidia)先進人工智慧(AI)晶片出口至中國不久後,中國市場逆勢出現一波「晶片維修潮」,大量維修需求意外造成當地維修業者生意興隆。根據路透報導指出,深圳等科技重鎮已有多家業者提供服務,專門維修H100、A100等高階GPU,單月維修量高達數百顆,反映出市場對禁售晶片的龐大需求與潛在走私規模。業者透露,自2024年底轉型維修AI晶片後,業績迅速成長,目前每月維修最高多達500顆 GPU,該公司還建立具備256台伺服器的測試室,以模擬客戶的數據中心環境進行驗證。一家維修商表示,其服務收費約人民幣1萬至2萬元 ,包含電路板修復、記憶體更換、風扇維修與軟體測試等項目。另一家業者則表示,每月可維修約200顆AI晶片,收費為晶片原價的約一成。根據美國法規,輝達自2022年9月起即不得將H100與A100晶片出口至中國,但多項招標紀錄顯示,中國政府與軍方已透過各種管道採購這些禁售產品,並且積極投入AI模型訓練。
考量外匯避險!台積電將增資海外子公司百億美元 投審會准了
投審會表示,於26日第18次會議核准重大投資案件計八件;包括僑外投資兩件、對外投資四件,以及對中國大陸投資兩件。其中,對外投資最大案為台積電以100億美元增資英屬維京群島TSMC GLOBAL LTD.,投審會表示,主要投資目的為外匯避險。據投審會統計,本次通過四案對外投資案,共約106億5,531萬美元,台積電一案就佔了100億美元。投審會說明,該案為以台積電以100億美元增資英屬維京群島TSMC GLOBAL LTD.從事經營一般投資業務,主要運用於銀行定存及債券投資孳息,主要投資目的是因該公司基於外匯避險成本考量,將自有外匯轉投資至TSMC GLOBAL LTD.。這也是台積電近一年來,對該子公司獲准的第三次增資,共計約180億美元。僑外投資兩案共計新台幣95億9,400萬元,投審會指出,包括英商GOOGLE ENGINEERING UK HOLDINGS LIMITED以新台幣70億元增資業台灣科高工程有限公司,以及美商A100 ROW, INC.以新台幣25億9,400萬元增資台灣亞馬遜資料中心服務有限公司,從事經營資訊軟體服務等業務。另外,對外投資其他三案為精成科技以281億5,629萬5,839日圓受讓日本LINCSTECH CO., LTD.全數股權,從事經營高階印刷電路版製造業務;緯穎科技以3億美元投資設立美國WIWYNN TECHNOLOGY CORPORATION,從事經營雲端伺服器產品生產配銷服務;以及中信銀以1億7,000萬美元元貸款投資菲律賓CTBC BANK (PHILIPPINES) CORP.。對中國大陸投資兩案分別為,銀泰科技以6,500萬美元增資成鼎精密元件(常熟)有限公司,資金用於償還對臺資銀行的長期借款及支付應付帳款;以及堤維西交通工業股份有限公司以人民幣3億1,050萬元間接受讓大茂偉瑞柯車燈有限公司股權。投審會說明,大茂偉瑞柯車燈有限公司原由堤維西與印度商合資成立,本次增資主因堤維西依據國際仲裁庭裁決進行收購印度商股權,藉以取得大茂偉瑞柯車燈有限公司主導權。
台積電龍年股價狂飆24% 有望重回全球前十大上市公司
晶片代工巨頭台積電在全球投資者們對人工智慧的樂觀情緒推動下,其股價自2024年以來大漲超24%,並且強勁漲勢短期內似乎難以停止。近期,科技股投資者們對於AI的信仰,在全球股市再度掀起巨大波浪,因此輝達旗下需求無比強勁的AI晶片A100/H100唯一晶片代工商台積電,有望重新躋身全球市值排名前十的上市公司行列。在全球晶片行業巨頭輝達下周公佈最新季業績之前,投資者們紛紛湧入AI晶片的最關鍵製造商台積電。台積電周四(15日)在台股股價飆升近8%,市值達到5750億美元,在全球排名第13位。這使得該股市值距離Visa、博通(Broadcom)和特斯拉(Tesla)等大型公司僅僅有600億美元的距離。在2020年短暫進入全球市值排名前十的上市公司之後,台積電有望重新躋身前十俱樂部。自去年9月底以來,全球股市圍繞AI的投資狂潮愈發猛烈,台積電股價在這波投資狂潮助力之下已上漲逾30%,而且還有進一步上漲的趨勢。由於生成式AI在全球各行各業的重要性日益提高,畢竟所有AI技術背後都離不開算力支撐,而算力的背後則完全基於AI晶片這一最底層基礎硬體。正是在AI晶片火爆需求帶動下,台積電2023年第四季實現總營收與上年同期的歷史高位水平基本持平,同時大幅超過市場普遍預期。來自Bloomberg Intelligence的分析師表示,台積電股價飆升反映了投資者對人工智慧技術未來增長前景的極度樂觀態度。但是,並非所有跡象都表明台積電股價將進一步上漲。最近猛烈的上漲勢頭使該股處於超買區域,這是一個技術性的障礙區域。此外,人工智慧領域出現任何利空的跡象,比如輝達最新季業績令投資者們感到失望,都有可能導致該公司股價下跌。但華爾街分析師們普遍看好台積電股價走勢。摩根士丹利近日上調了該股的目標股價,並預計市場將推高其估值。根據機構彙編的數據,在市值超過200億美元的全球晶片製造商中,台積電和輝達等晶片巨頭的分析師推薦評級為最高等級。
戴爾PC業務衰退 花旗:英特爾、AMD股價恐遭殃
知名個人電腦(PC)巨頭戴爾(DELL)周四(11月30日)公佈了2024會計年度第三季(截至2023年10月31日)業績,其中PC業務部門業績、業績展望數據皆低於預期。華爾街大行花旗(Citibank)警告稱,對PC端CPU產業企業英特爾和AMD來說,戴爾疲軟的PC業務可能對後兩者的業績和股價來說是「壞消息」。財報數據顯示,戴爾第三季營收年減10%至222.5億美元,不如分析師平均預期的230億美元。依業務劃分,包含企業及消費者個人電腦銷售額在內的戴爾PC客戶解決方案業務營收年減11%,至122.76億美元,遠不及分析師普遍預期。PC製造商在過去18個月遭受重創,因為PC需求大幅下降。另一家聞名全球的PC製造商惠普(HP)上周也公佈了同樣不溫不火的表現。不過,分析認為已經開始看到該行業復甦的跡象。研究機構IDC在10月的報告中表示,儘管全球經濟依然低迷,但PC市場已「走出低谷」。花旗研究分析師丹尼利(Christopher Danely)在一份報告中提及,英特爾約83%的銷售額來自PC端和伺服器領域,而AMD的這一比例為53%,「我們也注意到截至2022年,戴爾PC業務營收佔英特爾淨營收規模的大約19%。」丹尼利補充稱,他仍在等待11月全球筆記型電腦出貨數據的走勢。「如果11月筆記型電腦端的銷量低於預期,我們認為這對於PC更新大周期來說是非常不利的消息」。花旗對英特爾的股票評級維持為「觀望」,對AMD的評級則維持為「買進」。值得注意的是,AMD目標股價方面,由於該公司即將推出一款與輝達A100/H100相抗衡的高效能AI GPU「MI300系列晶片」。華爾街分析師們對於AMD股價普遍看漲,其看漲勢力遠強於老牌晶片公司英特爾。戴爾股價2日小幅下跌3.94美元或5.19%,收盤價為每股71.93美元。
輝達中國降規版AI晶片H20 路透:延後至2024年Q1發佈
據媒體援引知情人士的消息報導,輝達將延後發佈針對中國客戶的人工智慧(AI)晶片。據透露,輝達已告知中國客戶,由於伺服器製造商整合晶片遇到問題,H20晶片的推出時間可能要到2024年2或3月發表。路透社報導,兩位消息人士透露,輝達告知中國客戶HGX H20 AI晶片將延後到2024年第一季推出。半導體諮詢公司SemiAnalysis之前表示,為遵守美國新出口限制,輝達已開發中國區專用降規版AI晶片HGX H20、L20 PCIe和L2 PCIe,可用於LLM推算,填補H100無法販售的空白。其中H20是功能最強大的一款。報導指出,美國的出口限制將爲輝達的競爭對手創造機會。而輝達正押注於上述這些晶片,希望藉此保住在中國的市場占比。去年,由於無法向中國市場提供A100和H100晶片,輝達專門爲中國市場特供符合美方規定的A800和H800晶片,以繞開美國政府的管制。一年後,美國政府再次收緊出口規定,導致A800和H800被禁售。先前Semianalysis表示,HGX H20、L20 PCle和L2 PCle這三款晶片都是從H100的基礎版修改而來,包含了輝達用於人工智慧工作的大部分最新功能,但一些計算能力被削減以符合美國新規,並指出官方已生產樣品,12月量產。據悉,H20推出後可能會使輝達與中國本土企業的市場占比爭奪戰變得更加複雜。除了H20,消息人士稱,L20 將按照原定計劃推出,但關於L2的情況無可奉告。
NVIDIA疑繞開美國禁令 為中設計3款新高階AI晶片
據中國媒體報導,面對美國升級晶片禁令,輝達(NVIDIA)已為中國完成了三款新型高階AI晶片的設計,預計下個月量產。外界普遍猜測,此舉就是要再次避開美國政府禁止向中國出售高端AI晶片的禁令。據悉,輝達即將推出的三款新型高階AI晶片名為GX H20、L20 PCIe和L2 PCIe,皆基於AI晶片H100設計。外界普遍猜測,輝達此舉旨在繞開美國政府禁止其向中國出售高階AI晶片A800和H800的命令,黃仁勳近期來台,便是為了中國改版的新晶片,調整供應鏈而來。H100和A100是美國政府去年首次實施的晶片出口管制中首批受限產品。為了避開禁令,輝達特別為中國市場開發並提供性能較弱的A800和H800作為替代方案。然而,美國在10月中旬祭出新AI晶片管制政策,嚴格控制輝達部分專為中國市場設計的A800和H800兩種產品銷往中國,導致AI股供應鏈包括鴻海、緯創、廣達、技嘉全數有壓。有消息稱,此舉造成輝達手上價值50億美元的訂單受到影響,相當一部分可能被迫取消,主要涉及中國企業。不過,當時就有廠商預期,該公司早已為中國研擬新的「改良版」AI晶片,預計本月將發佈,輝達的中國客戶可能在數天後收到這些AI晶片。供應鏈消息指出,相較於先前H100,這次輝達重壓的H20新晶片在半精度(FP16)的性能將低於150 TFLOPs浮點運算,效能明顯低於輝達主流解決方案、華為Ascend 910B的替代方案。且由於CoWoS封測封測產能限制,H20已針對CoWoS的設計進行修改,預期下個月將啟動量產。看好輝達將在中國市場強勢回歸。
緯創小金雞秘辛1/林憲銘自爆當年「30分鐘拍板讓洪麗寗出去闖」 緯穎雪中送炭輝達磨成千金股
受美國科技股大跌拖累,上周台股成了外資提款機,外資在10月26日賣超286.88億元,卻反手買進多檔AI人工智慧概念股,其中緯創資通(3231)成了買超冠軍,單日買超1.4萬張。儘管美國不斷擴大對中國晶片禁令,AI晶片龍頭輝達首當其衝,漲多回跌下,廣達(2382)10月31日收在189元,緯創收在89.4元,緯穎(6669)則是1520元。不過,TrendForce仍看好AI伺服器及AI晶片需求,預估2023年AI伺服器出貨量近120萬台,年增38.4%,占整體伺服器出貨量近9%,而預計2026年將占到15%。今年台美股市都掀起AI巨浪,在輝達(NVIDIA)創辦人黃仁勳5月參加台北國際電腦展COMPUTEX時衝上高峰,演講後,全球矚目的「皮衣刀客」黃仁勳親自到訪廣達旗下的雲達攤子站台,還脫下招牌皮夾克給雲達總經理楊麒令穿,這一穿讓廣達市值整個翻倍,股價從年頭的72元,一路往上,8月衝出272.5元新高。不過,沒有在展覽上擺攤的緯創飆得比廣達更猛,從今年1月約30元,衝到7月最高峰158元,緯創子公司緯穎科技更是從1月的723元,漲到7月最高點2215元。「我在2月時發現緯穎有AI概念時進場,在漲多回跌前出脫,半年就賺了上百萬。」一位股民笑得合不攏嘴,向CTWANT記者炫耀他的戰績。去年底ChatGPT紅起來後,AI模型相關應用需要搭載GPU、FPGA、ASIC等晶片的 AI 伺服器做為運算基礎;研調機構 TrendForce 指出,目前以輝達 GPU(如 A100 晶片)為主流,市占率 6到7成,而緯創就是DGX A100(AI伺服器系統模組)及HGXH100(AI伺服器次系統模組)的主力供應商,法人認為,光是AI伺服器就能為緯創貢獻200到300億元營收。輝達創辦人黃仁勳出席COMPUTEX演講,引發AI風潮。(圖/黃耀徵攝)然而,緯創拿下這訂單,也是默默紮馬步了很久。業內人士向CTWANT記者透露,「其實當年輝達會找上緯創做DGX的系統組裝,就是因為輝達在AI領域還沒做出成績時,伺服器大廠都不願意陪他『練功』,是緯創的子公司緯穎雪中送炭,很早就開始跟他合作,等於是支持與陪伴他走過了最艱難的研發時間。」「當時我也沒想到AI會變成今天的局面!」緯創資通董事長林憲銘與緯穎科技董事長洪麗寗在10月20日的「2023年台灣企業升級轉型論壇」上,同台聊起這段往事,笑鬧間透露不少當年秘辛。緯創自2001年從宏碁集團分拆獨立後,以筆電、桌電與伺服器等代工為本業,後切入手機、資通訊及雲端等代工,也就是原廠委託設計的ODM廠,但2010年有了變化。當時,臉書、微軟等公司跳過只賣包套方案的品牌商,想直接找ODM廠打造符合自己需求的雲端硬體,問了很多家都碰壁,當然也找上緯創。此一要求,等於打破原有銷售模式,原本是代工廠將伺服器出貨給國際大型品牌廠,例如戴爾、惠普等,軟硬體系統整合後,再交付給雲端服務供應商。這使緯創陷入兩難,這些伺服器品牌商也是緯創的筆電代工業務重要客戶,如果接了伺服器生意,就變成客戶的競爭對手,還沒賺到錢就得罪原本的大客戶。當時擔任緯創企業產品事業群總經理暨營運長的洪麗寗,真的不想放棄這個機會,她還一度動念想離職創業,威逼林憲銘好好思考這些潛力客戶的重要性。「機會已經來了,客戶找上門來,但我們不敢吃、也吃不下來,那就分開吧!」林憲銘憶起當時。事實上,緯創從宏碁分割出來時,就是面臨一樣挑戰,當時外國筆電品牌客戶挑明跟他說,「你只要一天帶著acer的帽子,我就不能跟你做生意,因為我不相信你在關鍵時刻的決策。」兩年後,也就是2012年,「當天會議就在30分鐘內拍板,讓洪麗寗出去闖。」林憲銘說,而洪麗寗也跟她的夥伴在辦公室踱了20秒的步,然後大喊「走的時候到了!」林憲銘從緯創的各部門挖錢,一共9500萬元,交給洪麗寗,要她做個「輕資產」的公司,不要管製造,先把目標客戶的需求搞好就行。這家新公司就是緯穎,鎖定雲端伺服器業務、專攻雲端客戶,提供巨型資料中心(Mega Data Center)、雲端基礎架構(CloudInfrastructure)產品及系統解決方案服務。「不過這個真的很難,因為產品需求差異越來越大。」林憲銘說。緯穎從2012年到2016年都在虧錢,要整合、要找問題,短時間內看不到成效,組織內部抱怨聲四起、開始斤斤計較。林憲銘說,「當時最重要的就是穩住軍心,在費用分攤、資源分布上去裁決並協調,並鼓勵每個部門,讓大家都覺得自己是有機會的,所以才有動力去挑戰。」林憲銘笑著跟CTWANT記者這樣說,「現在看起來,我做得還不錯。」成軍四年後,機會再度上門。當時身兼緯穎董事長的林憲銘透露,「我們早在2016年就知道輝達要發展GPU,」當時沒人知道GPU能在未來的AI時代,成為簡單高效運行生成式AI模型的最好選擇,「高層內部討論時很掙扎,因為出貨量真的很少,許多同業都不想接這種案子,加上做下去後才發現沒有想像的容易,技術跟過往的伺服器製造經驗有很大的不同,」花費大量時間與人力、金錢投資下去可能不划算。緯穎股價在7月漲破2千元,後續漲多回跌,但法人仍看好後市。(圖/翻攝緯穎官網、奇摩股市) 不過,緯穎的團隊說想要堅持做下去,也還好緯創在製造上有基本底子,讓緯穎專注去做最難搞的客戶需求。也因此,緯創早在2017年左右,就跟著輝達投入AI相關研發,就這樣默默做了五、六年,包括GPU伺服器、GPU加速卡等,所以當現在有更多AI應用發生時,緯創已站在前端。「還好是客戶有前瞻性,在前面開拓了未來。」林憲銘說。緯穎去年營收近3000億元,法人預估,AI伺服器在去年營收占約1成,但明年可望成長至3成,雖然量體沒有老大哥鴻海、廣達多,但今年開發中的新品五成都是AI伺服器,可說是「很純」的AI概念股。外資券商認為,緯穎受惠於特殊應用晶片(ASIC)伺服器的營收與毛利向上、GPU伺服器長線成長動能穩健,研判緯穎未來還是很有成長,股價回跌反而創造重新買進的機會,維持「買進」評等,目標價放在2千以上。本土法人也認為,隨全球伺服器需求穩定,AI伺服器出貨量開始加溫,抵銷一般用途伺服器出貨衰退,緯穎第四季營收可望季增35%。
美擴大晶片禁令…重挫AI概念股 經濟部回應了
美國商務部美東時間17日宣布對大陸等被關注國家出口先進人工智慧(AI)晶片的進一步新規,將處理效能較慢的AI晶片種類都納入限制出口範圍,且新規將在公告30天後生效。消息一出,美股上市晶片公司紛紛大跌,受此政策影響較大的輝達(Nvidia),當天收盤時下跌達4.68%。輝達就此表示,可能被迫將部分業務遷出上述限制國家。輝達17日在向美國證券管理委員會(SEC)提出的文件中,闡述限制新規產生相關影響時稱,這些限制適用於輝達的A100、A800、H100、H800、L40、L40S和RTX 4090等晶片,並影響與這些晶片一起銷售的整個系統,包括DGX和HGX人工智慧基礎架構通用主機板系統,損害其按計畫完成新產品開發的能力,並可能被迫將部分業務遷出上述限制國家。其中A800與H800是輝達為了遵守美國先前的出口規定,而為大陸市場打造的「降規版」產品。L40S GPU則是今年8月剛發表的頂規遊戲晶片。全國廣播公司商業頻道(CNBC)報導,美國商務部長雷蒙多表示,美國限制目的是阻止大陸獲得先進半導體。這些半導體可能推動人工智慧領域的突破,特別是軍事用途。新限制只會影響一小部分對大陸晶片出口。這次輝達執行長黃仁勳訪台,有別於上次掀起一波AI旋風,在美國擴大對大陸晶片出口管制,不僅輝達股價暴跌,台股昨日AI概念股也成重災區,技嘉、廣達、緯創昨分別下挫5.93%、5.42%以及3.91%,台積電下跌11元、來到540元,台股爆量下跌201點,收在1萬6440點、成交量逼近3500億元。華南投顧董事長儲祥生表示,今年台股上漲多仰賴AI題材,現在輝達晶片在銷售禁令之列,AI股價將打回原形,因為當輝達受到衝擊,就會影響輝達在台積電等下單量能,投資人現在要關注美國禁令實質做法,將牽動AI概念股走勢,短期來看,台股指數萬六還撐得住。經濟部長王美花說,輝達的降規晶片H800等會受到限制,不可以賣到中國。但是AI晶片現在全球供不應求,先進製程產品都還不夠需求,因此這個管制對台灣廠商影響小,屬於「比較間接」。
美國擴大限制輸中晶片 輝達兩晶片「降階」也躲不掉
為防止中國在半導體與人工智慧(AI0)領域快速崛起,美國政府17日發布最新的晶片出口限制,將涵蓋更多相關產品。美國高級官員並表示,將更為嚴格的控制輝達(Nvidia)專為中國市場設計的A800和H800晶片產品。綜合外媒17日報導,去年底美國政府推出晶片禁令,主要防止AI晶片流入中國,其中包括輝達先進的A100、H100晶片。為了繞開美國政府禁令,輝達隨後針對中國市場推出了降階版的A800和H800晶片,但如今這兩款晶片也要受制於美方新規定。消息傳出後,美股17日開盤輝達股價應聲下跌,最新大跌7%,失守430美元關卡。另外,與半導體股份息息相關的ETF亦下挫,當中三倍做多半導體ETF(SOXL)曾下跌近1成。輝達發言人回應指出,預計美國政府將擴大對中國的出口管制,但不會對輝達財務表現構成重大影響,並指公司遵守所有適用法規。對於美方這次新禁令,美國官員表示,拜登政府希望監控所謂的灰色地帶活動,這次新規定將更廣泛的限制先進晶片和製造設備出口至包括伊朗、俄羅斯在內的更多國家,並將兩家未具名的涉及先進晶片製造的中國公司列入黑名單。美國商務部長雷蒙多指出,新措施旨在彌補去年10月所發布晶片禁令中的漏洞,從而阻礙中國的軍事發展,並且可能至少每年更新一次。她表示,美方目標是限制中國獲得先進晶片,這些晶片可能會推動對中國軍事應用至關重要的AI和超級電腦的突破,但美國政府無意在經濟上傷害中國。另外,美方新規指政府將在25天內審查公司通知,以確定是否需要許可證才能向中國出售相關的晶片產品。
擺脫輝達獨霸? 6大科技巨頭群起自研AI晶片
據科技媒體The Information昨天(7日)引述知情人士消息報導,微軟、OpenAI、特斯拉、谷歌、亞馬遜、Meta這六大科技公司正在研發自家的AI晶片,預計會與輝達(Nvidia)的旗艦級微處理器H100 GPU競爭,且可能有助於降低成本及減少對輝達AI晶片的依賴。輝達如今已是當之無愧的「AI算力王者」,A100/H100系列晶片佔據金字塔頂部的位置,但用戶面對輝達的獨霸天下,吃盡了成本高昂的苦頭。據華爾街投行伯恩斯坦(Bernstein)的分析,ChatGPT單次查詢的成本約4美分(約新台幣1.2元),若要將搜尋量增長到谷歌的十分之一,每年將耗費約481億美元的GPU,以及約160億美元的晶片來維持運行。所以無論是為了降低成本,還是減少對輝達的依賴、提高議價能力,科技巨頭們都紛紛下場自研AI晶片。微軟計劃在下個月的年度開發者大會上,推出該公司首款為人工智慧(AI)設計的晶片。事實上,The Information曾報導過,微軟自2019年以來就一直在開發一款代號雅典娜(Athena)的專用晶片,用於為大型語言模型提供動力。該晶片將由台積電代工,採用5nm先進製程,計劃最早於明年推出。有分析師表示,開發類似於雅典娜的晶片可能每年需花費約1億美元,ChatGPT每天的營運成本約70萬美元,大部分來源於昂貴的服務器,如果雅典娜晶片與輝達的產品擁有同等競爭力,每個晶片的成本將可以降低三分之一。OpenAI也正在探索製造自研人工智能芯片,並已開始評估潛在的收購目標。報導稱,至少從去年開始,OpenAI就已討論各種方案,以解決AI晶片短缺問題。OpenAI已與包括輝達在內的其他晶片製造商更密切地合作,以及在輝達之外實現供應商多元化。電車大廠特斯拉則立足於智能駕駛,目前已經推出了兩種自研晶片,分別為全自動駕駛(FSD)和Dojo D1晶片。FSD晶片用於特斯拉汽車上的自動駕駛系統;Dojo D1晶片則用於特斯拉超級計算機Dojo片,它是一種通用的CPU,目的是為了加速特斯拉自動駕駛系統的訓練和改進。谷歌也早在2013年,就已祕密研發一款專注於AI機器學習算法的晶片,並將其用在內部的雲端計算數據中心中,以取代輝達的GPU。這款自研晶片「TPU」於2016年公諸於世,可以為深度學習模型執行大規模矩陣運算,例如用於自然語言處理、計算機視覺和推薦系統的模型。谷歌實際上2020年便已在其數據中心部署了AI晶片TPU v4。不過直到今年4月才首次公開了技術細節。亞馬遜從2013年推出首顆Nitro1晶片至今,AWS是最先涉足自研晶片的雲端廠商,已擁有網路晶片、伺服器晶片、人工智慧機器學習自研晶片3條產品線。AWS自研AI晶片版圖包括推理晶片Inferentia和訓練晶片Trainium。2023年初,專爲人工智慧打造的Inferentia 2(Inf2)發佈,將計算性能提高了三倍,加速器總內存提高了四分之一,可通過晶片間的直接超高速連接支持分佈式推理,最多可支持1750億個參數,這使其成為大規模模型推理的有力競爭者。Meta直到2022年,還主要使用CPU和專為加速AI算法而設計的訂製晶片組合來運行其AI工作負載,但CPU的效率往往不如GPU。後來Meta取消了於2022年大規模推出訂製晶片的計劃,轉而訂購了價值數十億美元的輝達GPU。為扭轉局面,Meta已經在開發內部晶片,並於5月19日公布了AI訓練與推理晶片項目。據介紹,該晶片的功耗僅為25瓦,佔輝達等市場領先供應商晶片功耗的一小部分,並使用了RISC-V(第五代精簡指令處理器)開源架構。
特斯拉Dojo攻算力1/砸10億美元備妥集團所需算力 台積電最大受惠 車用鏡頭、低軌衛星也吃補
電動車大廠特斯拉(Tesla)日前宣布2024年將再投資10億美元,擴充超級電腦Dojo,引發市場議論。金融時報更指出,超級電腦Dojo遠超過輝達(NVIDIA),因為Dojo 所使用的D1 晶片,較輝達的GPU產品 A100 性能高出六倍,特斯拉自建強大算力,是否會搶食算力市場,有哪些台廠供應鏈受惠,頓時成了產業及市場新焦點。包括摩根士丹利在內的市場普遍認為,超級電腦Dojo的誕生與自駕系統有關,主要是用來計算電動車的大量數據,隨特斯拉生產的電動車越來越多,所收集到的行車影片資料也隨之增加,已經讓現在的Dojo算力不敷使用,也是特斯拉要擴充的主因。知識力科技執行長曲建仲分析指出,特斯拉擴充超級電腦,最主要的應用,應該是為要滿足該公司年年增產的電動車所帶來的大量數據。依特斯拉宣稱,超級電腦Dojo的運算基礎是D1晶片,1個D1晶片的效能,等於輝達的AI晶片A100或H100,而25個D1晶片所堆疊而成1個訓練磚,效能就等於是6個DGX A100伺服器。換言之,特斯拉這次宣布要砸10億美元,如果是用輝達晶片,相當於要花60億美元。「這說明了超級電腦Dojo的成本及體積優勢。」曲建仲指出。根據特斯拉宣稱,1個D1晶片的效能,等於輝達的AI晶片A100或H100。(圖/翻攝YT TELSA SPACE)法人指出,超級電腦Dojo成本遠低於輝達,這意味特斯拉可以用很低的成本獲得強大的算力,也就是在自動駕駛AI的賽道上,特斯拉比其他智能車可以用更便宜的成本大規模訓練,這種打擊很可能讓其他電動車業者經營更為艱辛。「要讓汽車達成真正的全自動駕駛,光靠超級電腦Dojo是無法完成的,其實還需要很多的配套,像是雷達、光達、影像感測器等等的配合。」曲建仲說。「值得注意的是,特斯拉執行長馬斯克旗下還有社群軟體推特(更名為X)、太空事業的SPACEX等不同的公司,這些未來也都可能會有算力需求,Dojo的建置,不僅供應電動車自架系統的需要,還可支應整個特斯拉集團的未來的算力。」曲建仲說。特斯拉目前有3台超級電腦Dojo,市場預期,除了電動車外,包括推特(更名為X)、SPACEX等特斯拉集團公司,未來也都可能會有算力需求。(圖/翻攝YT TELSA SPACE)一位投資法人告訴CTWANT記者,「馬斯克對Dojo的企圖心,看起來不僅只於電動車市場,往小的來看,它可以趁機搶占輝達A100和H100的市場,甚至可以搶美國政府禁止出口國家的市場,這是另一條出路;往大的來看,Dojo還可能變成亞馬遜和微軟外,全球第三大雲端服務商,讓特斯拉除了賣車外,再多一個收入。」由於特斯拉的Dojo預計2024年進入擴產,超級電腦的供應鏈也已動起來,目前有晶圓代工的台積電(2330),其中Dojo 1採用台積電7奈米技術,法人預期2024年的投片量將達1萬片,較今年倍增,至於Dojo 2則是採用5奈米製程;封裝部分,則是由台積電及日月光(3711)負責,其中日月光主要供應電壓調節模組(voltage regulating module),奇鋐(3017)則搶下散熱模組訂單,組裝則是交給緯創(3231)。以特斯拉超級電腦的效能及應用領域來看,法人認為,自駕車、低軌衛星等都是主要範圍,其中在自駕車部分,台廠主要以鏡頭為主,包括大立光(3008)、亞光(3019),以及鏡頭模組廠致伸(4915)都是供應商,低軌衛星供應鏈則有啟碁(6285)、昇達科(3491)等,啟碁生產的相位陣列天線是目前低軌衛星營運商主要採用的技術,昇達科的毫米波E頻段通訊元件則是可以讓衛星通訊效能提高6-7倍。
美限制晶片銷中東 法人:緯穎、緯創走勢兩樣情「這原因」
美國傳出將限制包括輝達(Nvidia)及超微(AMD)的AI晶片銷往中東,引發台股今(31日)AI族群殺聲隆隆,其中之前法說會上證實中東訂單的緯穎(6669)更是重災區,盤中一度亮燈跌停,而母公司緯創(3231)則是開低走高,中場就回到平盤之上,尾盤更是最高點117元作收,漲幅逾4%。華冠投顧分析師范振鴻指出,就輝達所公布的文件內容來看,是指在2024財政年度第二季,美國通知我們,對於一部分運往特定客戶和其他地區,包括中東某些國家的A100和H100產品,有額外的許可要求。換言之,並非是完全禁止,而是要經過審核。對於緯穎及緯創走勢分歧,法人指出,主要是緯創的籌碼面見到外資已經開始由賣轉買,本周以來已連三天買超,股價也有築底跡象,至於緯穎,技術線型還在測試低點,如果能守穩1530元,那應該也有機會回穩。至於中東訂單對於AI族群的影響,范振鴻指出,因為中東國家尚未正式下單,對於接下來營收預估甚至是財測模型不會產生任何影響,不過先前市場原先預期緯穎可以取得中東地區AI伺服器訂單的想像,而導致的估值上調就會受到影響。緯創身為緯穎的母公司,在今早開盤一起被牽連開低,但如果單純以這項禁令來講的話,對於營運的直接影響程度又會更小。總結來說,不管是緯穎以及緯創,對於接下來的獲利預估調整來說,影響都不大,主要是影響市場對於未來中東訂單的想像空間,但若接下來有新的證據顯示,接單不受影響且未來中東訂單納入獲利預估,勢必對股價又會有激勵表現。
再戰AI不悲哀3/個股走勢分歧 分析師:先釐清本身操作模式 長投短投都應「這麼操作」
近期,AI類股走勢開始出現分歧,投資人還能「無腦」買AI類股?華冠投顧分析師范振鴻表示,ChatGPT開始收費進入商轉,確實是跨時代創舉,但投資人還是要看自己的操作模式,長期投資或短期操作?不管選擇哪一種,都建議「分批買進,避免看錯一次就被套牢,被迫從短線操作變成長期價值投資。」目前還有AI持股的投資人,應該要做兩項檢視動作,一、手中持股的公司是否確實受惠於AI相關訂單而營收及獲利有所提升?二、自己本身操作週期,是長期投資還是短期操作,若是長期投資,判斷指標以AI伺服器的成長增幅趨緩或持續擴大為主;短線投資人判斷某個族群或個股的核心要素,則是個股的價量,在量縮整理時布局,在價量齊揚的時發動攻勢。以指標股廣達(2382)及緯創(3231)來看,股價走勢就不盡相同,廣達雖然從7月31日高點271元跌到8月4日的206元,跌幅近24%,但仍緊跟著月線,但是緯創從161.5元跌到最低109元,緯穎(6669)也從2145元跌到1475元,跌幅均超過30%,且離月線都有一段距離,相較之下,廣達多方續攻的量能還在,但是緯創跟緯穎,就必須要先重新站回到月線之上,才有機會重新上攻。法人強調,近期AI族群震盪大,操作難度高,投資人可設定月線為觀察個股強弱的指標。而AI伺服器需求展望佳,但是這些供應鏈,目前的主力產品仍是傳統伺服器,根據研究機構TrendForce調查,2023年AI伺服器(包含搭載GPU、FPGA、ASIC等)出貨量近120萬台,年增38.4%,占整體伺服器出貨量近9%,至2026年將占15%,同步上修2022~2026年AI伺服器出貨量年複合成長率至22%。而AI晶片2023年出貨量將成長46%。但是傳統伺服器市況則是偏弱,因為北美四大雲端服務供應商(CSP)包括Google、亞馬遜、Meta、微軟都陸續下調採購量,Dell及惠普(HPE)等也下調全年出貨量預估,因此TrendForce也預期,今年全球伺服器整機出貨量將下修至1383.5萬台,年減2.85%。緯穎在日前法說會中,透露有中東國家級AI伺服器客戶,也讓市場傳言的中東客戶獲得證實。(圖/報系資料照、翻攝自Art & Information Technology臉書 )「這些做AI伺服器零組件的公司,一定也會有傳統伺服器的訂單,現在投資人必須需要多納入一個考量點,傳統伺服器的需求疲弱,使得AI族群將面臨AI相關訂單獲利是否足以彌補傳統伺服器的衰退影響。整體來看,投資人應該多注意相關個股所公布的法說資料,觀察公司AI的營收佔比以及IA的獲利佔比,才能了解公司的AI伺服器含金量純度。」仲英財富投資長陳唯泰提醒。法人指出,分析近期主要廠商對於AI看法,其中廣達預期在第三季底將有多個AI伺服器專案開始出貨,帶動AI伺服器業績出現2位數增長,並推升毛利率,公司規劃增加產能因應。仁寶預計明年AI伺服器佔伺服器業務營收比重,從8%成長至20-25%。華碩目標伺服器營收五年增長五倍,年複合成長率目標為40%。機殼廠勤誠預期,今年底AI伺服器相關業務營收比重將達15-20%,並帶動平均銷售單價與毛利率上升。散熱廠奇鋐目前AI伺服器營收占比已達一半,看好未來3至5年是快速成長期。台達電也指出,AI伺服器帶動電源需求強勁,相關營收比重將只增不減。法人表示,台積電目前AI營收占比約6%,預期未來5年需求平均年複合成長率將近 50%,營收占比將擴增至11-13%。由於台積電總裁魏哲家在法說會喊出CoWoS擴產越快越好,包括桃園、新竹、苗栗及台中等地均將建置生產線。TrendForce觀察,台積電2023年底CoWoS月產能有望達12K,其中,NVIDIA在A100及H100等相關AIServer需求帶動下,對CoWoS產能較年初需求量,估提升近5成,加上AMD、Google等高階AI晶片需求成長下,將使下半年CoWoS產能較為緊迫,而此強勁需求將延續至2024年,預估若在相關設備齊備下,先進封裝產能將再成長3-4成。國泰投信董事長張錫11日在出席「榮耀20 ETF啟動財富博覽會」時表示,AI發展對台廠供應鏈是有益的,今年還只是第一年,明年就會看到大幅成長,「我個人是覺得非常值得期待,庫存跟整個景氣的狀況,目前看起來都往正向去發展」。國泰投信董事長張錫認為,AI發展對台廠供應鏈是有益的,今年還只是第一年,明年就會看到大幅成長。(圖/報系資料照)
仁寶Q2營收2438億季增16% 翁宗斌:「寒冬將過」AI伺服器明年出貨增
電子代工大廠仁寶(2324)上周五(11日)召開法說會公布第二季營收,約2438億元,季增16%、年減8%,每股稅後盈餘(EPS)0.48元,季增50%、年增4.34%。仁寶表示,看好第三季PC出貨成長個位數百分比,但全年出貨將年減10至15%;仁寶總經理翁宗斌認為,PC寒冬將過,樂觀看待明後年成長。翁宗斌表示,第二季看到許多急單,下半年受美國升息和通貨膨脹狀況受到控制影響,產業庫存也回到健康水位。不過,客戶下單情況還是比較保守,因此對第三、四季偏保守審慎看待,推估有機會成長個位數百分比。其他非PC產品等新事業方面,目前看來消費性產品需求仍保守,加上上半年基期比原本預期高一些,將持續優化產品組合優化、加速新事業貢獻,提升非PC獲利,預期今年成長雙位數百分比。就今年整體營運而言,下半年表現會優於上半年。仁寶今年第二季合併營收約2438.71億元,季增16%、年減8%;因改善產品組合、提升營運效率,營業利益達27.6億元,季增22%、年增40%;歸屬母公司業主稅後淨利20.92億元,季增50%,年增4%;每股EPS 0.48元。累計上半年合併營收4533.29億元,年減15%;營業利益50.14億元,年增5%;歸屬母公司業主稅後淨利34.85億元,年減17%;每股盈餘0.8元。談到新事業進展,翁宗斌指出,旗下AI伺服器目前主要從事插卡式的A100、H100組裝業務,目前占仁寶整體伺服器出貨比重仍低,約8到10%。明年在歐洲、美國以及潛在的中東客戶挹注下,將進一步取得GPU伺服器相關組裝業務,出貨也將大增,預期AI伺服器明年在整體伺服器業務中的營收佔比,有機會增加至20到25%。展望2024、2025年,翁宗斌樂觀看待,原因之一是企業預算鬆綁,商用市場將迎來換機潮,且微軟在Windows作業系統導入AI應用也會刺激需求。他強調,以PC來說,應該今年過後寒冬就過了。
擔憂白宮實施出口限制 《金融時報》:中國科技巨頭爭相囤積Nvidia晶片
英國《金融時報》今(10日)援引多位知情人士爆料,有鑑於白宮不斷推出新的出口管制限制,中國科技巨頭目前正在爭相採購對建構生成式人工智慧(AI)系統至關重要的高性能Nvidia晶片,且訂單總價值高達50億美元。《金融時報》指出,百度、字節跳動、騰訊和阿里巴巴已向輝達(Nvidia)下訂了價值10億美元的訂單,以取得約10萬顆輝達A800 GPU晶片,並定在今年交付。另根據2位Nvidia內部人士指出,這些中國企業還購買了價值40億美元的GPU晶片,預計將在2024年交付。 報導指出,A800是Nvidia尖端A100 GPU的弱化版。由於華盛頓去年為科技圍堵北京而實施出口限制,因此中國科技企業目前只能購買數據傳輸速度比A100慢的A800。不過考慮到白宮近期動作頻頻,不斷簽署行政命令實施新的出口限制,中國科技巨頭也正在競相囤積A800晶片,加劇全球GPU晶片短缺的現象。一位不願具名的百度員工也透露:「如果沒有這些Nvidia的晶片,我們就無法進行任何大型語言模型(large languagemodel,LLM)的訓練。」另根據2名內部員工的爆料,字節跳動已儲備了至少1萬顆Nvidia GPU晶片,並加購了近7萬顆A800晶片,訂單預計將在明年交付,總價值約7億美元。針對此篇報導,百度、字節跳動、騰訊和阿里巴巴均拒絕置評。Nvidia則在一份聲明中表示:「消費網路公司和雲端儲存服務商每年都會在數據中心組件上投資數十億美元,而且通常會提前幾個月下單。」一位Nvidia經銷商則透露,他們手中的A800價格已上漲了超過50%。
林百里的第一步2/三總AIoT 將升級輝達H100 小琉球義診靠AI判讀「上醫醫未病」
「這個能夠快速運算找出病因模型的推手,是國防部軍醫局長蔡建松,他時任三軍總醫院院長時、2019年成立『人工智慧暨物聯網(AIoT)發展中心』,他同時是一位心臟外科名醫,更構思5G智慧醫院的大願景,與林百里兩人一拍即合,促成心電圖AI判讀平台合作。」知情人士向CTWANT記者透露,AIoT中心裡有搭載輝達A100高階運算主機,將再進一步升級為最新的H100。「用X光、核磁共振等照胸、肺、眼底等,只要有影像、數據都能夠訓練出AI判讀模型。」三總AIoT中心技術長林嶔表示,目前國內致力心電圖AI判讀技術的,除了國防醫院及三軍總醫院,還有中國醫藥大學、長庚等,三組隊伍中又以前者跑在前頭,搶先訓練出可分辨高達50種心臟病的AI模型。「演算法優勢只能領先2、3年,有了臨床案例能累積真正實力。」林嶔解釋。三總在心臟外科的研究與醫療能量頗負盛名,在2010年升級心電圖儀器、建立資料庫,目前已累計超過150萬張心電圖、是全球第二大的資料量、僅次於美國醫學中心MayoClinic,這也是林百里看重之處。「心電圖AI判讀平台使用到現在,第一線醫護人員反應都很不錯。」在AI幫助下可判斷出有沒有急性心肌梗塞、肺栓塞等50種心臟疾病,回傳讓醫師確定病因後立即進行施救,讓心臟損害程度盡量縮小、後續康復可能性提升。「在處理急診病患能減少10分鐘的等待,就等於是進一步增加10分鐘黃金搶救時間。」2022年一位突然心臟痛的澎湖民眾,讀取心電圖後傳到台北三總機房由AI協助判讀為急性心肌梗塞,聯絡快艇後送三總澎湖分院,成功打通阻塞血管並放置血管內支架。廣達電腦與各醫療院所合作,如為台大雲林分院合作建置軟體「遠距醫療居家照護包」,針對「高危出院監測」設計,可遠端監測重症病患出院後的體溫、心跳、血氧、血壓、心電圖、肺功能、生活品質等,減少住院時間並降低再返院率。(圖/台大雲林分院提供)心電圖AI判讀平台更可以做到早期就篩檢、提前預防,三軍總醫院院長洪乙仁表示,「今年5月起和廣達合作在小琉球義診,給620位在地民眾使用,居然篩出幾個無症狀的病人,他們到大醫院檢查後得到很好治療,以往都是哪一天心律不整、中風就算了。已能達到真正的「上醫醫未病」(醫治還沒有生的病)。國防醫學院校長查岱龍進一步提到,AI智慧與醫療順利結合,才能夠讓醫學不只停留在研究、能夠順利落地臨床應用,「ICT與醫療與醫學教育結合,病人未來能更快速獲得精準醫療服務。尤其國軍在高壓場域、經常面臨突如其來的任務,有AI幫助部隊訓練,甚至加入氣候變化等考量,學生也能提早進入研究智慧醫療。」AI出現掀起人被取代的論戰,在高貴的醫界亦無法避免。洪乙仁表示,AI判讀後仍由醫師做最後決定,「AI是人訓練出來的,可以幫助人醫做更好地發揮」,他提到自己一個內向同學因腦部腫瘤的醫療糾紛,結束生命的悲傷故事,珍貴的醫療人才因此消逝,未來有AI輔助、給予第一線醫護更充分訊息,可以促進醫療產業發展、還有更融洽的醫病關係。三總AIoT中心執行長方文輝表示,心電圖AI判讀平台放上救護車、走出國門都是努力的方向。
AI伺服器助攻! 緯創連6漲股價累積漲幅逾32%
AI伺服器加持下,強勢股緯創(3231)近期漲勢強勁,本周周漲19.7%,其中,近6個營業日累積收盤價漲幅達32.85%。緯創日前公告6月自結財報,累計第2季合併營收2065.5億元、季減2.57%、年減逾15%,但6月單月EPS達0.62元,和前一年比較成長雙位數。緯創6月營收811億元,月增28%、年減20%,稅後純益17.3億元,年減 20.9%,每股純益0.62元,6月賺贏今年第一季;第二季營收2065.5億元,季減2.5%、年減15%,上半年營收4185.5億元,年減11%。據國內券商報告內容,緯創產品組合改善,預估今年AI伺服器營收將成長至220億,明年更將接近翻倍到420億元,雖然AI GPU基板營收的貢獻僅佔2至4%,但因毛利率較高,可望貢獻2023至2025年的營業利益15%至30%。外資表示,今年緯創AI伺服器的營收占比約3%,但對淨利的貢獻可達10%,明年更可望增加至15-20%;國內券商預估緯創今、明兩年EPS分別為3.67元與6.38元,外資則評估分別為3.04元、5.88元。國內券商給緯創目標價115元,外資則看120元。緯創GPU伺服器持續發酵。去年下半GPU架構伺服器產品開始出貨,整體營收預估僅150億元,而今年下半年在新產能H100、A100系列加入後,全年伺服器營收比重將提升至40%以上,明年則可望提高至44%。公司表示,下半年出貨將逐季成長,隨著向瑞軒租的新竹新廠第三季底完工,新產能挹注下將帶動下半年出貨量明顯成長。緯創上周五(7日)盤中一度出現111元新天價,股價收在106元、漲幅0.47%。
AI伺服器需求強 研調:2024年先進封裝產能增4成
研調機構TrendForce觀察AI應用帶動AI伺服器成長熱潮,對高階AI晶片及HBM(高頻寬記憶體)強烈需求、台積電2023年底CoWoS月產能有望達12K,NVIDIA在A100及H100等相關AI Server需求帶動下,對CoWoS產能較年初需求量,估提升近5成,加上AMD、Google等高階AI晶片需求成長下,將使下半年CoWoS產能吃緊,至2024年先進封裝產能將再成長3~4成。2023年由ChatBOT等生成式AI應用帶動AI伺服器成長熱潮,又以大型雲端業者最積極投入,包含Microsoft、Google、AWS或其他中系業者如Baidu、ByteDance等陸續採購高階AI伺服器,以持續訓練及優化AI分析模型。TrendForce指出,為提升整體AI伺服器的系統運算效能,以及記憶體傳輸頻寬等,NVIDIA、AMD、Intel等高階AI晶片中大多選擇搭載HBM。目前NVIDIA的A100及H100,各搭載達80GB的HBM2e及HBM3,在其最新整合CPU及GPU的Grace Hopper晶片中,單顆晶片HBM搭載容量再提升20%,達96GB。另外,AMD的MI300也搭配HBM3,其中,MI300A容量與前一代相同為128GB,更高階MI300X則達192GB,提升了50%。同時預期Google將於2023年下半年積極擴大與Broadcom合作開發AISC AI加速晶片TPU亦採搭載HBM記憶體,以擴建AI基礎設施。TrendForce指出,在AI較急促需求下,無論是HBM或CoWoS生產過程中,得後續觀察周邊配套措施,例如直通矽晶穿孔封裝技術(TSV)、中介層電路板(Interposer)以及相關設備(如濕製程設備)等是否能到位,如前置時間(Lead Time)等考量。而在AI強勁需求持續下,估NVIDIA針對CoWoS相關製程,亦不排除將評估其他類似先進封裝外援,例如Amkor或Samsung等,以因應可能供不應求的情形。