圖形處理器
」 輝達 AI NVIDIA 人工智慧 股價
黃仁勳訪中談生意無果!H200晶片在中國市場仍零收入
儘管輝達(NVIDIA)執行長黃仁勳才剛隨美國總統川普(Donald Trump)訪中談生意,但輝達於美東時間20日坦承,該公司尚未從對中銷售的H200晶片中獲得任何收入,且目前仍不確定該產品是否會被允許進入中國市場。據《南華早報》報導,雖然華盛頓已核發向中國客戶出貨H200的許可證,但輝達執行副總裁兼財務長克雷斯(Colette Kress)在財報電話會議後透露了上述情況。與上季一致,輝達在本季度展望中同樣未納入任何中國資料中心運算收入的預測。上述評論發表之際,黃仁勳近期才剛與川普一同訪問中國。川普後來坦承,美方雖然已經放行出口,但北京仍未批准H200晶片的採購。這凸顯了輝達日益艱難的處境。該公司雖然仍是全球領先的人工智慧晶片供應商,但卻遭到美國出口管制,以及中國扶植國內半導體產業的雙重打擊。儘管如此,輝達財務表現仍優於市場預期。這家位於加州聖塔克拉拉(Santa Clara)的公司指出,截至4月26日的季度營收達816億美元,年增85%,較上季度成長20%。非GAAP(美國一般公認會計準則)每股盈餘達1.87美元,高於分析師預期的1.77美元;營收也高於《彭博社》(Bloomberg)所統計的市場預估792億美元。此外,資料中心的業務營收也達歷史新高的752億美元,年增92%,主要受Blackwell GB300產品的量產,以及對InfiniBand、Spectrum-X Ethernet與NVLink解決方案的需求帶動。在輝達新的財務揭露架構下,超大規模雲端客戶貢獻379億美元,約占資料中心營收的一半,而AI雲端、工業與企業客戶合計貢獻374億美元。對此,黃仁勳表示,公司成長已不再僅依賴少數超大規模雲端供應商,因為正在出現所謂的「第二類」AI基礎設施客戶,包括AI原生雲端公司、企業、工業公司以及主權AI專案。他指出,該市場更加分散,但正快速成長,因為企業正在公共雲之外建設專用AI工廠。黃仁勳還表示,第二類客戶之所以較不易被理解,是因為其客戶數量遠多於5到6家主要超大規模雲端企業,涵蓋眾多產業和國家的小型部署專案。不過他強調,輝達在該市場具有優勢,因為許多客戶傾向購買並運營完整AI系統,而非自行設計晶片或基礎架構。另一個投資人關注焦點是輝達進軍中央處理器(CPU)市場。該市場長期由英特爾(Intel)與超微半導體( AMD)主導。黃仁勳表示,代理式AI(agentic AI)正在創造新的CPU需求,因為AI代理需要系統層級的協調,而圖形處理器(GPU)仍負責核心推理與運算工作。他指出,隨著Vera CPU與Rubin GPU搭配使用,並應用於儲存、安全與機密運算系統,輝達今年單獨CPU業務營收有望接近200億美元。克雷斯則表示,輝達預期本季度營收為910億美元,上下浮動2%,主要成長動能來自資料中心需求的連續成長。該預測同樣假設中國資料中心運算收入為零。公司同時宣布新增800億美元庫藏股回購授權,並將季度股息提高至每股0.25美元。儘管財報表現強勁,市場對輝達的疑慮並未完全消散,該公司股價在美東時間20日盤後交易一度下跌1.6%。金融諮詢公司deVere Group執行長奈格林(Nigel Green)表示,輝達仍主導全球市場「最重要的成長主題」,但也警告,隨著債券殖利率上升,投資人對未來獲利假設變得更加敏感,高估值已越來越難以合理化,「投資人不再只是無條件為成長買單。輝達仍維持頂尖執行水準,但當前市場預期過高,即使優異財報也可能無法消除整體估值疑慮。」
AMD股價飆漲14% 市值突破5000億美元
產業紅利加持,超微(AMD)股價24日大漲14%,市值在收盤時突破5000億美元大關。AMD 4月股價累計上漲 71%,有望創下2001年1月上漲78% 最佳單月表現。AMD股價24日終場大漲14%,收至347.81美元,市值達5670億美元,距離該公司在2020年8月首度突破1000億美元門檻,僅用了不到六年時間。英特爾23日盤後公布的財報,進一步證實了中央處理器(CPU)市場的火熱程度。D.A. Davidson 執行董事Gil Luria說:「我們原先預測CPU會是下一個產業瓶頸,但英特爾的財報顯示,這已經轉化為顯著的成長動能。」雖然AMD是以圖形處理器(GPU)在人工智慧(AI)競賽中站穩腳步,但受惠於AI 代理興起,讓運算應用對CPU產生龐大需求,甚至開始供應短缺。由於英特爾第1季財報遠高於市場預期,Luria 認為AMD 5月5日公布的財報將帶來「更強大的補漲空間」。曾經疲軟的CPU市場已然強勢回溫,由於供不應求情況持續,AMD有機會調漲伺服器CPU售價,進而提升毛利率。
我兩個都要? Meta砸數十億美元佈局「這家」晶片
Meta與亞馬遜(Amazon)24日達成一項價值數十億、為期數年的合作協議,Meta將採用亞馬遜雲端服務(AWS)自研的Graviton 5 中央處理器(CPU)晶片,以支援其人工智慧(AI)代理並驅動相關算力。AWS 副總裁暨資深工程師Nafea Bshara指出,合作將持續三至五年,多數運算資源將部署於美國資料中心。Graviton 5採用3奈米製程,每顆晶片包含192個核心,基於性價比,可分配執行不同任務,有效應對各種運算需求。近年AI發展重心多集中於輝達(NVIDIA)等公司生產的圖形處理器(GPU),主要用於模型訓練。業界指出,CPU可支援部分應用執行並與GPU協同運作,尤其在大型語言模型的後訓練階段,以及AI代理執行複雜任務時扮演關鍵角色。Meta近年積極擴大AI投資版圖,除與輝達、超微(AMD)及安謀(Arm)等晶片業者合作外,也持續強化與亞馬遜的夥伴關係。雙方合作過去主要集中於雲端服務與GPU租用,此次則進一步深化至自研CPU領域。此外,亞馬遜Graviton已發展至第五代,並由台積電 (2330)代工生產。隨著 AI 需求升溫,CPU 市場出現復甦跡象,分析人士認為,Meta與AWS此次合作不僅反映大型AI開發者對算力需求幾乎無上限,也為AWS自研CPU在AI領域的應用提供重要驗證。
不滿意輝達晶片?《路透》:OpenAI正在尋求替代供應商
8名知情人士指出,OpenAI對輝達(NVIDIA)部分最新人工智慧晶片並不滿意,並且自去年起已開始尋求替代方案,特別聚焦高SRAM整合架構,以提升ChatGPT與Codex等產品回應效率。雙方原定的千億美元投資案也因產品路線調整而延宕,期間OpenAI接觸Cerebras與Groq等業者,輝達則迅速授權Groq技術鞏固版圖。據《路透社》(Reuters)報導,OpenAI策略轉向的細節首度曝光,焦點在於其日益重視用於執行特定人工智慧推論(inference)任務的晶片。所謂推論,是指人工智慧模型(例如支撐ChatGPT應用程式的模型)在回應使用者問題與請求時所進行的運算過程。輝達在大型人工智慧模型訓練晶片領域仍具主導地位,而推論則已成為新的競爭戰場。OpenAI及其他公司在推論晶片市場尋求替代方案,對輝達在人工智慧領域的主導地位構成重大考驗,而此時雙方也正處於投資談判之中。去年9月,輝達表示有意向OpenAI投資高達1,000億美元,該交易將使晶片製造商取得這家新創公司的股份,同時為OpenAI提供購買先進晶片所需的資金。《路透社》當時報導,該交易原預計數週內完成,然而談判卻拖延數月。在此期間,OpenAI與超微(AMD)等公司達成協議,採購可與輝達競爭的圖形處理器(GPU)。不過,1名知情人士指出,OpenAI產品路線圖的轉變,也改變了其所需的運算資源種類,進而使與輝達的談判陷入僵局。1月31日,輝達執行長黃仁勳淡化有關與OpenAI關係緊張的報導,稱相關說法「荒謬」,並表示輝達計畫對OpenAI進行大規模投資。輝達在聲明中表示:「客戶持續選擇NVIDIA用於推論,因為我們在大規模部署下提供最佳效能與總體擁有成本。」OpenAI發言人則在另1份聲明中指出,公司在其推論算力部署中絕大多數仍依賴輝達,且輝達在推論運算方面提供最佳的性價比。7名消息人士表示,OpenAI對於輝達硬體在處理某些特定問題時為ChatGPT使用者生成答案的速度並不滿意,例如軟體開發與人工智慧與其他軟體互動等場景。其中1名人士告訴《路透社》,OpenAI需要新硬體,未來可滿足其約10%的推論運算需求。2名消息人士指出,ChatGPT開發商曾討論與新創公司Cerebras與Groq合作,為更快速的推論提供晶片。但其中1名人士表示,輝達與Groq達成了1項價值200億美元的技術授權協議,使OpenAI與Groq的談判告終。晶片業高層指出,輝達迅速與Groq達成協議,似乎意在強化自身技術組合,以在快速變動的人工智慧產業中維持競爭力。輝達則表示,Groq的智慧財產權與其產品路線圖高度互補。在全球人工智慧爆炸性成長的過程中,輝達的圖形處理晶片非常適合用於訓練像ChatGPT這類大型人工智慧模型所需的大規模數據運算。然而,人工智慧的發展重心正逐漸轉向利用已訓練完成的模型進行推論與推理,這可能是人工智慧的新一階段,也促使OpenAI積極布局。自去年以來,OpenAI尋找GPU替代方案的重點在於那些在單一矽晶片上嵌入大量「靜態隨機存取記憶體」(SRAM)的公司。將盡可能多的昂貴SRAM壓縮至單一晶片,可為聊天機器人及其他人工智慧系統在處理數百萬用戶請求時帶來速度優勢。推論所需記憶體往往高於訓練,因為晶片在推論過程中需要花更多時間從記憶體中提取資料,而非單純進行數學運算。輝達與超微的GPU技術依賴外部記憶體,這會增加處理時間並降低使用者與聊天機器人互動的速度。其中1名消息人士補充,在OpenAI內部,這個問題在其程式碼生成產品Codex上尤為明顯。OpenAI近來積極行銷Codex,但部分員工將其弱點歸因於基於輝達GPU的硬體架構。1月30日與記者的電話會議中,執行長奧特曼(Sam Altman)表示,使用OpenAI程式碼模型的客戶「會對編碼工作的速度給予高度溢價」。他補充,OpenAI近期與Cerebras達成的協議,正是滿足此需求的方式之一,但對於一般ChatGPT使用者而言,速度並非同樣迫切。競爭產品如Anthropic PBC的「Claude」與Google的「Gemini」,則更多依賴Google自製晶片「張量處理單元」(Tensor Processing Units, TPUs)部署。TPU專為推論所需運算設計,相較於通用型人工智慧晶片(如輝達設計的GPU)可能具有效能優勢。知情人士指出,當OpenAI表達對輝達技術的保留態度後,輝達曾接觸包括Cerebras與Groq在內、專攻高SRAM晶片的公司,討論潛在收購。不過Cerebras拒絕收購提議,並於上月宣布與OpenAI達成商業合作。而Groq則曾與OpenAI洽談提供運算能力的協議,並吸引投資人有意以約140億美元估值為其募資。然而到了12月,消息人士表示,輝達以非獨家、全現金方式取得Groq技術授權。儘管該協議允許其他公司授權Groq技術,但在輝達挖角Groq晶片設計師後,Groq目前重心轉向銷售雲端軟體服務。
輝達斥資200億美元!收購AI新創「Groq」資產
美國私募股權與風險投資公司「Disruptive」執行長戴維斯(Alex Davis)表示,輝達(NVIDIA)已同意以現金200億美元(約合新台幣6,288億元)收購高效能人工智慧加速晶片設計公司「Groq」的相關資產。Disruptive主導了該新創公司今年9月的最新1輪融資。據《CNBC》報導,戴維斯指出,他的公司自2016年Groq成立以來,已在該公司投資超過5億美元,而這筆交易是在相當短的時間內敲定的。3個月前,Groq完成7.5億美元的募資,估值約為69億美元。該輪投資者包括貝萊德(BlackRock)與路博邁集團(Neuberger Berman),以及三星(Samsung)、思科(Cisco)、投資公司「Altimeter」與創投公司「1789 Capital」,其中美國總統長子小唐納川普(Donald Trump Jr.)為「1789 Capital」的合夥人之一。Groq於24日在官方部落格中表示,公司已「與輝達就Groq的人工智慧推論技術(inference technology)達成1項非獨家授權協議」,但未揭露交易價格。部落格文章續稱,隨著這項交易,Groq創辦人暨執行長羅斯(Jonathan Ross)、公司總裁馬德拉(Sunny Madra)以及其他高階主管,將「加入輝達,協助推進並擴展獲授權的技術。」Groq還補充,公司將持續以「獨立公司」身分運作,並由財務長愛德華茲(Simon Edwards)出任執行長。對此,輝達財務長克雷斯(Colette Kress)拒絕對這筆交易發表評論。戴維斯向《CNBC》表示,輝達將取得Groq的所有資產,但其尚在起步階段的Groq Cloud雲端業務並不包含在交易之中。Groq則表示,「GroqCloud將持續不中斷地運作。」這筆交易是輝達迄今規模最大的收購案。該晶片製造商過去最大的1筆併購發生在2019年,當時以接近70億美元的價格收購以色列晶片設計公司邁絡思(Mellanox)。截至10月底,輝達的現金與短期投資總額為606億美元,較2023年初的133億美元大幅增加。根據《CNBC》取得的1封寄給員工的內部電子郵件,輝達執行長黃仁勳表示,這項協議將擴展輝達的能力。他在信中寫道:「我們計畫將Groq的低延遲處理器整合進『NVIDIA AI工廠架構』(NVIDIA AI factory architecture),進一步延伸平台能力,以服務更廣泛的AI推論與即時工作負載。」黃仁勳補充:「儘管我們將延攬優秀的人才加入輝達,並授權使用Groq的智慧財產,但我們並未收購Groq這家公司本身。」輝達曾在今年9月策劃過1項類似但規模較小的交易。當時,該公司斥資超過9億美元,聘用AI硬體新創「Enfabrica」的執行長桑卡爾(Rochan Sankar)及其他員工,並授權使用該公司的技術。過去幾年,包括Meta、Google與微軟(Microsoft)在內的其他科技巨頭,也透過各種形式的授權交易,大舉投入資金以延攬頂尖AI人才。隨著手中現金水位快速上升,輝達近來大幅增加對晶片新創與整體生態系的投資。該公司已投資AI與能源基礎設施公司「Crusoe」、AI模型開發商「Cohere」,並在以AI為核心的雲端服務商「CoreWeave」準備今年上市之際,加碼對其投資。今年9月,輝達表示有意向OpenAI投資高達1,000億美元,而該新創公司則承諾至少部署10吉瓦的輝達產品。雙方至今尚未宣布正式協議。同1個月,輝達也宣布,將在合作關係下向英特爾(Intel)投資50億美元。在AI加速晶片需求激增的背景下,Groq今年的營收目標為5億美元,這類晶片可用於加速大型語言模型完成推論相關任務。戴維斯表示,當輝達接觸Groq時,該公司並未尋求出售。報導補充,Groq成立於2016年,由一群前工程師創立,其中包括羅斯。他曾是Google張量處理單元(tensor processing unit,TPU)的創造者之一。TPU是這家搜尋巨頭所開發的客製化晶片,目前被部分公司視為輝達圖形處理器(graphics processing units,GPU)的替代方案。在2016年底向美國證券交易委員會(SEC)提交的初始文件中,Groq宣布完成1,030萬美元的募資,並列出羅斯與懷特曼(Douglas Wightman)為公司負責人。據悉,懷特曼是1名企業家,曾任職於Google X實驗室的「登月工廠」(moonshot factory)。根據其LinkedIn資料,懷特曼已於2019年離開Groq。Groq並非唯一在AI浪潮中嶄露頭角的晶片新創。AI晶片製造商「Cerebras Systems」原本計畫於今年上市,但在10月宣布完成超過10億美元募資後,撤回了首次公開募股(IPO)的申請。在向SEC提交的文件中,Cerebras表示「目前不打算進行該項公開發行」,但未說明原因。該公司發言人當時向《CNBC》表示,仍希望能儘快完成上市。Cerebras於2024年底申請IPO,當時正加速布局,試圖在為生成式AI模型打造處理器的市場上,與輝達正面競爭。
OpenAI資料中心完工延後?甲骨文反駁稱:所有里程碑如期推進
近日有報導指出,甲骨文公司(Oracle)將延後1年置2028年,為其主要客戶之一的OpenAI完成資料中心建設。對此,甲骨文於美東時間12日回應並反駁了這則報導根據《彭博社》(Bloomberg)12日的報導,延宕主因在於勞動力與材料短缺,消息來源為不具名人士。受此消息影響,甲骨文股價12日收盤下跌超過4%。對此,1名甲骨文發言人透過電子郵件向《CNBC》表示:「在協議簽署完成後,場址選擇與交付時程均與OpenAI密切協調並共同議定。任何為履行合約承諾所需的場址均未出現延誤,所有里程碑皆仍按計畫推進。」該名發言人並未具體說明何時將為OpenAI啟用雲端運算基礎設施。OpenAI曾在9月表示,已與甲骨文達成1項為期5年、總價值超過3,000億美元的合作關係。「我們與OpenAI的關係良好,」甲骨文新任命的2位共同執行長之一馬古爾克(Clay Magouyrk)在10月的1場分析師會議上表示。成立已有48年的甲骨文,過去主要透過資料庫軟體與企業應用程式的銷售成長。如今,其雲端基礎設施業務已貢獻超過1/4的營收,但在超大規模雲端服務供應商(hyperscaler)中,甲骨文的規模仍小於亞馬遜(Amazon)、微軟(Microsoft)與谷歌(Google)。為了因應預期中的運算容量需求,OpenAI也對其他公司作出承諾。輝達(Nvidia)於9月表示,已與OpenAI簽署意向書,將為這家位於舊金山的人工智慧新創公司部署至少10吉瓦的輝達設備。該計畫的第一階段預計於2026年下半年展開。輝達與OpenAI在9月的聯合聲明中表示,雙方「期待在未來幾週內敲定這一新階段策略夥伴關係的細節」。然而,迄今尚未發布任何正式公告。輝達在11月的1份文件中指出,「無法保證我們將就OpenAI相關機會簽署具約束力的最終協議。」長期以來,OpenAI一直仰賴輝達的圖形處理器(GPU)來運作ChatGPT與其他產品,現在也正與博通(Broadcom)合作,評估設計客製化晶片的可能性。博通執行長陳福陽(Hock Tan)11日在法說會上,說明了這項於10月宣布的OpenAI合作案時程。博通與OpenAI均表示,雙方已簽署1份條款清單(term sheet)。「更像是2027年、2028年、2029年,總計10吉瓦,那是我們與OpenAI討論的內容,」陳福陽在博通的財報電話會議中表示,「我稱之為1種協議,1種對於我們未來方向的共識,對象是1位備受尊敬且極具價值的客戶OpenAI。但我們預期2026年的貢獻不會太多。」OpenAI對此拒絕發表評論。
博通財報亮眼股價仍重挫11%!AI熱潮動搖科技股全面走弱
博通(Broadcom)的季度財報與前景預測遠遠超越華爾街預期,但這仍無濟於事。因投資人紛紛撤離人工智慧(AI)相關交易,這家晶片製造商的股價於美東時間12日重挫11%,創下1月以來最糟表現。甲骨文(Oracle)股價也下跌4.5%,前1天在公布財報後已暴跌10%。此外,AI運算製造圖形處理器的領導業者輝達(Nvidia)與超微(AMD),股價也分別下跌約3%與5%。據《CNBC》報導,AI今年一直是股市與整體經濟的主要推動力,因此任何負面情緒都可能造成深遠影響。那斯達克12日跌約1.69%,標普500指數下跌1%。受衝擊最為嚴重的,是與AI基礎設施最緊密相關的公司。隨著超大規模雲端服務業者(hyperscalers)擴建資料中心,以滿足其所描述對高運算需求的AI服務「永無止境的需求」,AI基礎設施產業持續擴張。博通為許多大型科技公司打造客製化晶片,其市值過去2年幾乎每年都翻倍,並於2025年再度上漲。日本前5大證券公司之一「瑞穗證券」(Mizuho)分析師拉克許(Vijay Rakesh)在12日接受《CNBC》「Squawk on the Street」節目訪問時表示:「這檔股票今年迄今已上漲75%到80%。現在你看到的是一些回檔。我們會在這波拉回時買進。」瑞穗將博通股票的目標價從435美元上調至450美元。該股12日收於360美元以下。拉克許說:「這裡依然是成長所在。他們仍然是Google整個硬體架構的重要供應商,也是Meta、Anthropic,甚至未來OpenAI的主要供應商。」博通本季度營收成長28%,主要受到AI晶片銷售大增74%推動,總額達180.2億美元,超過倫敦證券交易所(LSEG)統計的分析師平均預估174.9億美元。經調整後的每股盈餘1.95美元,也高於市場預估的1.86美元。投資人擔憂的1項因素是,至少在短期內,毛利率因前期成本上升而面臨下降。財務長史皮爾斯(Kirsten Spears)在財報電話會議中表示,部分AI晶片系統的「毛利率將會降低」,因公司必須購買更多零件來生產伺服器機架。博通也表示,未來18個月內,公司擁有高達730億美元的AI訂單積壓,其中包含來自Anthropic高達210億美元的訂單,而博通在11日首度揭露該公司為其重要客戶之一。儘管OpenAI因10月宣布的數十億美元協議而備受期待,但博通執行長陳福陽11日晚間告訴投資人:「我們不預期在2026年有太多貢獻。」投資機構「伯恩斯坦」(Bernstein)分析師拉斯貢(Stacy Rasgon)在12日的報告中指出,「AI焦慮」正使博通股價下滑。但他在報告中建議買進該股,並上調目標價,「坦白說,我們不確定還能要求什麼,因為公司的AI故事不僅持續超出預期,而且還在加速發展。」甲骨文則面臨更嚴重的質疑。該股現已較9月創下的歷史高點下跌超過40%。儘管公司在10日公布的財報中盈餘優於預期,但營收不如預期,而投資人對公司未能提供更多關於如何為其龐大、且迄今已累積大量債務的擴張計畫籌措資金的細節感到失望。投資於資料中心以提供雲端AI服務的「CoreWeave」,12日也大跌10%,自6月觸頂以來市值已蒸發超過一半。
黃仁勳榮登《金融時報》最重要人物榜 獲讚「押上輝達」奠定AI基礎
英國《金融時報》(Financial Times)日前公布今年具有重要影響力的25位人物名單。Nvidia(輝達)執行長黃仁勳,以及韓裔美籍企業家、里昂奧林匹克女足主席康蜜雪(Michelle Kang)均入選。其中,黃仁勳因帶領輝達憑藉圖形處理器(GPU)成為AI時代的標準晶片,並使公司成為AI基礎建設生態系核心企業,而獲得高度評價。為黃仁勳撰寫推薦語的OpenAI執行長阿特曼(Sam Altman)表示,「黃仁勳很早便堅信新型運算架構的未來,並將整個輝達押上這項願景,奠定了今日我們所見卓越數位智能的基礎。」他補充,「更令人欽佩的是他如何真正實現這個願景」,並指黃仁勳擁有「深刻的技術洞察力、不懈的推動力,以及以長遠視野投入基礎建設的堅定承諾」。名單中也包括康蜜雪,她是創立醫療IT企業Cognizant的韓裔美籍企業家。她近年專注於女子足球產業,陸續收購多支女子職業球隊。自2022年2月收購美國NWSL華盛頓精神隊起,她又於2023年買下英格蘭女子冠軍聯賽(二級聯賽)的倫敦城母獅隊及法國里昂奧林匹克女足,目前皆由她經營。美國前總統柯林頓(Bill Clinton)之女、柯林頓基金會副主席切爾西(Chelsea Clinton)在推薦語中表示,「每一次投資球隊時,康蜜雪都看見了他人忽略的事實:女子運動是一門成長中的產業,而非慈善項目」,並強調「她正在改寫成功的公式,證明投資女性從來不是賭注,而是必勝。」此外,白宮幕僚長威爾斯(Susan Summerall Wiles)、比亞迪全球副總裁李柯、紐約市長當選人曼達尼(Zohran Mamdani)、PayPal與Palantir創辦人泰爾(Peter Thiel)、高爾夫球名將麥克羅伊(Rory McIlroy)及演員珍芳達(Jane Fonda)等人,也都名列這次的「年度人物」。《金融時報》表示,入選者是在政治、商業、媒體、藝術與體育領域,以才華、發現、創意與行動正在改變世界的人物。
華為新技術輝達早有同款? 切分多方算力資源
華為21日發表了革命性的AI容器軟體Flex:ai,同步在魔擎社群開源。而輝達(Nvidia)早在2024年以7億美元收購的以色列 AI 基礎設施公司Run:ai,其核心產品正是具備類似功能的軟體平台。與輝達不同的是,輝達只能綁定自家算力卡,華為Flex:ai透過軟體創新,可對輝達、昇騰以及其他第三方算力資源實現統一管理與高效利用,有效屏蔽不同算力之間的差異,為AI訓練與推理提供更高效的資源支持。Flex:ai透過算力切分技術,將單張圖形處理器(GPU)或神經網路處理器(NPU)算力卡切分為多份虛擬算力單元來彈性調度使用,切分粒度精細至10%,並可讓算力資源平均利用率提升30%。華為公司副總裁周躍峰表示,傳統容器技術的建構時間已無法完全滿足AI工作負載需求,AI時代需要真正的AI容器。其次是傳統容器主要針對CPU、內存等通用資源進行管理與調度,無法對GPU/NPU智慧調度,導致很小的AI任務也得獨佔整張算力卡。最後是傳統容器以固定分配、通用調度為主,而AI工作負載需要以「任務完成效率」為目標,感知不同任務特性,實現動態彈性資源分配。周躍峰表示,Flex:ai將在發表後同步開源在魔擎社區中。Flex:ai將與華為此前開源的AI工具共同組成完整的ModelEngine開源生態。
亞馬遜攜手OpenAI簽380億美元合作案 AI熱潮帶動那斯達克勁揚
美國股市美東時間3日再度掀起人工智慧(AI)交易熱潮,帶動以科技股為主的那斯達克綜合指數(Nasdaq Composite)上揚。投資人持續湧入AI概念股,推升多檔科技巨頭股價,並引發新一輪的市場樂觀情緒。據《CNBC》報導,那斯達克綜合指數當天上漲0.46%,收於23,834.72點;標準普爾500指數(S&P 500)上漲0.17%,報6,851.97點。相較之下,道瓊工業平均指數(Dow Jones Industrial Average)表現疲弱,下跌226.19點或0.48%,收於47,336.68點。市場焦點聚集在所謂「科技7巨頭」(Magnificent Seven)之一的亞馬遜(Amazon)。該公司股價在宣布與人工智慧新創公司OpenAI達成總額高達380億美元的合作協議後,勁揚4%。根據協議內容,雙方將運用數十萬顆輝達(Nvidia)圖形處理器(GPU)作為基礎,推動AI技術開發與雲端運算服務。晶片股亦全面走強。資料中心公司Iren宣布與微軟(Microsoft)簽署1項多年期、總值97億美元的合約,為微軟提供Nvidia最新款GB300 GPU運算資源。消息公布後,Iren股價大漲11%,微軟也隨之受益。美光科技(Micron Technology)上漲近5%,領漲晶片族群;輝達股價續漲2%;半導體ETF「VanEck Semiconductor ETF(SMH)」亦上揚近1%。微軟同日宣布,已獲得川普政府(Trump administration)核發的出口許可,允許輝達向阿拉伯聯合大公國(United Arab Emirates,UAE)出口AI晶片。輝達並透露,至2029年底,公司在阿聯酋的總投資將達到152億美元,顯示中東市場在AI戰略佈局中的重要性正快速提升。儘管AI概念股持續推升大盤,但整體市場的廣度依舊偏弱。當天標普500成分股中,超過300檔個股收跌。分析師指出,這種「少數巨頭撐盤」的現象已持續多月,即使AI相關企業帶動整體指數上漲,但大多數股票仍表現低迷。D.A. Davidson公司科技研究主管盧里亞(Gil Luria)接受《CNBC》訪問時指出:「市場今天在獎勵那些AI領域的關鍵玩家,例如輝達(Nvidia)、微軟(Microsoft)、谷歌(Google)與亞馬遜(Amazon),以及像帕蘭提爾(Palantir)這樣的公司。」他進一步說明:「這些企業正引領AI的方向,也幾乎攫取了整個產業的主要價值。他們不僅擁有足夠現金建構自有的AI運算能力,還能透過租賃『新雲端』(neoclouds)與資料中心的資源,擴大他們的服務版圖。」華爾街目前延續上週的漲勢,標普500與道瓊指數在10月分別上漲2.3%與2.5%,那斯達克更強勁上漲4.7%。分析師指出,這波漲勢主要來自AI投資熱潮延續,以及美中貿易緊張情勢出現緩和跡象。根據數據公司FactSet統計,已有超過300家標普500成分公司公布第3季財報,其中超過8成業績優於市場預期。本週還將有百餘家公司公布財報,包括與AI相關的帕蘭提爾與超微半導體(AMD)。展望11月,市場或將受惠於「季節性效應」。根據《股票交易年鑑》(Stock Trader’s Almanac)統計,標普500在歷史上11月平均上漲1.8%,為全年表現最強的月份之一。
市值逼近5兆美元!輝達成AI霸主 卻卡在美中貿易戰夾縫中
在全球人工智慧浪潮推動下,總部位於加州聖塔克拉拉(Santa Clara,California)的輝達(Nvidia)已成為AI晶片領域的絕對巨擘,市值逼近5兆美元。但這份成功,也讓輝達深陷美中貿易衝突的核心。輝達的圖形處理器是包括ChatGPT開發商OpenAI在內的大型資料中心的主要運算核心,但這些高階晶片如今已被視為美國與中國博弈的談判籌碼。根據《CNN商業》報導,美國總統川普(Donald Trump)自4月祭出全面關稅後,又將AI技術納入國安範疇,對中國祭出出口限制,輝達的H20晶片也在管制清單之列。D.A.Davidson公司科技研究主管盧里亞(Gil Luria)估計,輝達過去約有25%的GPU銷往中國,這讓公司一度成為北京和華府角力的夾心餅乾。盧里亞直言,輝達正被卡在「兩個大問題」之間:一是貿易爭端,二是人工智慧被升格為國家安全戰略。執行長黃仁勳(Jensen Huang)則持不同看法。他認為,嚴苛的出口禁令反而會刺激中國自行開發替代產品。輝達的晶片如今幾乎是AI產業的骨幹。紐約大學史登商學院(NYU Stern School of Business)教授桑達拉拉詹(Arun Sundararajan)指出,輝達等於替所有AI開發者鋪設了基礎架構,導致需求持續爆炸成長。公司9月宣布,將對OpenAI投資高達1000億美元,並於2026年底前供應資料中心晶片。與此同時,OpenAI也選擇採用6吉瓦的超微(AMD)晶片運算,顯示競爭態勢日益激烈。而目前美國白宮在限制與開放間不斷搖擺。7月,美國商務部長盧特尼克(Howard Lutnick)表態,應讓中國持續接觸美國技術,才能「讓開發者上癮」。8月,川普批准協議,允許輝達與超微向中國出口部分晶片,但條件是來自中國的銷售額必須上繳15%給美國政府。即便如此,中國不滿情緒升高,隨即反制擴大對美國晶片的限制。川普更在Truth Social宣布,將自11月1日起對中國徵收100%關稅。同時,《紐約時報》(New York Times)披露,美國商務部正在調查輝達的客戶、新加坡Megaspeed是否替中國繞道取得技術。但輝達公開回應稱,內部檢查未發現違規,並強調該公司運作符合出口規範。輝達的H20晶片近期也被認為推動了中國先進AI模型DeepSeek的進展,該模型在矽谷發表時引起轟動。桑達拉拉詹分析,即便美國持續收緊限制,中國仍可能透過黑市或第三國轉售取得晶片,而過度封鎖或許會促使北京加快自主創新的腳步。黃仁勳在輝達的角色,讓他與公司一同被推上全球貿易與科技競賽的前線。布魯金斯學會(Brookings Institution)資深研究員、加州大學洛杉磯分校(UCLA)教授維拉塞尼奧(John Villasenor)形容,能將一家不起眼的新創帶到今日的規模,是極為罕見的成功。眼下,輝達的每一步,不僅影響股市與AI產業,更被視為美中科技對抗中的核心戰場。
OpenAI入股10%達成晶片供應合作 AMD股價盤前飆漲34%
根據《美聯社》報導,半導體製造商AMD與人工智慧公司OpenAI宣布達成一項合作協議,AMD將向OpenAI提供其高效能運算晶片,以強化其AI基礎建設。這項協議內容指出,OpenAI將獲得選擇權,可購得AMD多達10%的股份。根據合約條款,OpenAI將購買AMD下一代高效能圖形處理器系列——InstinctMI450,該晶片預計於2026年問世。協議進一步規定,AMD將供應總計6吉瓦(gigawatt)的運算能量,用於支援OpenAI所謂的「下一代」AI基礎架構,其中首批1吉瓦的晶片計畫於2026年下半年部署。此外,AMD向OpenAI發出認股權證,准許其購買多達1.6億股AMD普通股,約占該公司流通股數的10%。該認股權證將根據雙方事先協議的里程碑條件與股價目標分期行使。消息公布後,AMD股價大幅上漲。根據報導,AMD股價盤中曾大漲超過34%。同一日,作為市場領頭羊的NVIDIA股價則下滑約1%。OpenAI執行長奧特曼(SamAltman)表示,此次合作是構建未來AI運算能力的重要里程碑,AMD在高效能晶片領域的領先地位將幫助OpenAI加速其AI進展與應用普及。對於AMD而言,此合作有助其從輝達(NVIDIA)的市場主導地位中分一杯羹,也標誌著OpenAI致力於縮減對單一晶片供應商的依賴。在此之前,OpenAI與NVIDIA也曾宣布一項高達1000億美元的合作案,旨在部署至少10吉瓦的AI運算資源。分析人士指出,與其說OpenAI與AMD的合作旨在「搶奪」NVIDIA的市占,不如說是彰顯該產業對算力需求的驚人程度與供應鏈多元化的必要性。
老黃新朋友1/兩年前被法人罵笨!群聯打進N體系 一招靈活變身「補教業+電子業」
「我去年底就判斷輝達今年會主打Edge AI,結果黃仁勳真的講了,我算是賭對方向。」群聯(8299)創辦人暨執行長潘健成今年初語帶得意地說,果不其然,輝達執行長黃仁勳去年底提出邊緣AI的重要,今年5月台北COMPUTEX上進一步宣示,「AI將擴展到每一個終端」,他身後萬眾矚目的供應鏈背板上,也首度出現台灣記憶體模組廠群聯與威剛(3260)。群聯6月6日剛交出的5月財報,營收56.9億元,年增6%。這兩年力推的企業平價導入AI的平台方案「aiDAPTIV+」,以及儲存策略配搭的自家固態硬碟(SSD),也開花結果,撐起營收獲利重擔。「過去記憶體供應鏈幾乎由南韓與美國大廠主導,這次終於寫進了台灣名字,對本地產業而言意義非凡。」一位半導體設備通路業者告訴CTWANT記者,輝達要加速AI落地,AI運算逐步走向終端設備,讓台灣記憶體模組廠角色因而升級。其實,2年前,群聯還一度被視為無緣AI浪潮。「群聯電子是做NAND的產業,兩年前法人還罵我們笨,為什麼不去蹭AI題材?」潘健成5月中旬在一場探討AI的論壇上,回憶起那段時間苦笑地說。所謂NAND Flash,是一種非揮發性記憶體,具有高密度、低成本、可重複寫入等特性,廣泛應用於手機、筆電、USB隨身碟等儲存裝置中;而SSD(固態硬碟)則是以NAND為核心的儲存產品,相較傳統硬碟具有速度快、抗震性強等優勢。群聯長年深耕NAND控制IC與模組市場,並未隨風炒題材,而是靜靜尋找真正適合切入AI的實用場景。群聯的全新固態硬碟(SSD)產品「aiDAPTIV+」,能夠在伺服器內透過群聯自己開發的軟體,將SSD模擬為記憶體使用,解決AI運算中記憶體容量的問題。(圖/翻攝自群聯電子臉書)他們的解法是從後訓練(post-training)階段切入,潘健成回憶,當時,群聯工程師團隊在以多個大型語言模型(LLM),如LLaMA、千問、DeepSeek等LLM實測,發現模型答對率僅約八成,「問五題錯一題,根本無法用在邊緣應用」,唯有後訓練才能讓模型在地端變實用,據此確認,資料儲存才是AI落地的下一哩路!一般企業導入AI模式,是先將資料「餵給」LLM,經過運算推論(inference)產生大量資料,最後存入儲存裝置。雖然地端AI邊緣運算遠不及雲端巨量算力需求,但訓練LLM仍需高度算力GPU(圖形處理器)搭配超大容量的HBM(高頻寬記憶體),GPU與HBM價格高昂,一名資訊服務龍頭企業的高層告訴CTWANT記者,「企業導入AI的預算常從300萬跳到2000萬元不等」,中小企業難以負荷。潘健成領著群聯技術團隊,從擅長的儲存裝置切入。他鮮活形容,「破解Out of Memory(記憶體不足)瓶頸,就是『騙』GPU,騙得過去,就過了!」只要利用自家開發的固態硬碟(SSD),搭配常規的繪圖卡,來取代昂貴的HBM,順利完成AI任務。群聯自家研發的企業級SSD(固態硬碟),已經通過美國客戶的認證,可望隨著美國太空總署(NASA)的載人太空任務Artemis二號,2025年9月奔向月球。(圖/翻攝自群聯官網)此外,這項技術也同步整合入NVIDIA Jetson平台,應用擴及機器人、智慧監控、醫療邊緣裝置等場域。潘健成形容,「我們不是要做最強,而是讓企業用得起、買得下、修得了AI系統。」群聯在邊緣AI上的技術布局,今年終獲黃仁勳公開背書,訂單前景也備受期待。潘健成在COMPUTEX自家攤位上親口證實,群聯的AI儲存解決方案,已正式納入輝達供應鏈體系;至於aiDAPTIV+是否進一步整合進入輝達平台,他笑著回應,「快了」。雙方雖未揭露合作細節,但從各方關注與洽談反應看來,群聯的地端AI解決方案已成功引起AI開發商與系統整合商的注意。「現在半導體產業是『N型結構』,好的那一塊都是NVIDIA(輝達)體系,跟他沒有關係的都很慘!」潘健成年初才說的話,不到半年就打入輝達體系。一位IC設計業人士告訴CTWANT記者,「現在市場看得很清楚,誰站在黃仁勳那一邊,誰就站在有光的那一面。」
輝達GTC大會成科技股「轉捩點」? 黃仁勳演講3大重點一次看
輝達(Nvidia)14日股價勁揚5.27%,至每股121.67美元。輝達執行長黃仁勳舉辦的 GTC 大會有望成為股價進一步回升的催化劑,預計透露有關下一代AI圖形處理器Rubin的細節,以及Blackwell系列AI晶片的後續產品。輝達將於下週舉辦其年度GPU技術大會GTC 2025,時間爲美東時間3/17至21。此次活動將有1000多場會議、2000名演講者和近400家參展商。Waymo、OpenAI、NovoNordisk(NVO)、Rivian(RIVN)、Meta(META)、微軟和波士頓動力等公司代表將在活動中發言。據輝達官網顯示,黃仁勳的演講主軸將鎖定「AI 代理」、「機器人技術」,以及「加速運算」3大重點產品的未來發展。而輝達將以美國天文學家Vera Rubin的名字來命名其下一代AI晶片平台。「Vera」表示中央處理器,而「Rubin」為新的GPU。富國銀行分析師根據歷史數據指出,在GTC大會召開當週及會後兩週內,輝達股價表現顯著優於費城半導體指數,分別超出7個和2.4個百分點,報酬率分別達到6.4%和4.5%。市場將密切關注其最新進展,以評估是否足以重振投資者信心並推動股價再次跑贏大盤。儘管輝達在全球AI霸主地位無可動搖,但在川普關稅與美國近期經濟衰退的威脅下,華爾街持續拋售科技股,而輝達也未能逃過厄運,市值已失守3兆美元大關。Wedbush 分析師 Dan Ives 在本週的報告中表示,本次 GTC 大會可能成為科技股的「轉捩點」,因為市場將重新聚焦於 AI 革命與未來龐大的科技支出。
馬斯克xAI將發布「非常強大」Grok 3 外媒:向戴爾下50億美元伺服器大單
根據外媒報導,戴爾(Dell)14日股價收漲 3.75%,因有消息傳出,億萬富翁馬斯克(Elon Musk)創立的人工智慧新創公司 xAI 正準備與戴爾達成協議,以 50 億美元向該硬體製造商購買AI伺服器。馬斯克13日也在杜拜舉行的第12屆世界政府高峰會(WGS 2025)上宣布,xAI開發的Grok 3 AI模型將在未來1至2週發布。馬斯克稱Grok 3聰明得嚇人,因其有非常強大的推理能力,在測試中,Grok 3的表現好於現在已經發布的任何產品,而現在已經進入發布的最後階段。根據《彭博社》引述消息人士指出,這批設備將搭載輝達 (Nvidia)的 GB200 圖形處理器(GPU),並預計於今年內交付。這些 GPU將用於訓練與運行先進的AI模型,為xAI的產品提供計算能力。近來,許多資料中心設備製造商受惠於 AI 伺服器需求成長,推動業績上揚。據《CNBC》報導,戴爾2024年11月曾表示,其單季 AI 伺服器訂單需求達36億美元。該公司最新一季總營收達 243.7 億美元,較去年同期成長 10%。去年12 月,xAI宣布完成60億美元的融資。馬斯克旗下這家與OpenAI競爭的公司,籌集資金的主要目的之一為用於購買GPU。而xAI推出的AI聊天機器人Grok目前已可在馬斯克的社群平台X 上使用。
抱緊輝達股票11年不賣!日男「收益暴增340倍」 爽賺5億日圓
人工智慧(AI)晶片龍頭輝達(NVIDIA),隨著生成式AI和數據中心需求大增,其股價在本月6日創下收盤新高,收於149.43美元,超過了去年11月7日的148.88 美元歷史收盤最高點。對此,就有一名日本網友分享,自己持有輝達股票長達11年,並藉此獲利5億日圓(約新台幣1億499萬元),引起網民熱議。根據韓媒《韓國經濟》、《fnnews》報導,一位日本網友近日在社群平台X曬出一張輝達股票帳戶的認證照片,並表示自己在2013年投資了150萬日圓(約新台幣31萬元),以當時0.56美元的價格購買輝達的股票。截至本月6日,輝達的股價已上漲至149. 43美元,也就是說,該名網友的收益在11年間增長了約340倍,利潤達5億日圓(約新台幣1億499萬元)。該名日本網友也透露,自己只是個喜歡輝達的工程師,在10年前,他就看中輝達圖形處理器(GPU)的潛力,因此他決定跟隨輝達,為其進行投資並長期持有,不隨意拋售,「輝達不僅在消費者市場領先其他公司,包括伺服器、CUDA等軟體包方面,也都是業界佼佼者,如同我親眼所見,它有潛力成為人工智慧領域的領頭羊」。報導指出,輝達的股價在2015年之前其實還未達到1美元,自2018年開始,隨著加密貨幣市場升溫,股價才大幅上漲。2020年11月股價飆到14美元,2021年疫情期間更上升至32美元。儘管在2022年9月,輝達股價一度跌至12.52美元,但這位日本網友不曾放棄,堅定持有輝達的股票,如今也看著輝達股價一路上升,並在2024年11月突破147美元。
輝達公司涉違反大陸「反壟斷法」 市場監管總局:已立案展開調查
大陸近日指控輝達公司涉嫌違反《中華人民共和國反壟斷法》及《市場監管總局關於附加限制性條件批准輝達公司收購邁絡思科技有限公司股權案反壟斷審查決定的公告》(市場監管總局公告(2020)第16號)。對此,大陸市場監管總局已依法對輝達公司開展立案調查。綜合陸媒報導,輝達收購邁絡思股權案,成為國家市場監督管理總局發布的2020年反壟斷執法十大典型案例之一。2019年3月10日,交易各方簽署協議,輝達擬收購邁絡思全部股份。集中完成後,邁絡思成為輝達的全資子公司。輝達收購邁絡思股權案,具體包括圖形處理器加速器、專用網路互聯設備等5個相關商品市場。2019年4月24日,國家市場監督管理總局收到上述收購的經營者集中反壟斷申報。2020年4月16日,國家市場監督管理總局官網發文稱,經審查,國家市場監督管理總局決定附加限制性條件批准此項經營者集中。國家市場監督管理總局認為,上述事項集中對全球和中國GPU加速器、專用網路互聯設備、高速以太網適配器市場,可能具有排除、限制競爭效果。2020年4月,國家市場監督管理總局依法附加限制性條件批准上述事項。據了解,邁絡思於1999年在以色列設立,在美國納斯達克證券交易所上市,主要從事網路互聯產品的研發、生產和銷售。輝達則於1998年在美國設立,在納斯達克證券交易所上市,主要從事圖形處理器的研發、生產和銷售。
AI大牛股Palantir和戴爾將納入標普500指數 股價雙雙飆升
標普道瓊斯指數公司6日宣布從23日開始,Palantir和戴爾(Dell)將躋身為標普500成份股,為今年來繼美超微(Supermicro)和CrowdStrike之後,再有兩檔科技股被納入標普500指數,反映科技業尤其AI公司正擴大金融市場影響力Palantir將在指數裡取代美國航空,股價6日盤後大漲近8%至32.71美元,今年來累漲83%。戴爾將取代網路商店平台Etsy,盤後漲5%至107.09美元,今年來累漲逾36%。儘管美股尤其科技股6日大跌令人擔心美股9月魔咒之際,這兩檔股票盤後仍大漲,是因為被納入標普500指數後,許多投資公司和基金為因應成份股變化,必須買進來重新調整投資組合。在15年前成立的大數據分析軟件商Palantir去年股價飆漲167%,今年來進一步擴大與生成式AI深度融合的事業。其AI平台推動第二季營收年增27%,連續四個季度成長,淨利從去年同期2,790萬美元飆增至1.356億美元,讓人看好能受惠全球對其生成式AI工具需求增長,被市場形容為AI大牛股。Palantir執行長卡普(Alex Karp)以支持政府和軍事機構管理數據聞名。他5月受訪時表示其公司致力於「尋找隱藏的東西」,對未來晉身標普500成份股持樂觀看法。戴爾過去曾經是標普500成份股,其創辦人麥克戴爾(Michael Dell)在2013年主導公司私有化交易而退出該指數。直到2018年戴爾重新上市,這次再為指數成份股,標示其進一步鞏固金融市場上的地位。戴爾自2019年以來幾乎每季都呈現獲利,其股價去年大漲90%,主要是也搭上AI行情的順風車。其投入AI伺服器市場上並採用輝達的圖形處理器,讓今年來相關業務呈現大幅成長,截至8月2日止當季的AI伺服器營收年增23%至32億美元。標普全球表示這次新增的成份股,能更充份地反映出美國高市值股票的影響力。像Palantir和戴爾的市值各自超過670億美元和720億美元,均遠超標普500成份股的市值中位數335億美元。
「輝達」遭美司法部發傳票調查 股價狂跌近10%
美國司法部近日對AI龍頭企業輝達(Nvidia)發出正式傳票,調查該公司是否違反反壟斷法。消息曝光後,輝達股價也暴跌近10%,並連帶拖累美股市場。根據《路透社》的報導,美國反壟斷官員正在審查輝達是否使其客戶難以轉向競爭對手的圖形處理器(GPU)或其他支持AI的晶片。官員擔心,輝達正在增加客戶轉向其他供應商的難度,並對那些多元化採購AI晶片的買家進行「懲罰」。根據業界估計,輝達的資料中心AI晶片市場占有率已超過80%,且其頂級客戶包括了微軟、谷歌母公司Alphabet、Meta、亞馬遜和特斯拉等雲端服務提供商及網路巨頭。這次調查主要關注輝達在GPU市場的壟斷地位,特別是該公司是否對雲端服務提供商施壓,要求他們購買多項產品,或對採購競爭對手晶片的客戶收取更高的價格。報導中指出,司法部此前已向企業發送了調查問卷,現在則是發出具有法律約束力的傳票,要求企業提供相關資訊,且其他晶片公司也收到了相關傳票。輝達的發言人則表示,「輝達憑藉實力取得成功,這體現在我們的基準測試結果和對客戶的價值上,客戶可以選擇最適合自己的解決方案」,強調其業務運作符合競爭法規。美國司法部對輝達發出正式傳票的消息曝光後,輝達股價也暴跌近10%,並連帶拖累美股市場,美股4大指數收黑,道瓊工業指數3日重挫626.15點,跌幅達1.51%,收於40,936.93點;標普500指數下跌119.47點,跌幅為2.12%,收於5,528.93點。以科技股為主的那斯達克指數大幅下跌577.33點,跌幅達3.26%,收在17,136.30點;費城半導體指數更是大跌399.82點,跌幅高達7.75%,收於4,759點。
AI新勢力1/「吃電怪獸」引爆能源話題 這小子挑戰教主「用這方法」就不需新核電
首場「國家氣候變遷對策委員會」8月8日啟動,4小時的能源議題討論中,核電從「反核」或「擁核」是非題,轉為「多選題」,擔任副召集人的和碩董事長童子賢以深知企業購買綠電苦楚而力挺核電,尤其台灣經濟邁入AI新世代,「沒電力」就等於「沒國力」。童子賢挺核主張,關鍵源自ChatGPT問世掀起全球AI人工智慧巨浪,輝達執行長黃仁勳被冠上「AI教父」,然而獨霸AI晶片市場的輝達GPU,跑出超級算力也極度耗電,成了「吃電怪獸」,科技大咖急尋解方。不過,「『CPU+GPU+NPU』能一舉解決AI設備又貴又耗電的痛點。」這話出自43歲的耐能(Kneron)創辦人暨執行長劉峻誠。凱米颱風襲台前夕,台北市電腦公會7月23日舉辦「迎向AI新時代-從COMPUTEX看台灣資通訊產業的下一步」記者會,CTWANT記者觀察,現場座無虛席,賓客不畏風雨,就是為了聽童子賢的AI與核電看法。記者會上,主持人做球給童子賢,將話題轉向能源議題。童子賢滔滔不絕地解釋,台灣去年用電2821.4億度,3、4年後就會超過3000億度,若一度發電成本差1元,一年就要多花三千億元,「如果搭配3成綠能、3成核能,以及4成火力發電,這樣經濟效率較高的排列組合,省下經費就可以彌補健保的缺口、高等教育跟研究的需求,這樣更有意義。」「沒電力就沒算力,沒有算力就沒有國力!」童子賢慷慨激昂地開出解方,必須要重新考慮核電,其他大老也連連贊同時,輪到坐在最邊邊的第七位演講者,卻說出不同看法。「完整的(AI運算)系統應該是CPU+GPU+NPU」,而非單純用GPU跑AI,因為代價太大,用了NPU這樣的低功耗晶片後,「就不需要像童董事長一直在講的,甚至要蓋核電廠才有電力去支持這種運用。」劉峻誠一開口,竟然直球對決童子賢,台下引起一陣騷動。圖為氣象署第6代高速運算電腦,也建置GPU架構系統。(圖/報系資料照)不同處理器在AI系統中扮演不同角色,CPU(中央處理器)為電腦核心處理單元,負責執行和控制,處理基本運算和邏輯運算,GPU(圖形處理器)為了圖形和影像處理而生,擅長並行處理大量數據,隨深度學習興起,被廣泛應用於AI運算中,NPU(神經處理器)專為AI推理任務設計,能在低功耗情況下高效執行深度學習模型。在輝達GPU制霸下的AI算力有多耗電?國際能源總署(IEA)提到,使用Google搜尋網路,平均每次耗電0.3Wh,使用ChatGPT平均耗電2.9Wh,將近十倍。高盛證券預估,2023年至2030年間,全球AI資料中心對電力需求將增長160%,特斯拉執行長馬斯克甚至憂慮,未來兩年「晶片荒」將轉為「電力荒」。經濟部能源署也「保守估計」,在AI帶動下,我國用電量10年將增加32%,拉高到3641億度左右。據此,當各國及科技龍頭展開AI算力軍備競賽,巨資向輝達購買GPU,同時也面臨接踵而來的耗電與排碳問題。Supermicro美超微全球業務資深副總裁周政賢向CTWANT記者表示,AI運算要大量的電,部分是為了散熱,所以「液冷」技術開始受重視,畢竟「新設電廠在許多國家,都不是件容易的事。」IP矽智財大廠安謀Arm執行長瑞恩‧哈斯日前也表示,到2030年,AI資料中心會消耗美國電力20到25%,比現在的4%大幅增加,所以他們現正砸錢研究如何降低人工智慧技術的功耗。NPU業者劉峻誠給出另一個方向,「GPU其實不適合跑AI,因為他太貴、太耗電,台灣總不能到處都蓋核電廠。」「如果我們把NPU真正發揚光大,台灣就不會在AI時代只是個製造和代工業,是我們能真正掌握、自建專屬台灣且有影響力的AI。」AI時代需要大量電力,讓核電廠的存廢引發各界關注。(圖/CTWANT資料照)「年底有好幾家雲端大廠,已經非常明確要做『類NPU』架構,而且是國際的一線大廠,這事正在發生!」劉峻誠得意地向CTWANT記者說。事實上,英特爾去年推出的新款Core Ultra處理器晶片,測試20次AI圖像生成時發現,NPU執行任務要20.7秒,僅花CPU一半的時間,功耗更降低75%,只有10瓦,優於GPU的37瓦,整體效率提升7.8倍,若將NPU與GPU結合使用,處理時間更僅需11.3秒,最後推出結合三種模式的晶片。一位業內人士向CTWANT記者表示,這類型CPU+GPU+NPU的做法,會越來越普遍,雖然GPU的算力還是比較強,但應用在消費性電子產品上,NPU的省電優勢不容小覷,而輝達GPU獨霸的AI高算力系統,要如何擺脫吃電怪獸的桎梏,大家也拭目以待。