Tensor
」 Google 輝達 三星 NVIDIA AI
不滿意輝達晶片?《路透》:OpenAI正在尋求替代供應商
8名知情人士指出,OpenAI對輝達(NVIDIA)部分最新人工智慧晶片並不滿意,並且自去年起已開始尋求替代方案,特別聚焦高SRAM整合架構,以提升ChatGPT與Codex等產品回應效率。雙方原定的千億美元投資案也因產品路線調整而延宕,期間OpenAI接觸Cerebras與Groq等業者,輝達則迅速授權Groq技術鞏固版圖。據《路透社》(Reuters)報導,OpenAI策略轉向的細節首度曝光,焦點在於其日益重視用於執行特定人工智慧推論(inference)任務的晶片。所謂推論,是指人工智慧模型(例如支撐ChatGPT應用程式的模型)在回應使用者問題與請求時所進行的運算過程。輝達在大型人工智慧模型訓練晶片領域仍具主導地位,而推論則已成為新的競爭戰場。OpenAI及其他公司在推論晶片市場尋求替代方案,對輝達在人工智慧領域的主導地位構成重大考驗,而此時雙方也正處於投資談判之中。去年9月,輝達表示有意向OpenAI投資高達1,000億美元,該交易將使晶片製造商取得這家新創公司的股份,同時為OpenAI提供購買先進晶片所需的資金。《路透社》當時報導,該交易原預計數週內完成,然而談判卻拖延數月。在此期間,OpenAI與超微(AMD)等公司達成協議,採購可與輝達競爭的圖形處理器(GPU)。不過,1名知情人士指出,OpenAI產品路線圖的轉變,也改變了其所需的運算資源種類,進而使與輝達的談判陷入僵局。1月31日,輝達執行長黃仁勳淡化有關與OpenAI關係緊張的報導,稱相關說法「荒謬」,並表示輝達計畫對OpenAI進行大規模投資。輝達在聲明中表示:「客戶持續選擇NVIDIA用於推論,因為我們在大規模部署下提供最佳效能與總體擁有成本。」OpenAI發言人則在另1份聲明中指出,公司在其推論算力部署中絕大多數仍依賴輝達,且輝達在推論運算方面提供最佳的性價比。7名消息人士表示,OpenAI對於輝達硬體在處理某些特定問題時為ChatGPT使用者生成答案的速度並不滿意,例如軟體開發與人工智慧與其他軟體互動等場景。其中1名人士告訴《路透社》,OpenAI需要新硬體,未來可滿足其約10%的推論運算需求。2名消息人士指出,ChatGPT開發商曾討論與新創公司Cerebras與Groq合作,為更快速的推論提供晶片。但其中1名人士表示,輝達與Groq達成了1項價值200億美元的技術授權協議,使OpenAI與Groq的談判告終。晶片業高層指出,輝達迅速與Groq達成協議,似乎意在強化自身技術組合,以在快速變動的人工智慧產業中維持競爭力。輝達則表示,Groq的智慧財產權與其產品路線圖高度互補。在全球人工智慧爆炸性成長的過程中,輝達的圖形處理晶片非常適合用於訓練像ChatGPT這類大型人工智慧模型所需的大規模數據運算。然而,人工智慧的發展重心正逐漸轉向利用已訓練完成的模型進行推論與推理,這可能是人工智慧的新一階段,也促使OpenAI積極布局。自去年以來,OpenAI尋找GPU替代方案的重點在於那些在單一矽晶片上嵌入大量「靜態隨機存取記憶體」(SRAM)的公司。將盡可能多的昂貴SRAM壓縮至單一晶片,可為聊天機器人及其他人工智慧系統在處理數百萬用戶請求時帶來速度優勢。推論所需記憶體往往高於訓練,因為晶片在推論過程中需要花更多時間從記憶體中提取資料,而非單純進行數學運算。輝達與超微的GPU技術依賴外部記憶體,這會增加處理時間並降低使用者與聊天機器人互動的速度。其中1名消息人士補充,在OpenAI內部,這個問題在其程式碼生成產品Codex上尤為明顯。OpenAI近來積極行銷Codex,但部分員工將其弱點歸因於基於輝達GPU的硬體架構。1月30日與記者的電話會議中,執行長奧特曼(Sam Altman)表示,使用OpenAI程式碼模型的客戶「會對編碼工作的速度給予高度溢價」。他補充,OpenAI近期與Cerebras達成的協議,正是滿足此需求的方式之一,但對於一般ChatGPT使用者而言,速度並非同樣迫切。競爭產品如Anthropic PBC的「Claude」與Google的「Gemini」,則更多依賴Google自製晶片「張量處理單元」(Tensor Processing Units, TPUs)部署。TPU專為推論所需運算設計,相較於通用型人工智慧晶片(如輝達設計的GPU)可能具有效能優勢。知情人士指出,當OpenAI表達對輝達技術的保留態度後,輝達曾接觸包括Cerebras與Groq在內、專攻高SRAM晶片的公司,討論潛在收購。不過Cerebras拒絕收購提議,並於上月宣布與OpenAI達成商業合作。而Groq則曾與OpenAI洽談提供運算能力的協議,並吸引投資人有意以約140億美元估值為其募資。然而到了12月,消息人士表示,輝達以非獨家、全現金方式取得Groq技術授權。儘管該協議允許其他公司授權Groq技術,但在輝達挖角Groq晶片設計師後,Groq目前重心轉向銷售雲端軟體服務。
輝達斥資200億美元!收購AI新創「Groq」資產
美國私募股權與風險投資公司「Disruptive」執行長戴維斯(Alex Davis)表示,輝達(NVIDIA)已同意以現金200億美元(約合新台幣6,288億元)收購高效能人工智慧加速晶片設計公司「Groq」的相關資產。Disruptive主導了該新創公司今年9月的最新1輪融資。據《CNBC》報導,戴維斯指出,他的公司自2016年Groq成立以來,已在該公司投資超過5億美元,而這筆交易是在相當短的時間內敲定的。3個月前,Groq完成7.5億美元的募資,估值約為69億美元。該輪投資者包括貝萊德(BlackRock)與路博邁集團(Neuberger Berman),以及三星(Samsung)、思科(Cisco)、投資公司「Altimeter」與創投公司「1789 Capital」,其中美國總統長子小唐納川普(Donald Trump Jr.)為「1789 Capital」的合夥人之一。Groq於24日在官方部落格中表示,公司已「與輝達就Groq的人工智慧推論技術(inference technology)達成1項非獨家授權協議」,但未揭露交易價格。部落格文章續稱,隨著這項交易,Groq創辦人暨執行長羅斯(Jonathan Ross)、公司總裁馬德拉(Sunny Madra)以及其他高階主管,將「加入輝達,協助推進並擴展獲授權的技術。」Groq還補充,公司將持續以「獨立公司」身分運作,並由財務長愛德華茲(Simon Edwards)出任執行長。對此,輝達財務長克雷斯(Colette Kress)拒絕對這筆交易發表評論。戴維斯向《CNBC》表示,輝達將取得Groq的所有資產,但其尚在起步階段的Groq Cloud雲端業務並不包含在交易之中。Groq則表示,「GroqCloud將持續不中斷地運作。」這筆交易是輝達迄今規模最大的收購案。該晶片製造商過去最大的1筆併購發生在2019年,當時以接近70億美元的價格收購以色列晶片設計公司邁絡思(Mellanox)。截至10月底,輝達的現金與短期投資總額為606億美元,較2023年初的133億美元大幅增加。根據《CNBC》取得的1封寄給員工的內部電子郵件,輝達執行長黃仁勳表示,這項協議將擴展輝達的能力。他在信中寫道:「我們計畫將Groq的低延遲處理器整合進『NVIDIA AI工廠架構』(NVIDIA AI factory architecture),進一步延伸平台能力,以服務更廣泛的AI推論與即時工作負載。」黃仁勳補充:「儘管我們將延攬優秀的人才加入輝達,並授權使用Groq的智慧財產,但我們並未收購Groq這家公司本身。」輝達曾在今年9月策劃過1項類似但規模較小的交易。當時,該公司斥資超過9億美元,聘用AI硬體新創「Enfabrica」的執行長桑卡爾(Rochan Sankar)及其他員工,並授權使用該公司的技術。過去幾年,包括Meta、Google與微軟(Microsoft)在內的其他科技巨頭,也透過各種形式的授權交易,大舉投入資金以延攬頂尖AI人才。隨著手中現金水位快速上升,輝達近來大幅增加對晶片新創與整體生態系的投資。該公司已投資AI與能源基礎設施公司「Crusoe」、AI模型開發商「Cohere」,並在以AI為核心的雲端服務商「CoreWeave」準備今年上市之際,加碼對其投資。今年9月,輝達表示有意向OpenAI投資高達1,000億美元,而該新創公司則承諾至少部署10吉瓦的輝達產品。雙方至今尚未宣布正式協議。同1個月,輝達也宣布,將在合作關係下向英特爾(Intel)投資50億美元。在AI加速晶片需求激增的背景下,Groq今年的營收目標為5億美元,這類晶片可用於加速大型語言模型完成推論相關任務。戴維斯表示,當輝達接觸Groq時,該公司並未尋求出售。報導補充,Groq成立於2016年,由一群前工程師創立,其中包括羅斯。他曾是Google張量處理單元(tensor processing unit,TPU)的創造者之一。TPU是這家搜尋巨頭所開發的客製化晶片,目前被部分公司視為輝達圖形處理器(graphics processing units,GPU)的替代方案。在2016年底向美國證券交易委員會(SEC)提交的初始文件中,Groq宣布完成1,030萬美元的募資,並列出羅斯與懷特曼(Douglas Wightman)為公司負責人。據悉,懷特曼是1名企業家,曾任職於Google X實驗室的「登月工廠」(moonshot factory)。根據其LinkedIn資料,懷特曼已於2019年離開Groq。Groq並非唯一在AI浪潮中嶄露頭角的晶片新創。AI晶片製造商「Cerebras Systems」原本計畫於今年上市,但在10月宣布完成超過10億美元募資後,撤回了首次公開募股(IPO)的申請。在向SEC提交的文件中,Cerebras表示「目前不打算進行該項公開發行」,但未說明原因。該公司發言人當時向《CNBC》表示,仍希望能儘快完成上市。Cerebras於2024年底申請IPO,當時正加速布局,試圖在為生成式AI模型打造處理器的市場上,與輝達正面競爭。
Google晶片傳「奪大單」!輝達股價跳水仍發文恭喜:但我技術仍領先一代
美國科技巨擘Meta傳出正與Google洽談,計畫自2027年起在資料中心採用Google旗下的AI(人工智慧)晶片,相關支出可能高達數十億美元。外媒指出,此舉若成真,將使Google成為晶片龍頭輝達(Nvidia)的強力競爭者。消息一出,輝達股價25日一度重挫6%,最後收跌2.6%,不過輝達反而發文恭賀Google在AI領域取得成果,同時也強調自家領先業界一個世代。根據《路透社》、《CNBC》報導,雙方討論內容包括Meta最早於2026年向Google Cloud租用其自家開發的TPU(Tensor Processing Unit)晶片。這項策略代表Google可能首度將TPU開放給外部資料中心使用,擴大市場版圖,並直接挑戰目前主導AI運算的輝達GPU。部分GoogleCloud高層甚至推估,若策略順利,Google有機會搶下輝達每年逾10%的營收市占,價值亦達數十億美元。市場對消息反應熱烈,Google母公司Alphabet盤前股價一度上漲逾4%,若漲勢延續,有望推升其市值突破4兆美元。協助Google製造AI晶片的Broadcom股價也同步走揚約2%,相較之下,輝達股價則下跌約3%。而Meta是輝達最大客戶之一,2025年預估在AI相關硬體投資高達720億美元,因此若最終轉向採用Google晶片,將被視為Google的重大勝利。不過Alphabet、Meta與輝達均未對報導做出回應。近年企業在尋找輝達GPU以外的方案,使客製化AI晶片需求大幅成長。Google TPU也因多項大型合作案受到矚目,例如AI新創Anthropic日前就宣布擴大使用Google AI晶片,可達到百萬顆規模。Google也因雲端業務成長、股神巴菲特(Warren Buffett)旗下波克夏(Berkshire Hathaway)投資加持,以及最新AI模型Gemini3的正面評價,市場動能持續增強。然而,要撼動輝達約20年累積的CUDA生態系並不容易。全球超過400萬名開發者依賴輝達平台開發AI應用,使其地位難以被取代。面對市場對Google TPU崛起的討論,輝達25日於X(前 Twitter)上發文強調,其技術「仍領先產業一個世代」,並寫道「我們很高興看到Google在AI上取得成功,也持續供應GPU予Google。Nvidia是唯一能支援所有AI模型、並在各式運算環境中運作的平台。」輝達指出,自家最新一代Blackwell GPU在效能、彈性與通用性上皆優於Google的TPU這類為特定用途打造的ASIC晶片。分析師估計,輝達目前仍掌握全球90% AI晶片市場。儘管Google不直接販售TPU,但允許企業透過Google Cloud租用,並自行使用TPU訓練模型。本月Google發表的Gemini 3 AI模型,就是採用TPU訓練而成。Google也強調,市場對自家TPU及輝達GPU的需求都在加速成長,公司會持續支持兩條產品線。輝達執行長黃仁勳也在先前法說會上回應TPU競爭,指Google既是客戶也是合作夥伴,並強調Gemini模型同樣能在輝達GPU上運行。他透露與Google DeepMind執行長哈薩比斯(Demis Hassabis)保持聯繫,雙方都認同「以更多資料與更多晶片帶動更強大的AI」的產業趨勢依然成立,使輝達更看好未來晶片需求。
Google Pixel 10系列4機型齊發 「拍照指導」AI教你怎構圖
Google於21日舉辦記者會,正式宣布Pixel 10系列在台上市,這次共帶來4款新機,分別是Pixel 10、Pixel 10 Pro、Pixel 10 Pro XL,以及摺疊手機Pixel 10 Pro Fold,全面涵蓋不同層級的需求。Pixel 10、Pixel 10 Pro與Pixel 10 Pro XL左起依序為Pixel 10 Pro Fold、Pixel 10與Pixel 10 Pro。(圖/廖梓翔攝)外觀設計方面,新一代Pixel 10系列延續了經典的相機列,機身採用更加圓潤的弧形邊角,提升握持手感,同時也帶來更高的耐用性。正面螢幕使用全新Corning Gorilla Armor,能有效減少刮痕與反光,尤其在陽光直射下更能提升可視度。在螢幕表現上,Pixel 10 Pro與Pixel 10 Pro XL分別搭載6.3吋與6.8吋的Super Actua顯示器,亮度與色彩呈現達到目前系列最佳的水準。Pixel 10則配備6.3吋Actua螢幕,相較前代亮度提升35%。Pixel 10 Pro。(圖/廖梓翔攝)核心硬體方面,三款手機皆搭載Google最新的Tensor G5處理器,能支援多模態的Gemini Nano模型,在裝置端即可提供更快速的AI運算能力。記憶體配置上,Pixel 10為12GB RAM,而Pro系列則配備16GB RAM,最高支援至1TB儲存空間。相機功能方面,Pixel 10主鏡頭是4800萬畫素,支援光學防手震,日常拍照穩定又清晰;旁邊的1300萬超廣角鏡頭,特別適合拍風景或多人合照;再加上一顆4800萬畫素的5倍望遠鏡頭,不管是遠拍建築還是舞台表演,都能保持清楚細節。前鏡頭則是1050萬畫素,具備自動對焦,自拍不再模糊。Pixel 10(右)與Pixel 10 Pro(左)的外觀幾乎一模一樣,但可以從閃光燈的設計來判斷。(圖/廖梓翔攝)Pixel 10 Pro與Pixel 10 Pro XL則採用相同的相機模組,主鏡頭升級到5000萬畫素,進光量更好,在夜拍或低光環境下也能保持乾淨細緻;超廣角鏡頭提升到4800萬畫素,還能兼拍微距,讓小物特寫也能清楚呈現;望遠則是4800萬畫素的5倍光學鏡頭,搭配AI「專業解析變焦」最高可達100倍放大。前鏡頭部分同樣是1050萬畫素自動對焦。Pixel 10 Pro XL與Pixel 10 Pro。(圖/廖梓翔攝)Pixel 10、Pixel 10 Pro與Pixel 10 Pro XL規格表。(圖/廖梓翔製表)Pixel 10 Pro FoldPixel 10 Pro Fold。(圖/廖梓翔攝)Pixel 10 Pro Fold採用全新的轉軸設計,完全攤平後厚度為5.2毫米,折疊後厚度僅10.8毫米,重量僅258公克。在螢幕規格上,Pixel 10 Pro Fold攤開後擁有8吋的Super Actua Flex顯示器,亮度提升達80%,即使在戶外強光下也能維持清晰顯示。Pixel 10 Pro Fold。(圖/廖梓翔攝)核心硬體部分同樣搭載Tensor G5晶片與16GB RAM,提供256GB、512GB、1TB ROM三種容量選擇,電池容量則達到4650mAh,能滿足長時間使用需求。Pixel 10 Pro Fold。(圖/廖梓翔攝)相機模組方面,Pixel 10 Pro Fold採用三鏡頭設計,主鏡頭採用4800萬畫素的感光元件,具備光學防手震 (OIS),無論白天或夜晚拍攝,都能保持穩定清晰。搭配一顆1080萬畫素、5倍光學變焦的望遠鏡頭,同樣支援 OIS,遠距拍攝細節依然銳利。第三顆鏡頭則是1050萬畫素的超廣角鏡頭,適合捕捉寬闊場景或大合照。前鏡頭部分,Pixel 10 Pro Fold在內外螢幕上均設有1000萬畫素自拍鏡頭,方便日常快速拍照或視訊。Pixel 10 Pro Fold。(圖/廖梓翔攝)Pixel 10 Pro Fold規格表。(圖/廖梓翔製表)AI智慧功能在Pixel 10系列中,最受矚目的AI影像功能之一是「拍照指導」。這項功能能在拍攝後自動分析照片的主體、角度與構圖比例,並提供即時的裁切與調整建議,讓畫面更具平衡感與故事性,即使是隨手拍攝,也能產生接近專業攝影師水準的成品。這次Pixel 10系列推出的全新AI功能「拍照指導」,他會依照你挑選的內容來給予拍照指示。(圖/廖梓翔攝)AI會偵測你與備攝物之間的狀態給予建議,然後到AI認可的程度後,就可以拍照了。(圖/翻攝自Google)售價與上市資訊價格方面,Pixel 10有曜石黑、冰霜紫、香茅綠、靛藍色四款顏色,在台售價新台幣26,490元起。Pixel 10 Pro與Pixel 10 Pro則有曜石黑、陶瓷米、月岩灰、綠玉色四種顏色,Pixel 10 Pro售價為新台幣33,490元起,Pixel 10 Pro XL售價39,990元起。Pixel 10 Pro Fold則依容量不同,分別為56,990元與60,990元。目前Pixel 10系列將於8月22日起陸續開賣,而Pixel 10 Pro Fold則將於10月9日正式上市。Google也同步宣布將在台北信義區設立Pixel Space快閃店,讓消費者能親身體驗全系列新功能。Pixel Space快閃店還有可愛的小機器人可以抽獎喔。(圖/廖梓翔攝)
Google新機再洩密! Pixel 10 Pro Fold實拍影片曝光
距離正式發表不到兩週,Google新一代旗艦產品相關資訊卻接連外流。幾週前,Google曾主動釋出一段影片,首次展示Pixel 10 Pro的外觀設計,近期又意外流出一張涵蓋整個Pixel 10系列的官方宣傳圖片。根據《GSMArena》報導,知名爆料人士布拉斯(Evan Blass)近日再度發布一段新影片,畫面中的Pixel 10 Pro在光線較明亮、陰影較少的環境下呈現,使相機模組護板與側邊框線條更加清晰可見。與Google先前公開的官方影片相比,這段洩漏版本更容易觀察到設計細節上的差異。另一款焦點新品Pixel 10 Pro Fold,在此之前僅有靜態渲染圖曝光,但從釋出的影片中可以看到,Pixel 10 Pro Fold展示展開狀態。報導中提到,目前市場傳聞,Pixel 10 Pro Fold、Pixel Watch 4與Pixel Buds 2a三款新品,可能不會與Pixel 10系列同場發表,而是延後上市。在穿戴裝置方面,Pixel Watch 4的外觀設計先前僅能透過照片窺見,如今布拉斯曝光的影片揭示更多細節。該款手錶延續圓頂狀玻璃錶面設計,右側配置可旋轉錶冠,並在充電器設計上有所更新。雖然影片中未能看清新款充電器的細節,但已確定會有變動。至於Pixel 10系列的核心規格,最大亮點是搭載Google首顆由台積電(TSMC)代工的Tensor處理器,屬於漸進式升級。先前已經流出的四款新機售價顯示,Google在定價策略上有所調整。此外,布拉斯還曝光一張上市促銷方案圖片,顯示購買Pixel 10系列的用戶將可獲得一年免費Google AI Pro服務,包含2TB雲端儲存,總價值239美元。
扛不住金流方的壓力 AI模型網站宣布「移除色情內容」
在金流通路的壓力之下,AI模型平台Tensor.Art於11日宣布,將暫時限制所有與色情內容,以及限制現實世界名人相關的AI模型、工具與貼文。根據《404 Media》的報導,另一家AI模型平台Civitai也因同樣問題調整了政策。Civitai曾遭爆料成為大量未經當事人同意製作AI色情圖像的溫床。Civitai也曾在5月時禁止用於生成現實人物肖像與某些成人內容的模型,大批使用者與創作者因此轉向Tensor.Art。如今,Tensor.Art也不得不跟進,並宣布將暫停其「Civitai匯入」功能,原本這項功能是讓用戶能直接將Civitai的模型移轉到自家平台。在Discord公告中,Tensor.Art表示,理解使用者與創作者可能因此感到「非常沮喪」,但強調這是因信用卡公司及多國監管機關對高風險內容的限制,才做出的不得已決定。公告中也說明,此舉目的在於確保平台的開放性與創作者的獲利能力能長期維持,而這些措施將在72小時內生效。目前Tensor.Art要求模型創作者標示其內容是否為「適合在工作場合使用」(safe for work),藉此避免因政策變動導致模型被錯誤下架。但目前尚不清楚這段所謂「暫時性」限制的實際期限為何,或是否會像Civitai一樣最終變成永久性改動。Civitai至今未恢復與原付款處理商的合作,也尚未找到新的支付解決方案。值得注意的是,Tensor.Art雖然對外表達將配合監管與信用卡組織的規範,但仍堅持其原始宗旨。公告中指出「這不是終點。我們正積極尋找方法,以合規方式恢復目前被隱藏的內容,並盡可能減少這些限制所帶來的影響。」目前,Tensor.Art尚未對外媒詢問提供進一步說明,也未對未來平台政策方向做出具體承諾。這波來自支付機構的壓力不只牽動AI創作平台的營運模式,也可能為未來生成式內容產業帶來更嚴格的內容審查機制。
金融AI Agent 1/國泰玉山二家金控登NVIDIA GTC TAIPEI 揭黃仁勳心機
輝達執行長黃仁勳所到之處,總掀起新旋風,今年在Computex台北國際電腦展演講時的「背板」,則成了市場及業界的新亮點,首度出現金融業,包括國泰金(2882)、中信金(2891)及玉山金(2884)旗下的玉山銀行,究竟這三家為何榜上有名?CTWANT記者調查,原來與黃仁勳今年初高喊的「AI Agent」(AI代理)有關。CTWANT記者進一步採訪,輝達今年新業務是將AI Agent向各產業推廣應用,背板上的國泰金、玉山金控受輝達邀請,出席5月21日於北市南港漢來大飯店登場的「NVIDIA GTC TAIPEI」論壇,分享雙方策略合作初步成果,即是呈現金融業AI Agent實際應用的可能樣貌。國泰金由副總暨國泰世華銀行數據長梁明喬帶隊,偕同數據暨人工智慧科技部經理謝昌宏,花了40分鐘演講說明國泰如何透過本土金融知識訓練,強化大型語言模型金融知識專業,在進階授信人員證照考試中,以90分高分通過取得證照,驗證AI Agent在金融領域的發展潛力。玉山金則由科技長張智星領軍,在輝達論壇上分享兩點,一是以「驅動理財」為主題,將銀行理專提供VIP客戶相關研究報告資料等服務,透過AI Agent讓一般民眾也可即時取得全球總體經濟等專業分析的技術,另一是防詐偵測模型訓練流程上取得突破,比以往加快880倍。對於外界好奇為何今年黃仁勳演講背板上會出現國泰金,梁明喬告訴記者,其實「國泰金多年前即開始使用NVIDIA GPU,雙方團隊很早就認識。」國泰金控副總經理暨國泰世華銀行數據長梁明喬表示,期盼開啟以AI驅動的智慧金融創新服務新時代來臨。(圖/國泰金提供)「去年12月,國泰目標發展AI Agent,而雙方有共識開展,進一步策略合作,輝達顧問密集與國泰技術團隊討論,使用其技術框架等,花了二個多月時間,完成這次共同分享初步成果。」梁明喬表示。梁明喬說,「要訓練『金融AI Agent』專業度,我們在模型上利用NVIDIA NeMo框架進行預訓練Pre-training、微調Fine-tuning等技術手法,藉NVIDIA的加速運算完成70至80億參數量的大型語言模型訓練,輸入大量台灣金融授信知識、法規文獻及實務案例等作為訓練語料。」同時,還透過NVIDIA NeMo Curator框架,擴增訓練資料達4至5倍,大幅縮短資料準備時間,並輔以NVIDIA TensorRT框架加速模型評估流程。「進階授信證照及格成績是70分,若只是用一般的語言模組測試是不及格的66分,但經過台灣本土金融知識訓練後,用了三個大型語言模型,以高達90分成績展現通過進階授信人員證照考試能力,精準回應進階金融問答,具備AI在金融領域的應用潛力。」梁明喬說。也就是說,今年5月21日在NVIDIA GTC TAIPEI論壇中,國泰金秀出與輝達花兩個月,訓練出具備台灣在地金融知識的「金融腦」,相當一位銀行行員須取得進階授信證照的專業程度。
雲云科技技術長想離職被董座砍殺 他離職文曝光「被公開羞辱、霸凌」
北市信義區的雲云科技公司(CuboAi),7日下午發生52歲的負責人曾志新和51歲的梁姓技術長談判離職事宜時,持水果刀猛刺對方後頸後輕生,事後梁男死亡,曾男仍在搶救中,而梁姓技術長的離職信也曝光,透露他在公司被霸凌、溝通問題及團隊被介入等。這位51歲的梁姓技術長,離職前一天在社群平台發文,宣布即將離開公司,並揭露任職期間的種種困難與內部問題。他表示,2022年1月在大B和Thomas(曾志新)的邀請下接任CTO一職,他形容剛上任時,感覺肩負重任,形同肩膀上有一座中央山脈。隨著時間推移,公司內部問題不斷增加,尤其是去年大Brian離職後,Thomas取消Osprey計劃並強勢介入產品研發,讓情況更加惡化。梁姓技術長接著表示,農曆年後開工第一天的董事長新春談話中,自己遭到曾志新公開羞辱和霸凌,這使他決定離開CuboAi。他認為,這次的經歷讓他感到公司所謂「職場霸凌零容忍」政策根本形同虛設。他也回憶起與CuboAi的緣分是從2018年春天開始,當時正結束在AppWorks的工作,並在創業加速器中遇見了Cubo的團隊。自此之後,他一直在協助CuboAi的產品設計與開發,並在2022年接任CTO後持續為公司做出貢獻。隨著曾志新的管理方式變得強勢,梁姓技術長感到無法再貢獻一己之力。他指出,曾志新對他的不信任、猜疑、羞辱與霸凌,使他最終決定離開公司。他在文中也向曾志新表達了自己的感謝與遺憾,也表示一直以來很佩服曾志新的創業決心與執行力,認為創業者需要具備更多傾聽和放手的能力。梁姓技術長希望曾志新能夠反思過去的管理方法,並表示願意隨時提供意見。以下為雲云科技公司技術長原文:嗨大家好,我是 Bird。明天是我在 CuboAi工作的最後一天,我想提前一天跟大家說再見。雖然我想像過一些可能的情境,但其實我沒料到我會在這樣的情況下和大家說再見。2022 年 1 月我在大 B 和 Thomas 的請託下,臨危受命接下了 CTO 的位子,剛接的時候覺得肩膀上有一座中央山脈。去年大 Brian 離開、Thomas 取消 Osprey 計劃並以 TPM 之姿強勢介入產品研發之後,我覺得中央山脈上的火山開始噴發,這個世界搖搖欲墜。但我還是盡力扛住這一切,期待有一天大雨能夠洗盡我滿臉的火山灰,讓大家回到正軌,回到那個充滿自信與歡樂的環境。我原來也沒有想這麼快就離開,畢竟去年那麼亂都熬過了、那麼多鍋都背了。但農曆年後開工第一天的董事長新春談話,Thomas 把事情做絕了。為了轉移 Renee 被主管霸凌的焦點,我被公開羞辱、霸凌、潑了一身髒水。在一個號稱職場霸凌零容忍的會議中,公司的負責人親自示範了什麼叫霸凌。我想,我跟 CuboAi 的緣分已盡。來說說緣分的開始吧。時間回到 2018 年春天,我那時快要結束在AppWorks 的工作。某一天我看到加速器 #16 的名單中有一間叫 Cubo 的公司,做的是結合 AI 技術的寶寶攝影機。那時我還不像現在這麼懂 AI,但攝影機我是專家。所以我請負責創業加速器的同事約了 Cubo 的團隊,看看我在離去前的最後時間能不能給他們什麼建議,或是提供什麼協助。在 AppWorks 6 樓的會議室中,Thomas 拿著應該是剛做好的一代鳥樣品來。我們大概聊了一個多小時,我盡我所能的,把一代鳥硬體設計上可能造成的問題都說了,也給了一些改善的建議。時間快轉到 2019 年的秋天,那時我在一家跨國車用電子公司做顧問,辦公室在遙遠的汐止。某一天 Thomas 突然在 Facebook 上敲我,他輾轉得知我有在幫新創公司做硬體設計的顧問,於是找上我希望我協助二代鳥的設計。當時 Thomas 非常有誠意,敲我之後隔沒幾天就親自殺到汐止的辦公室樓下找我,即使當時我已經沒有太多額外的 bandwidth,在他的盛情之下我還是答應了這個邀請,開始協助從頭打造二代鳥,並且還幫忙處理一些一代鳥當時尾大不掉的 EMI 問題。有些夥伴還一起去過汐止的 EMI 實驗室看我處理一代鳥 Wi-Fi 過不了 FCC 驗證的問題。我們花了將近一年的時間,從尋訪 ODM 開始,一路打造出二代鳥。當時跟群光的合作確實相當不順,一方面因為我們還小、沒什麼談判籌碼,ODM 詢了一整圈也只有群光願意接我們的案子,另一方面也是因為我們對應到的 team,專業能力確實沒有很另我們滿意。當時為了許多開發上的問題,跟群光多有爭執,而我基於硬體設計的專業,給予的許多建議與要求都讓群光沒那麼容易草草過關,才守住了二代鳥的品質。我相信有參與過二代鳥開發、與群光合作過的夥伴,都經歷過這一段,包含 Thomas 與小 Brian,都對當時的群光多有怨言。因此我不知道 Thomas 拿我對群光態度不好這件事來潑我髒水,所為何來。二代鳥是 2020 年 8 月量產的,出貨的那幾天我正在水漾森林登山,我從山裡面出來、手機有訊號後,第一通電話打回家報平安,第二通電話就打給小 Brian 問他二代鳥出貨是不是順利。2021 年我開始設計 SSP,然後,台灣的疫情就來了。我還記得五月某個週日我在辦公室調整 SSP 的電路,一邊看著衛福部的記者會,那天之後就封城了,辦公室就 shut down 了。身為硬體研發的人,很多事情無法遠端進行,我仍然有不少工作需要進辦公室才能做。有段日子,辦公室就只有我跟 Ita 兩個人,偶爾還有當時的財務妹妹孟青。我們一起在偌大無人的 19F 辦公室裡,度過那段日子。我是 2022 年 1 月接任 CTO 的,因為當時的 CTO Steven 跟 Thomas 已經關係不好很長一段時間,甚至久久未曾交談,我其實不是很確定 Steven 是主動離開的,還是被請走的,但總之 Steven 很倉促地就離開了,大 Brian 來拜託我希望我可以接下 CTO 的位子。Steven 離開前只花了大概兩三個小時跟我交接,然後我就沒有再見過他。在擔任硬體顧問的那兩年多期間,我其實一直很刻意地跟 Steven 保持一個安全的距離,我不希望讓他覺得有任何威脅感,我也沒有任何要取代他的意願,因此我只碰跟硬體有關的東西,其它如 firmware 或是 cloud 的東西,我一概不去了解。但最終在 Thomas 的操作下我還是取代他了,關於這件事我一直對 Steven 感到很抱歉。我不敢說自己是個多優秀的經理人,但接任這個位子三年多來,至少人員流動、費用控管、技術和產品開發這些客觀指標,應該都還有些成績。我接任的這三年多,整個研發部門只損失了 5 位同仁:Clara、Carrie、Barry、Bryant,以及 Lily。相較於公司其它部門的流動率,這個數字算得上還可以吧。而且我們也招進了很多優秀的新同仁,讓這個 team 曾經達到一個很巔峰的狀態,幹過不少讓大家都很有成就感的大事。2022 年的時候,大概六萬多台裝置在線上,當時Google 雲端一個月的費用是 US$46K,2023 年 3 月最多的時候甚至增加到 US$56K 左右。但經過大家的努力,如今我們有 22 萬台裝置在線上,多了一大堆新服務,但 Google 雲端的費用仍然是 US$46K 左右。感謝 R&D team 每一位成員的努力,這是個讓我們每個人都可以說嘴好久好久的成就。至於產品,Ultimate Plan 在我接手時已經做了一半,隨後我們也上了 SSP 和 SmartTemp 兩個大產品。我接手時就知道我們 mobile app 的程式碼已經很難維護,於是我大聲疾呼我們需要停下來一段時間,不做任何新功能,專注於整理戰場、償還技術債。我原來希望這件事可以發生在 SSP 上線後,讓我們喘息一下,但 Smart Temp 接踵而至,同仁們被迫在越來越不穩固的基礎上持續增加新功能。於是我醞釀了 Osprey 計劃,這是一個重構整個 app 的大計劃。我們做了非常多的規劃、推演,PM team 也產出了大部分的新 UI,然後我們也把 mobile team 的人力補到 3+3,準備開幹。但這一切都隨著 2023 年底的共識營當天,我被告知 Thomas 決定砍掉 Osprey 這個計劃而煙消雲散,取而代之的是 Thomas 以 TPM 之姿強勢介入產品開發之後,接踵而來的混亂與產品不穩定。後面這一段我就不多說了,大家都有經歷到,說多了只會傷心。但看到最近 app 的評價掉成這樣,好多使用者的 review 都說這個 app 以前明明很穩定為什麼最近一年變成這樣、叫我們不要再開發 gimmick 或是 shiny 的 newfeatures (gimmick 這個字真的是從 review 裡學到的),請我們專注在基本的穩定性上等等。看到自己的產品在 AppStore 上被講成這樣,心裡真的很難過,卻又有滿滿的無力感。我剛接 CTO 的第一件事就是學Node.js,第一年我都在設法搞懂 backend 在幹嘛。前 CTO Steven 是個超強的 full stack,很多東西他可以自己一個人從頭幹到尾。我雖然 30 歲之前寫非常多的程式,但 30 歲之後的興趣大部分在硬體系統和 firmware 上,因此在 backend 技術上我完全無法望其項背。我還記得當時 referral program 有一個訂單取消後referral 仍然有效的 bug,我一邊吃力地看著 Cubo API 的程式碼,一邊和 Patrick、Barry 找出問題並且修復它。Barry 離開之後,我又扛下了睡眠分析的部分,開始複習 Python 並且幫忙修 bug。第一年就在backend 的世界中度過。第二年,因為有了 Jessie 的加入,我們從荒煙蔓草中把所有的 AI 設計都撿回來了。我還記得剛開始看 object detection 的時候,我們連 YOLOv4 的那個 output tensor 格式都看不懂。我還跟 Jessie 說「等等我,給我一個晚上,我會把它看懂!」到後來我已經可以用 Keras 手刻整個 YOLO 網路而且從 Darknet 倒參數給它跑。後來在看趴睡蓋臉偵測的 Facial 模型時,因為它是個 Bayesian 模型,為了搞懂這個模型在幹嘛我還去買了貝氏機率的書來看。經過一整年的淬煉,我們可以很驕傲地說,公司完全不負 CuboAi 這個名字,我們有許多領先業界的 AI 能力。不管是資料的處理、模型設計、訓練策略、乃至於效能評估各方面,我們都有許多的 insight 和領先。第三年我本來打算藉由 Osprey 計劃將整個 app 好好重構,取代這個已經六歲的 app,以預備迎接下一個六年甚至十年。但隨著 Osprey 計劃被砍掉,這件事情不僅沒有發生,原來已經搖搖欲墜的 app 更在各種功能的恣意疊加下,穩定性和品質來到前所未有的新低。我心裡最遺憾的事,就是我們沒有辦法讓為了執行 Osprey 而招進來的同仁們好好發揮,打造出一個可以讓自己驕傲的產品。我想回頭聊聊 “溝通” 這件事。我們真的是在無數次的努力和嘗試後感到絕望,才放棄和 Thomas 溝通的。2024 年大地震那一天,Ben 和我在 phonebooth 聊著 R&D team 無法適應 TPM 做事的方法、最後他拉著我去找 Thomas 吵了一架,很認真的告訴 Thomas 這樣做事不行,會讓研發的同仁沒有辦法好好把事情做好。期間我也多次嘗試和 Thomas 溝通,2024 年 5 月的一次溝通之前,我甚至先寫了萬言書,將我想表達的事先寫下來,期望 Thomas 可以聽得進去。萬言書附於文末供參,隻字未改。但狀況並沒有太大的改善,我也在 2024 年底被 Thomas 告知不用再管理 R&D team,整個 R&D team 將由 CEO 自己直接管理。我也在 2025 年上班第一天被移出所有管理群組。我自認對公司盡心盡力,未曾改變,也無愧於這個職位,可受公評。除了重建、帶領整個R&D team 之外,我也獨自扛下所有硬體開發和把關的責任,從二代鳥開始,乃至 SSP、Swallow 甚至 Canary,所有的電子電路、機構、光學、聲學、RF、製造,都是我在看。Smart Temp 雖然不是我們設計的,但當愛微科風雨飄搖之際,我也幫忙處理了一大堆在邁特工廠生產時遇到的問題。我一邊撰寫交接文件,一邊還要在極短的時間內看完 Canary 所有的電路圖和 layout。一直到這個星期二我都還在跟明泰開會,幫助大家了解 Canary 為了光型所設計的非成像光學透鏡怎麼運作,以及組裝時可能遇到的問題。我到上個週日都還在監看 Monthly Journey 發不出去的問題,以及提供建議來防禦簡訊攻擊。背值星背到退伍莫過於此吧。2023 年 4 月的 PTT 異音事件,我除了運用聲學的專業配合鑑識實驗室在事發後第三天就找到證據外,也親上火線在記者會上說明整件事。同年 10 月的媒體聯絡記者會,我雖然百般不願意,但仍然在 Thomas 與大 Brian 的要求下再度披掛上陣。如今看到當年記者會的合照中,四個人只剩下一個還在公司,心裡真是無限感慨。我們一起打過很多美好的仗,也一起經歷過一些高光時刻。對於 2024 年才加入公司的夥伴們我覺得非常抱歉,你們沒有經歷過公司輝煌的時刻,那個我們獲選 NextBig 國家新創代表隊、去 101 領獎的時刻,那個我們在沖繩擁有無數美好回憶的時光,那個 one team one goal 的時代。當年我其實非常佩服 Thomas 找了大 Brian 加入,並在不久之後將 CEO 的兵符交予大 Brian,把公司帶上一個新的高峰。這件事在我心中的地位,不亞於當年知道 Google 的兩位創辦人知道自己的不足、了解自己的能力尚(無法)帶領這麼大的公司,因此找來專業經理人 Eric Schmidt 接任執行長長達十年並將 Google 帶上巔峰的故事。這其實也是我在 2022 年時放棄跟退休差不多的生活,願意幫忙扛下 CTO 重任的主要原因之一。但這一切都隨著 2024 年初大 Brian 的離開,Thomas 自己回任 CEO 而變了調。公司創辦人之一的 Joanna,不久之前才告訴我:“CuboAi 承載的不只是創辦人或管理者們的故事,更是一群人努力的結晶,包括過去與現在的夥伴、股東,以及那些信任我們的產品、選擇讓 CuboAi 守護家庭的使用者們。“這些產品每一個都像是我的孩子,它們也代表了許多人的夢想和努力,也承載了許多用戶的信任。我很遺憾沒有辦法好好守護他們直到最後。我相信大部分的同仁可以理解,最後選擇離開,對我來說也是一個極為艱難的決定,但管理者對我的不信任、猜疑、羞辱與霸凌,讓我已無法再貢獻一己之力。我想對 Thomas 說,我一直都很佩服你創業的決心和執行力,這是一個成功的創業者非常需要的特質之一。但創業者不能只有這個,很多時候傾聽與放手的能力更為重要。我還記得去年三月大 Brian 剛離開後沒多久,你在 North Star 跟我說,“你、我、莎莉我們三個人,就是現在公司經營團隊的黃金組合。”言猶在耳,隨即卻迎來了驚天動地(的)組織變化與權力轉移。我不知道你是什麼時候開始變得對我越來越不信任,但有時候我還是會想起當年那個找我進來幫忙的 Thomas,那個我覺得凱薩琳被 HR 刁難時,我可以直接打電話給你幫她抱不平的 Thomas,那個跟共同創辦人吵架後會找我參詳的 Thomas。我知道你現在不太可能聽得去任何建議,但我的初衷一點都沒變。如果你需要任何的意見,仍然歡迎隨時找我。至於那位躲在家裡不敢來辦公室,不能直呼名諱的人,我其實沒什麼要對你說的,大部分的人眼睛其實都朗然如雪,言盡於此,好自為之。CTWANT關心您,請給自己機會:自殺防治諮詢安心專線:1925;生命線協談專線:1995
手機瘋AI 1/非「蘋」陣營端大菜! 專家曝滿足「1關鍵」才是AI手機
二月伊始,年後換機潮來襲,各大品牌無不使出渾身解數,力推「AI手機」。Android家族打頭陣,三星Galaxy S25旗艦系列4日啟動預購,台灣唯一手機品牌華碩(2357)不甘示弱,6日也搶發「Zenfone 12 Ultra」加入戰局,蘋果CEO庫克13日趕著上X預告,六天後「準備好迎接家族新成員」,讓市場憧憬「最便宜AI手機」iPhone SE 4將登場。何謂AI手機?工研院產科國際所資深分析師呂珮如接受CTWANT記者採訪指出,多數國際智庫認定的基準點,以AI晶片的NPU(神經網路處理器)算力不少於30 TOPS為規格。「除了需要有搭載上述的AI晶片,還有散熱需要升級、記憶體要提升,另外導入LLM(大型語言模型)。」她解釋。對照起來,目前市面上聯發科天璣9300、9400,高通的Snapdragon 8 Gen 3以及Snapdragon 8 Elite,Apple的A17 Pro跟A18 ,Google的Tensor G4,三星的Exynos 2400,採用上述這些晶片的智慧手機,比較能定義成AI手機。蛇年各大品牌新推AI手機中,華碩和三星的新機都用上高通的「Snapdragon 8 Elite」,NPU效能提升40%;而iPhone 16 Pro系列,搭載的A18 Pro系統單晶片(SoC)集成了16核NPU,每秒可進行高達35萬億次的運算(前一代A17 Pro的 NPU 算力也是35 TOPS,再前一代 A16 Bionic的NPU算力為17 TOPS),顯著提升AI任務的效率。在實測中,YouTuber「3C達人廖阿輝」開箱三星 S25 Ultra後讚其遊戲表現「真的神,起飛了」,「『原神』(米哈遊開發的動作角色扮演遊戲)測試30分鐘,竟然是滿幀60fps(遊戲在整個測試過程中始終以每秒60幀的速度運行,且幀率保持穩定,沒有明顯波動)一條直線,測試『崩壞:星穹鐵道』(米哈遊開發的戰略角色扮演遊戲)這些高負載的遊戲,也沒有問題,然後跑遊戲測試、壓力測試之後,還用紅外線攝影機去拍攝,機體溫度也沒有明顯變高。」同時,百萬網紅joeman開箱對Zenfone 12 Ultra時,也毫不吝嗇地稱讚其高性價比,認為「台幣不到3萬就能享有8 Elite」的效能配置,對於注重性能的用戶而言無疑是一大吸引力。工研院產科國際所資深分析師呂珮如。(圖/工研院供圖)至於LLM方面,手機廠商通常會自行訓練大模型,並搭配如ChatGPT的通用大模型。以蘋果為例,iOS 18不僅本地內建了一個低延遲、擁有30億參數的LLM,還接入蘋果私有雲計算的雲端大模型和ChatGPT,使用戶能以GPT接管siri,提升智慧體驗。三星則利用Google的Gemini AI引擎,結合自家 Bixby 語音助理,展現跨平台整合能力。華碩新機除了搭載ChatGPT、Meta Llama 3 8B外,還導入自家開發的「福爾摩沙AI大模型」,在繁體中文辨識度上大幅優於對手,號稱市面上最懂繁體中文語意、台灣文化的AI。與去年市售AI手機所謂的「AI」應用,例如修圖、畫圖、問答、執行簡單的操作(如定鬧鐘、行程等)等,今年品牌大廠則尋求讓AI更落地化、更先進的解決方案。比如三星S25旗艦系列,「3C達人廖阿輝」發現,多數AI選項方面「可以完全設定成本地運行」,比如較有隱私疑慮的通話翻譯、通話文字轉錄、錄音會議筆記等;不過S Pen拿掉藍牙功能,「是非常可惜的一個點」,他感歎,這對於習慣遠端拍照或控制音樂播放等的用戶來說是一大遺憾。YouTuber「3cTim哥」實測三星S25內建Galaxy AI跨應用執行鏈,一句「幫我查一下附近的海鮮料理餐廳,記錄我的Samsung Note」,即可自動從日程表讀取地址,並傳遞至地圖應用,省卻繁瑣的複製黏貼步驟,也就是以一個指令控制多個程式,成了新亮點。華碩Zenfone 12 Ultra支援六大AI功能,強調能夠在雲端與地端自由切換,其中有五種功能可在手機(地端)執行,四款則以雲端運算,僅「AI即時通話口譯2.0」跟「AI圖片搜尋助手」則100%吃手機NPU,而「畫圖搜尋」功能則必須調用雲端資源搜尋。儘管產品技術、功能推陳出新,YouTuber「彼得森」提醒消費者,選購時要注意「系統使用期限」,他在華碩Zenfone 12 Ultra評測中點到,該機系統更新期限僅有2年,三星和Google則提供7年,蘋果5至6年,相比之下,使用期限成了明顯劣勢。華碩全球副總裁林宗樑透露,Zenfone 12 Ultra導入自家開發的福爾摩沙AI大模型。(圖/鄭思楠攝、翻攝自台智雲臉書)華碩在6日發表會上就公告,「所有AI功能免費到2025年底」,未來的變化則另行公告;三星早在去年初就預告,Galaxy AI功能將在2025年底前,免費向支援該功能的裝置提供服務。台灣旗艦機雙雄的動作,是否為AI有價模式埋下伏筆,後續值得觀察。究竟如何選出性價比高的AI手機?光華商場一位通路商告訴記者,選機時不僅要關注產品參數和價格,更要從實際應用場景出發,考慮哪些功能能真正解決日常需求,例如,商務洽談的用戶需要即時翻譯、語音轉文字等功能,愛攝影的用戶,應重視鏡頭性能與影像處理技術,此外,電池續航、充電速度、是否支持eSIM等都會是標配。
多事之秋!才爆全球大裁員 三星又傳「這主顧」想換人「恐重創代工業務」
近期三星集團可以說是進入多事之秋,雖然先前三星電子股價一度上漲,但由於外資拋售,導致三星集團總市值在短短2個月內跌破600兆韓元,蒸發近130兆韓元(折合新台幣約3.39兆元)。除此之外,外界也傳聞三星電子將在全球的部分部門裁減最多30%的員工。在印度當地,三星員工也因為低薪關係爆出大規模罷工事件。而最棘手的是,目前傳聞Google有意將晶片生產的工作交付給台積電,取消與三星的合作。根據《路透社》報導指出,有消息人士表示,三星總部已指示全球子公司在今年年底前,將銷售和營銷人員削減約15%,行政人員則削減高達30%。報導中提到,這項裁員計劃將影響到美洲、歐洲、亞洲和非洲的員工。雖然具體裁員人數和最受影響的國家及業務部門尚未明確,但有6名熟悉內情的人士確認這一全球裁員計劃的存在。而根據三星最新的永續發展報告指出,截至2023年底,三星共僱用267,800名員工,其中超過一半(147,000名)位於海外。在這些員工中,製造和開發部門佔據大多數,銷售和營銷人員約25,100人,其他領域則有27,800人。與此同時,根據《Businesskorea》報導指出,截至9月11日收盤,三星集團17家上市公司的總市值跌破600兆韓元大關,降至593.874兆韓元,與2023年年底的657兆韓元相比,不僅明顯下降,三星集團的市值在短短2個月內蒸發了近130兆韓元。報導中也提到,三星電子在7月時曾透過優異表現,將股價持續推高,集團市值一度突破720兆韓元。但隨後由於外資持續拋售,從9月3日到11日這段時間,外資淨賣出額接近3.6兆韓元,股價連續7個交易日下跌,11日當天,三星電子股價更跌至64,900韓元,市值降至387兆韓元。之所以會有這次明顯下跌,主要是PC和移動記憶體等半導體需求疲軟,多家證券公司因此下調了對三星電子的目標價。分析師們預計,由於半導體需求低迷,三星電子第三季度的業績可能會低於市場預期。而根據《Businesskorea》另一篇報導指出,這次Google Pixel 9系列手機是採用三星4奈米製程,但Google可能會因為良率問題,會將Pixel 10系列的手機處理器轉移給台積電製造。報導中提到,有專家分析表示,Google之所以會考慮更換代工廠商,其中主要原因之一是三星電子的良率問題。據了解,三星的3納米製程良率僅有20%,遠低於台積電的的水平。而如果此傳聞屬實,會對三星電子的代工業務將造成重大打擊。除此之外,報導中也提到,有跡象顯示,Google可能會連未來的Pixel 11系列,都會採用台積電的2納米製程技術Tensor G6處理器,這代表Google接下來可能會與用台積電取代過去有長期往來的三星電子。而在罷工方面,根據《路透社》報導指出,三星位於印度清奈附近的工廠,因為其員工不滿長期低薪,就於6日爆發大規模的罷工抗議,參與員工人數多達800人,接近原本1800名員工的一半。而雖然勞資雙方曾進行溝通過,但由於雙方並未取得共識,所以讓罷工行動持續進入到第5天。報導中指出,根據印度工會中心(Centre of Indian Trade Unions,CITU)的調查發現,在印度的電子產業並沒有幫員工進行適當的薪資調整,而且員工處於弱勢,幾乎沒有集體談判的機會。而其中,三星給予印度員工的平均月薪為2.5萬盧比(折合新台幣約9500元),而CITU則要求三星應在三年內幫員工加薪至3.6萬盧比(折合新台幣約1.3萬元),但雙方並未取得共識,因此罷工行動持續進入到第5天。報導中提到,三星印度廠每年可幫三星集團帶來120億美元的收入,占其在印度年收入的三分之一。而且這次三星印度廠罷工事件是目前印度外資中最大規模的罷工,同時也為印度總理莫迪的「印度製造」計畫上蒙上一層陰影。
Google Pixel摺疊機首度登台 「一起拍」讓拍攝者也能大合照
Google在今年的Made by Google新品發表會上,推出了歷來最豐富的Pixel手機系列,一舉推出四款不同型號的Pixel 9手機,包括入門級的Pixel 9、高階的Pixel 9 Pro和Pixel 9 Pro XL,以及首次在台灣亮相的Pixel 9 Pro Fold摺疊手機。Google Pixel 9這次Google Pixel 9系列共有Pixel 9、Pixel 9 Pro和Pixel 9 Pro XL三款手機,整體在外觀上有進行大規模的變化,背面設計上強化了相機列的設計,讓其成為新系列的焦點。除此之外,新機採用了全新的滑順圓弧邊角設計,提供更穩固舒適的握持感的同時,耐用度也較前代提升了2倍。Google Pixel 9。(圖/廖梓翔攝)在硬體方面,Pixel 9 Pro和Pixel 9 Pro XL分別配備了6.3吋和6.8吋的Super Actua顯示螢幕,這是Google目前畫質呈現最佳、最亮的螢幕。兩款機型都採用霧面玻璃背蓋搭配拋光金屬邊框,呈現更高質感的外觀。Pixel 9則升級到6.3吋Acuta螢幕,亮度比前代提升35%。處理器部分,Pixel 9系列配備了最新的Tensor G4晶片,是目前Google最高效能的處理器,能運行先進的多模態Gemini Nano模型。記憶體部分,Pixel 9配備12GB RAM,而Pixel 9 Pro 和Pixel 9 Pro XL則提供16GB RAM。Google Pixel 9 Pro XL。(圖/廖梓翔攝)相機部分,Pixel 9雖然定位為入門機型,但採用了與Pro系列相同的主鏡頭,並將超廣角鏡頭的畫素從原來的1200萬大幅提升到4800萬,這意味著可以捕捉到更寬廣的景象,同時還能保留更多細節。而前置鏡頭也增加了自動對焦功能,讓自拍愛好者可以輕鬆拍出清晰動人的照片。在Pixel 9 Pro和Pixel 9 Pro XL的部分,兩款機型配備了全新的4,200萬像素前置鏡頭,不僅支持自動對焦,還能在低光環境下表現出色。除此之外,另外還搭載5倍望遠鏡頭,搭配創新的影片強化器功能,能實現相當於20倍變焦的高畫質視頻拍攝。售價與顏色部分,Pixel 9將推出曜石黑、陶瓷米、嫩芽綠、莓果粉四款顏色,售價為新台幣26,490元起。Pixel 9 Pro 與 Pixel 9 Pro XL 推出曜石黑、陶瓷米、霧灰色、石英粉四款顏色,售價分別新台幣33,490元與39,990元起,所有手機皆為22日起陸續上市。Google Pixel 9 Pro。(圖/廖梓翔攝)Google Pixel 9 Pro Fold這次發表會的重點,莫過於就是首度登台的Google Pixel 9 Pro Fold摺疊手機,這款手機是Pixel系列的第二款摺疊手機,也是目前在台發售的摺疊手機中,攤開後厚度最薄的摺疊手機。Google Pixel 9 Pro Fold(右)與其他手機厚度對比。(圖/廖梓翔攝)Google Pixel 9 Pro Fold配備了8吋的Super Actua Flex螢幕,解析度和亮度分別為2,424x1,080與1,800nits,螢幕亮度比前代提升了80%,確保在強光下依然清晰可見。手機本身採用全新的轉軸設計,使用者可以輕鬆將其完全攤平。折疊狀態下厚度僅為10.5mm(不包括鏡頭突起),重量為257g,比前代減輕了9%。Google Pixel 9 Pro Fold。(圖/廖梓翔攝)在處理器方面,Pixel 9 Pro Fold搭載了Google最新的Tensor G4晶片,記憶體部分為16GB RAM,存儲容量有256GB和512GB兩個版本可選。電池容量達到4,650mAh,支持長時間使用。相機部分中,Pixel 9 Pro Fold採用了全新的正方形排列設計,配備了三個後置鏡頭,分別為48MP的OIS主鏡頭、10.8MP的5倍OIS望遠鏡頭與12MP的超廣角鏡頭。前後置鏡頭均支持人臉辨識功能,無論手機是摺疊還是展開狀態都能快速解鎖。在軟體部分,Google先前就針對Pixel 9 Pro Fold打造十分獨特的軟體功能,像是雙螢幕預覽(Dual Screen Preview)、免手持模式(Tabletop Mode)以及後置鏡頭自拍(Rear Camera Selfie)等。今年則是以此為基礎,推出全新拍照功能「看過來」,在使用「看過來」功能的時候,手機的外螢幕會顯示一段動畫吸引小朋友的注意力,幫助拍照的人捕捉到孩子們看向鏡頭綻放笑容的珍貴瞬間。使用「看過來」功能拍照時,外螢幕會出現可愛的卡通圖案來吸引小孩注意力。(圖/翻攝自Google官網)顏色部分,Pixel 9 Pro Fold推出陶瓷米和曜石黑兩種顏色。而售價部分,16GB RAM/256GB ROM的售價為新台幣56,990元。16GB RAM/512GB ROM的售價為新台幣60,990元。而正式上市時間為9月4日,比Pixel 9系列其他手機較晚。Google Pixel 9 Pro Fold。(圖/廖梓翔攝)Google Pixel的AI功能在今年的Google I/O開發者大會上,Google介紹了Gemini Live功能,它的核心優勢在於提供了一種更自然、更類人的對話體驗。用戶可以通過手機或Pixel Buds耳機直接與Gemini進行語音對話,就像在與真人交談一樣。目前,Gemini Live的英文版本已在Pixel 9 Pro系列和部分Android手機上推出,並向Gemini Advanced的訂閱用戶開放體驗。Google官方承諾在未來幾週內將支持更多語言。而在AI當道的現在,智慧型手機上要如何使用AI來強化使用體驗,也是每個廠商的研究重點之一,Google選擇在Pixel 9系列上從拍照、影像部分讓AI「幫幫忙」,推出了不少有趣的功能:「一起拍」,該功能巧妙地解決團體照拍攝中的常見問題。傳統合照時,總會有一個人需要負責拍照而無法出現在照片中。而「一起拍」利用AI技術,能夠AR技術展示拍攝者的成品,接著將手機交由其他人幫忙拍照,當拍攝者入進時,朋友就可以透過AR功能指示拍攝者要站在何處。接著透過AI將兩張兩張背景和角度相似的照片進行合成,創造出一張包含所有人的完美合照。「一起拍」功能。(圖/翻攝自Google官方部落格)「自動構圖修正」,該功能則是針對拍攝後的照片調整,它能夠自動分析照片的構圖,並提出調整建議,使照片更具視覺吸引力和故事性。「AI編輯功能」,該功能可以讓用戶只需通過文字描述,就能讓AI理解並實現他們心中的創意效果。這種基於自然語言的編輯方式,大大降低了高級照片編輯的門檻。「影片強化器」,該功能可以讓所有機型在處理夜視模式影片進行加速用戶可以更快地獲得高質量的夜間影像。特別是在Pixel 9 Pro和Pixel 9 Pro XL上,結合新的5倍望遠鏡頭,用戶甚至可以拍攝出相當於20倍變焦的高畫質影片。
歷代最盛大手機陣容 Google Pixel系列4大手機登場
Google在今年的Made by Google新品發表會上,推出了歷來最豐富的Pixel手機系列,一舉推出四款不同型號的Pixel 9手機,包括入門級的Pixel 9、高階的Pixel 9 Pro和Pixel 9 Pro XL,以及首次在台灣亮相的Pixel 9 Pro Fold摺疊手機。這次的發布不僅展現了Google在智能手機市場的雄心,也標誌著其在AI技術應用方面的重大突破。新系列中,Pixel 9採用6.3吋螢幕,售價26,490元起;Pixel 9 Pro和Pro XL分別配備6.3吋和6.8吋螢幕,售價從33,490元到39,990元不等。最引人注目的是Pixel 9 Pro Fold,其外螢幕為6.3吋,展開後可達8吋,售價56,990元起。除了Pixel 9 Pro預計年底前上市外,其他型號都將於8月底至9月初陸續到貨。這次Pixel 9系列的核心亮點在於其專為AI設計的硬體配置。搭載新一代Tensor G4晶片,與DeepMind團隊合作打造,旨在充分發揮Gemini多模態模型的優勢。Google聲稱,新款手機的Gemini Nano模型效能比前代提升3倍,並採用更大面積的均熱板以維持最佳效能。記憶體容量也大幅提升,入門款達12GB,Pro系列更高達16GB。在軟體方面,Google為Pixel 9設計了多項獨特功能。「Call Notes」功能可自動記錄通話內容並生成摘要;「Pixel Studio」允許用戶通過文字描述生成AI圖像;「Pixel Screenshot」則提供了一個智慧型截圖管理系統,支持自然語言搜索。攝影功能也有重大升級。入門款配備5000萬像素主鏡頭和4800萬像素超廣角鏡頭,而Pro系列則增加了4800萬像素望遠鏡頭。結合生成式AI技術,新增的「一起拍」功能可自動合成群體照片,「魔術修圖」功能則能智能調整照片構圖。此外,改進的HDR+演算法提升了膚色和紋理的精準度,新增的夜拍全景模式和8K影片強化器更是大大擴展了用戶的創作可能性。
AI新勢力2/「不拿坦克車鑽巷子!」 劉峻誠力推高效省電NPU讓人工智慧更普及
「CPU (中央處理器)像坦克車,一開始設計功能主要是打仗用,GPU(圖形處理器)就像是卡車,主要拿來載貨物;NPU(神經處理器)則是小客車,能在小城市內跑來跑去,專為AI而生。」耐能(Kneron)創辦人暨執行長劉峻誠向CTWANT記者解釋,AI時代大家最常聽見的三種處理器差異何在。輝達(Nvidia)創辦人兼執行長黃仁勳在今年6月的台大演講時提及,從1964年IBM創造出第一片CPU到現在,電腦已誕生60年,但 CPU升級速度已減低,須處理的資料量卻大幅成長,而輝達在2006年推出CUDA技術,讓GPU可應用於圖像處理以外的計算,也成為AI計算的主要動力。「CPU+GPU的平行運算模式,才能提供等量的加速運算能力」黃仁勳表示,若以單顆CPU運算需要1秒時間的資料量,搭配GPU加速運算,則只需要0.01秒的時間,且僅需3倍能耗、1.5倍的裝置成本,等於省下了98%的裝置成本、97%的能源,「所以你買越多GPU,就省更多錢」。業內人士向CTWANT記者解釋,因手機與電腦的應用及計算變多,業界在標準積體電路(IC)外,另外訂製ASIC專用(特殊應用)電路,畢竟「專用的比通用的好」,例如Google研發出TPU(Tensor Processing Unit張量處理器),用於大量低精度計算,但生產廠商少,價格昂貴,劉峻誠的NPU和TPU的概念很像,但「他抓住低價的利基市場,所以在終端使用量會比較多。」業內人士進一步說明,如果沒有NPU,傳統筆電使用AI助手,很容易遇到效能網路塞車的問題,而耐能的NPU主打在沒有網路狀態下也能運算,特別是物體與人臉辨識,如今AI應用更廣泛,使用GPU有成本貴及耗電問題,讓NPU業者更有底氣推廣,「讓CPU、GPU去做它本來要做的事,就是解方。」高通驍龍X系列處理器,有專為AI應用設計的NPU。(圖/黃鵬杰攝)而現在常聽見的NPU,就是劉峻誠2015年創業時打造的全新計算模型「神經網路處理器」(Neural Networks Processing Unit),這個「可重組式人工智慧神經網路」的專利,像一堆樂高積木,當要支持語音AI模型時,可透過指令集重組,要支持圖像AI時再次重新組合,由於可支援多種神經網絡模型,保持架構精簡,處理 AI 模型運算時,具有性能和功耗上的優勢。早在2018年,CTWANT記者曾訪問過劉峻誠,當時AI議題還不熱,他在解釋NPU概念時,主打是在離線狀態下,能讓手機或電腦繼續學習和執行複雜的深度學習演算,能讓AI更平民化。時隔六年,他跟CTWANT記者的解釋更具象,「CPU就像是坦克車,但有一天人類蓋了小型城市,大家發現GPU這卡車比較方便,「我們的NPU就是小客車,雖然市面上的駕駛都習慣開卡車,但若有一天油價漲了兩、三百倍,大家就會被逼迫去試著開小客車。」劉峻誠說「國際級的雲端大廠是目前GPU的主要買家,但因為實在太貴、太耗電,就像某個貨運公司的卡車隊伍,正在強迫司機要換小客車,這件事情正在發生,你就等著看吧!」除了雲端,NPU晶片架構在終端產品上的能見度的確越來越多,目前高通驍龍X系列處理器,就是主打專為AI應用設計的NPU,高效能、更省電;耐能去年3月也宣布自研的人工智慧系統晶片KL720打入高通的產品線,用在高通機器人RB1平台與RB2平台中。Arm在4月發表因應邊緣AI運算的第三代NPU產品「Arm Ethos-U85」,其效能相比上一代Ethos-U65提升4倍、功耗能源轉換效率提高20%,可用在工廠自動化和商用監視器或智慧家庭攝影機等應用。技嘉的筆電也有採用NPU。(圖/業者提供)今年6月的Computex電腦展上,CTWANT記者就在Intel展區中,看到多項跟NPU有關的實機展示。像是技嘉Aorus 15筆電的展示,過去可用手勢撥放或停止影音播放程式,當時是利用CPU與GPU來處理分析,透過鏡頭來識別手勢,現在則使用NPU獨立處理。劉峻誠曾引用大摩報告指出,到2027年,NPU的市占率將會超過GPU,不過Google DeepMind傑出科學家紀懷新向CTWANT記者說,「我認為五到十年內,GPU的地位還不會被取代」不過現在的確有很多人在思考用更多元的方式去解決,也是好事一件。
輝達H100顯卡PChome賣139萬秒殺 網直呼:你還嫌貴早完售
近年來全球走入AI世代,而輝達NVIDIA H100 GPU近日在網購平台PChome開賣,售價為139萬,一開賣就秒殺,讓網友直呼,「當你還在那嫌貴的時候,商品早已完售。」據了解,NVIDIA H100 80GB Tensor 核心 GPU PCIe在PChome售價為139萬元。原PO在PTT發文,「不知道什麼時候上架的XD。」而下單還可以折2024元,讓他直呼佛心,「重整才發現已經賣完了QQ。」此文曝光後,網友紛紛留言「AI靠這張」、「未來一戶一張」、「要不是賣完了,不然我一定買」、「能24hr到貨嗎」、「一張一台車賺爛了」、「中國公司買來屯」、「當你還在那嫌貴的時候,商品早已完售」、「這東西塞的進我家電腦裡面嗎」、「聽起來買這個會變成穩賺不賠的投資」。據悉,近日馬斯克在X發文,新推出的AI聊天機器人Grok3會很特別,因為AI用10萬張H100晶片訓練。據悉,H100又稱Hopper,是輝達圖形處理單元,用於大型語言模型,而隨著AI發展逐漸進步,也成為科技公司搶購的資源。
三星掰了! 谷歌新機Pixel 10晶片傳轉由台積電代工
Google規劃今年將發表Pixel 9系列手機,過去有諸多消息指出,Google正和台積電合作生產Tensor G5晶片,並用於2025年的Pixel 10系列手機。從最新消息來看,三星可能不會幫忙製造 Tensor G5。綜合外媒報導,有證據顯示Pixel 10系列手機,將是Google第一款不是三星代工製造的晶片,該機型使用的Tensor G5晶片改為由台積電生產。不過即將推出Pixel 9系列手機搭載的Tensor G4仍將由三星製造。以往Google的Tensor處理器一直與三星(Samsung)晶片部門合作開發,但對於晶片的散熱和效率,三星需非常努力才能將代工品質媲美台積電。報導中顯示,Pixel 10 Pro配備16GB記憶體,可能代表Google目標是在Pixel 10中加入大量記憶體。此外,Tensor G5晶片還寫上「版本」,資料顯示是「A0」,意思就是可能是該晶片的最初版本,而且相關樣品仍有缺陷要修正,並需要經由系統測試。Google Pixel 10的發表時間還有16個月左右的時間,以此推估科技巨頭的開發階段,合理性也極高。
傳三星產晶片過熱問題「無法解決」 Google Pixel 10晶片轉單給台積電
自2021年推出第一代自製晶片之後,Google的Tensor處理器就一直與三星晶片部門密切合作,甚至雙方共同開發這款處理器。但由於傳出三星新產的Tensor G4處理器一直無法解決散熱問題,最後導致Google決定將TensorG5處理器轉單給台積電生產,而這也是Google首次將在沒有三星晶片部門的協助下進行晶片的生產。根據《android authority》報導指出,他們拿到一份進出口報單文件,透過拼湊與解讀後,理解到單子上記載「LGA」是Tensor G5,也就是所謂的「Laguna Beach」的縮寫。報導中也舉例,過去Google曾將第一代Tensor的代號「Whitechapel」縮寫為WHI,將第四代Tensor的代號「Zuma Pro」縮寫為ZPR。而單子上還有個「A0」的字樣,這代表著是最早期的晶片,推測可能是還有缺陷需要修正的樣品版本,由於Google Pixel 10的發表時間至少還有16個月左右,因此Google Pixel 10的晶片如今還在樣品測試階段的話,也是十分合理。而單子上也記載著,這批晶片是由TSMC所生產。單子上最後還記載著一個極為重要的事情,就是這批晶片的出口商是台灣Google,進口商則是印度一家名為 Tessolve Semiconductor 的公司,這間公司專注在進行半導體解決方案,Google有可能是將測試的工作轉交由該間公司來處理,以此來解決沒有跟三星晶片部門合作後,缺少的測試流程。
「AI輔助醫師」打造精準醫療3.0 癌症治療邁向智慧升級
中國醫藥大學附設醫院(中醫大附醫)宣布與Google Cloud合作,透過Google Cloud的生成式AI技術與建構於Med-PaLM 2之上的Google MedLM大型語言模型,將建構全方位「AI 輔助醫師(AI-assisted Physician)」,輔助醫護專家運用於診斷疾病、規劃治療疾病、病患教育,以及與醫學教育研究等領域。此合作將從癌症精準化治療著手,啟動「客製化癌症治療指引」與「化療問答集」應用,協助醫療人員縮短尋找資料的時間,以快速抓取正確資訊、產生癌症治療計畫書、提供病患個人化治療建議,以及提供回應病患衛教相關的疑問。中醫大附醫是Med-PaLM 2於亞洲地區首家合作的醫學中心,期望透過與 Google Cloud的合作,推動AI智慧醫療升級,使其邁向精準醫療3.0,建立台灣醫療保健的未來。中國醫藥大學附設醫院周德陽院長指出,MedLM對於藥物指引、疾病基因定序、醫療紀錄等資訊,能夠精準且快速分析,加速醫護團隊發現難治疾病的最新治療研究,協助快速提供治療規劃以幫助病人。Google Cloud醫療照護全球總監Aashima Gupta首次來台,表示生成式AI可為醫護人員減輕其工作負荷,讓他們除了能減輕認知負擔,也能提升對病患的個人照護。中醫大附醫是亞洲地區第一個與Med-PaLM 2合作的醫學中心,Google Research 傑出科學家暨資深總監Greg Corrado說明,MedLM是Google針對醫療保健產業所提供的大型語言模型,且是持續成長中的生成式AI技術家族的一部分,這些技術有潛力大幅提升醫護人員與病患對於醫療保健的經驗。中醫大附醫研究李光申副院長說明,在全球生成式AI大語言模型中,Med-PaLM 2在模型效能方面,於美國國家醫師考試中通過比率為85%,達到專業醫師等級的傑出表現,惟醫療模型也需要涵蓋來自不同地區的治療指引與照護文化,讓MedLM能更符合當地民眾的醫療與健康照護需求。中醫大附醫與Google Cloud目前啟動的合作應用,先從難治癌症疾病的精準化治療著手「客製化癌症治療指引」與「化療問答集」;「客製化癌症治療指引」是以國家綜合癌症網絡(NCCN)指南的基礎,結合Google MedLM醫療大型語言模型,可根據病人的癌症分期、治療方式和風險評估等方面,特別在難治癌症上,輔助醫療人員縮短尋找資料的時間,快速抓取正確資訊,產生癌症治療計畫書,提供病人個人化治療建議。在癌症病人的衛教方面,則運用提供「化療問答集」,將醫院癌症照護相關的衛教資訊導入 MedLM模型加以訓練和優化,使該系統具有豐富的醫學知識和問答能力,針對病人或民眾提問的問題,提供醫師專業與準確的回答內容,作為醫生參考。另外,在新藥研發上,中國大附醫使用Google獨有的AI加速器-Tensor Processing Unit (TPU) 資源,將有助於蛋白質摺疊運算和新藥開發。中醫大附醫表示,初步測試結果顯示,使用這些資源能夠縮短超過10倍相關程式的運算時間。中醫大附醫旗下人工智慧中心近年有超過20項AI醫療服務,輔助醫師能快速且精確地做出醫療決策,中醫大附醫透過使用Gooogle MedLM快速獲取正確的醫療資訊,不僅縮短醫護人員尋找資料的時間,且提供醫護人員全面的治療選擇,促進醫療品質,讓醫病互動更有溫度,共同邁向更健康的未來。
微軟、輝達都看好! 「這家公司」獲13億美元融資將與OpenAI打對臺
據香港萬得通訊社報導,人工智慧新創公司Inflection推出首個聊天機器人Pi不到兩個月,其首席執行長蘇萊曼(Mustafa Suleyman)就獲得了13億美元的新融資。微軟(Microsoft)、輝達(Nvidia)和三位科技界最有影響力的億萬富翁共同投資了這家於2022年初成立、總部位於舊金山的新創公司。領英(LinkedIn)聯合創始人霍夫曼(Reid Hoffman)、微軟聯合創始人蓋茨(Bill Gates)和谷歌前首席執行長史密特(Eric Schmidt)此前都對該公司進行了個人投資,輝達是該集團中唯一的新投資者。今年6月初,Inflection公司公佈了Pi的模型,並表示其計算能力與OpenAI公司的ChatGPT類似。蘇萊曼稱,短期內還會有一個API,供選定的合作伙伴訓練他們自己的會話人工智能。有了這筆資金,Inflection計劃繼續擴大其計算能力,進一步開發Pi。蘇萊曼表示,在推出會話聊天機器人Pi後,Inflection收到了大量報價,微軟和輝達兩家公司都沒有對Inflection擁有所有權或其他優先權利。「實際上,這是一個非常傳統的融資。我們仍然是完全獨立的,可以自由地在商業方面做任何我們想做的事情,並與任何我們想要的人合作,所以沒有真正的限制。」本輪融資完成後,Inflection的估值爲40億美元,也加深了與微軟和輝達的關係,這兩家公司都是人工智能競賽中的關鍵合作伙伴。微軟是OpenAI的主要投資者,也是Inflection的雲端計算合作伙伴;與此同時,輝達一直在與Inflection密切合作,部署其旗艦產品H100 Tensor核心GPU。蘇萊曼指出,該測試與訓練模型的計算能力相匹配,模型的開發估計需要三到六個月的時間,該測試在Inflection公司已經投入使用的3,584個H100 GPU上運行。但在本輪融資和合作之後,英偉達和CoreWeave現在正在幫助Inflection安裝更多的GPU。一旦完全投入使用,Inflection的新集羣將運行22,000個H100 GPU。也有人對Inflection是否需要如此鉅額的資金持懷疑態度,蘇萊曼對此解釋,雖然訓練人工智能模型的成本會隨著時間的推移而下降,但Inflection及其競爭對手希望訓練更大的模型,這代表它們的絕對支出將繼續增長。他表示,面對一個潛在的歷史性增長機會,Inflection最好的辦法是「閃電戰」,大量籌集資金以儘可能快地增長,避免更多風險。
NVIDIA成為首家「兆元俱樂部」晶片大廠 一文看懂輝達為何能獨領風騷!
在最近的人工智慧浪潮中,輝達(Nvidia Corporation)無疑是站在風口浪尖的一家公司,最近的表現甚至壓過了ChatGPT的東家微軟(Microsoft)。而NVIDIA之所以能獨領風騷,關鍵原因就是其備受人工智慧領域追捧的晶片,自從ChatGPT掀起「生成式人工智慧」的熱潮後,NVIDIA的A100Tensor Core GPU及更高一代的H100 Tensor Core GPU,便成為市場搶購的熱門產品,目前這些高端晶片及相應的顯卡已是一卡難求。綜合《財聯社》、BBC、CNBC的報導,近期AI概念股大熱,帶頭的NVIDIA漲勢不停,美東時間30日早盤開盤後,NVIDIA股價再飆近5%,市值正式突破1兆美元大關,雖然隨後又回吐漲幅,跌至9900億美元,但NVIDIA還是成為了第一家進入「兆元俱樂部」的晶片大廠。在30日開盤前,輝達的股價今年來已上漲166.5%。微軟亞洲高級研究員張弋近期在Podcast節目中感嘆,現在居然到了整個地球都拿不出足夠的A100晶片的奇怪場景,一年前,幾乎沒人能料到這一情形。而人工智慧領域的初創公司CoreWeave創始人兼首席執行官Brannin McBee更驚嘆,「H100是地球上最稀缺的工程資源之一」,這句話足以讓人理解NVIDIA的盛況。但令人好奇的是,為何只有NVIDIA的晶片能成為人工智慧領域獨一無二的玩家?而這家過去在顯卡稱霸的公司,又為何能在深度學習和人工智慧領域傲視群雄?1999年,初出茅蘆的NVIDIA首次推出了圖形處理器(GPU)這一概念。在此之前,包括英特爾(Intel Corporation)在內負責開發中央處理器(CPU)的公司都堅信圖形處理是CPU的事情,CPU幹的事越多越好,將圖形工作獨立到另一附屬處理器上的想法十分沒意義。此外,當時的圖形應用領域中又以搞遊戲的日本廠商話語權最重。日系主機的CPU很強,大部分開發工作都集中於CPU之上,因此GPU並沒有獲得多少市場青睞。不過,不服氣的微軟當時想要衝擊屬於日本廠商的行業領先地位,於是開發出了Direct X這一專為多媒體以及遊戲開發的標準化API圖形介面,此後大量的圖形功能從CPU裡面移植出來,轉到GPU之上。加上微軟另一產品Xbox的推出,其CPU、GPU各司其職的搭配,打破了行業內CPU晶片一家獨大的局面。而NVIDIA就是當年在硬體領域中少數幾家跟隨微軟腳步前進的公司。此後,微軟又推動了新的變革,引入統一著色器模型(Unified shader model),即GPU中一種著色器硬體形式。統一著色器只是圖形應用上的一步,但卻給NVIDIA帶來完全不同的發展路線,可以說是NVIDIA耕耘GPU,以及深度學習領域發展中的重要起點。在看到統一著色器模型後,NVIDIA果斷的把自己以前的GPU架構打掉重練。其GPU流處理器(Streamprocessor)被進行了細緻的分組,變成一個個小型流處理器且能單獨運行,解決了流處理器此前被綁定無法獨立運行而被迫閒置的問題。這奠定了NVIDIA後來革命性的統一計算架構(CUDA)的出世,透過此項技術,使用者可利用NVIDIA的GPU進行圖像處理之外的運算。由於NVIDIA的流處理器是很獨立且標準的單元,極易控制和調度,這讓原本只能連續處理的任務可以被並行處理,使程式設計難度大大降低。與此同時,NVIDIA的競爭對手冶天科技(ATI Technologies Inc.)卻因為早期沒有投入硬體架構變革,還是沿用過去的串列設計,導致沉沒成本(Sunk Cost)越來越高,最後便直接被NVIDIA擠出顯卡市場。此後,NVIDIA又在2017年引入了突破性創新技術Tensor Core計算單元概念,其專門為深度學習而設計,支持更低精度的運算,從而大幅節省了模型算力,並將NVIDIA的GPU變成高效率又多功能的人工智慧處理器。這一專用的加速單元很大程度上排擠了CUDA處理深度學習的空間,但也同時打了NVIDIA的競爭對手一個措手不及,讓AI專用晶片不再吸引人。於是,NVIDIA的GPU就在因緣際會之下成為AI領域最被認可的硬體。事實上,當AI爆紅後,行業內的企業才無奈發現,GPU是簡單高效運行生成式AI模型的最好選擇,一個本用來玩遊戲的GPU不太可能切換去跑AI程式,但NVIDIA的GPU就是做到了!
台積電太貴! 傳Google續找三星代工處理器
自高通從三星轉單台積電獲得優秀表現,谷歌(Google)的Google Tensor處理器就經常被拿來做比較。過往Google Tensor處理器都是由三星電子所代工生產。外媒報導,谷歌未來幾代Tensor處理器應該會持續與三星合作,原因是礙於成本考量,無法選擇良率較佳,但價格較高的台積電。根據SamMobile報導,消息人士透露,Google在2月份曾有意將第四代Tensor處理器改轉單台積電4奈米打造,但台積電代工價對手機市佔率不高的Google來說太昂貴,只好繼續由三星承接代工訂單,但目前尚不清楚將採用三星3奈米或4奈米製程。目前業者尚未證實,不過外界也都相當關注。報導指出,三星晶圓代工仍落後台積電於4奈米、5奈米製程上,效能與省電完全無法比擬,但三星3奈米GAA技術據傳大幅改善上述缺陷。此外,市場亦有消息傳出,原本台積電的大客戶超微(AMD)將部分4奈米訂單轉移給三星,也是因為受到成本考量。外傳三星4奈米良率和效能已經追上台積電。Tensor處理器是Google首度自行研發設計,並找來三星代工生產的行動裝置系統單晶片產品。包括下半年將推出的Pixel 8、Pixel 8 Pro等搭配的新款晶片Tensor G3,新一代處理器也已和三星旗下晶片事業部門System LSI合作設計,並採用三星4奈米製程技術。