aiDAPT...
」
老黃新朋友1/兩年前被法人罵笨!群聯打進N體系 一招靈活變身「補教業+電子業」
「我去年底就判斷輝達今年會主打Edge AI,結果黃仁勳真的講了,我算是賭對方向。」群聯(8299)創辦人暨執行長潘健成今年初語帶得意地說,果不其然,輝達執行長黃仁勳去年底提出邊緣AI的重要,今年5月台北COMPUTEX上進一步宣示,「AI將擴展到每一個終端」,他身後萬眾矚目的供應鏈背板上,也首度出現台灣記憶體模組廠群聯與威剛(3260)。群聯6月6日剛交出的5月財報,營收56.9億元,年增6%。這兩年力推的企業平價導入AI的平台方案「aiDAPTIV+」,以及儲存策略配搭的自家固態硬碟(SSD),也開花結果,撐起營收獲利重擔。「過去記憶體供應鏈幾乎由南韓與美國大廠主導,這次終於寫進了台灣名字,對本地產業而言意義非凡。」一位半導體設備通路業者告訴CTWANT記者,輝達要加速AI落地,AI運算逐步走向終端設備,讓台灣記憶體模組廠角色因而升級。其實,2年前,群聯還一度被視為無緣AI浪潮。「群聯電子是做NAND的產業,兩年前法人還罵我們笨,為什麼不去蹭AI題材?」潘健成5月中旬在一場探討AI的論壇上,回憶起那段時間苦笑地說。所謂NAND Flash,是一種非揮發性記憶體,具有高密度、低成本、可重複寫入等特性,廣泛應用於手機、筆電、USB隨身碟等儲存裝置中;而SSD(固態硬碟)則是以NAND為核心的儲存產品,相較傳統硬碟具有速度快、抗震性強等優勢。群聯長年深耕NAND控制IC與模組市場,並未隨風炒題材,而是靜靜尋找真正適合切入AI的實用場景。群聯的全新固態硬碟(SSD)產品「aiDAPTIV+」,能夠在伺服器內透過群聯自己開發的軟體,將SSD模擬為記憶體使用,解決AI運算中記憶體容量的問題。(圖/翻攝自群聯電子臉書)他們的解法是從後訓練(post-training)階段切入,潘健成回憶,當時,群聯工程師團隊在以多個大型語言模型(LLM),如LLaMA、千問、DeepSeek等LLM實測,發現模型答對率僅約八成,「問五題錯一題,根本無法用在邊緣應用」,唯有後訓練才能讓模型在地端變實用,據此確認,資料儲存才是AI落地的下一哩路!一般企業導入AI模式,是先將資料「餵給」LLM,經過運算推論(inference)產生大量資料,最後存入儲存裝置。雖然地端AI邊緣運算遠不及雲端巨量算力需求,但訓練LLM仍需高度算力GPU(圖形處理器)搭配超大容量的HBM(高頻寬記憶體),GPU與HBM價格高昂,一名資訊服務龍頭企業的高層告訴CTWANT記者,「企業導入AI的預算常從300萬跳到2000萬元不等」,中小企業難以負荷。潘健成領著群聯技術團隊,從擅長的儲存裝置切入。他鮮活形容,「破解Out of Memory(記憶體不足)瓶頸,就是『騙』GPU,騙得過去,就過了!」只要利用自家開發的固態硬碟(SSD),搭配常規的繪圖卡,來取代昂貴的HBM,順利完成AI任務。群聯自家研發的企業級SSD(固態硬碟),已經通過美國客戶的認證,可望隨著美國太空總署(NASA)的載人太空任務Artemis二號,2025年9月奔向月球。(圖/翻攝自群聯官網)此外,這項技術也同步整合入NVIDIA Jetson平台,應用擴及機器人、智慧監控、醫療邊緣裝置等場域。潘健成形容,「我們不是要做最強,而是讓企業用得起、買得下、修得了AI系統。」群聯在邊緣AI上的技術布局,今年終獲黃仁勳公開背書,訂單前景也備受期待。潘健成在COMPUTEX自家攤位上親口證實,群聯的AI儲存解決方案,已正式納入輝達供應鏈體系;至於aiDAPTIV+是否進一步整合進入輝達平台,他笑著回應,「快了」。雙方雖未揭露合作細節,但從各方關注與洽談反應看來,群聯的地端AI解決方案已成功引起AI開發商與系統整合商的注意。「現在半導體產業是『N型結構』,好的那一塊都是NVIDIA(輝達)體系,跟他沒有關係的都很慘!」潘健成年初才說的話,不到半年就打入輝達體系。一位IC設計業人士告訴CTWANT記者,「現在市場看得很清楚,誰站在黃仁勳那一邊,誰就站在有光的那一面。」
老黃新朋友2/他34歲登股王!又遇官司跌谷底 揭「隨身碟之王」25年創業實錄
「我不在乎我們被定義成半導體還是系統廠,我只在乎我們能不能賺到足夠利潤,投資研發、拉開與對手的距離。」記憶體控制晶片大廠群聯電子(8299)創辦人潘健成,今年以邊緣AI儲存新解方打入輝達供應鏈,重獲市場關注。貴為一家千億市值公司的執行長,潘健成這兩年卻如同超級「業務員」,四處簡報、親自上陣,推銷自家新推的aiDAPTIV+方案,主打以自家固態硬碟(SSD)代替高頻寬記憶體(HBM)功能,讓中小企業用得起大型語言模型(LLM),也可整合進NVIDIA Jetson平台。「老闆一聽AI要三千萬,他可能會想三年;你跟他說一兩百萬,他可能馬上試看看。」潘健成5月中旬出席一場AI分享論壇時笑著說道,群聯的策略就是讓AI變得「買得起、用得起」。再者,潘健成發現,「客戶不是不用,是不知道怎麼用。」他腦筋動得飛快,順勢將業務推廣延伸至教育訓練,推出12萬元教育訓練機、150萬到300萬元等級的企業邊緣AI工作站,使群聯從單純賣零組件,跨界提供「包山包海」的完整解決方案,讓客戶「用滿意再付錢」。為搶下這場AI普及戰的先發優勢,群聯還踏入「補教業」。潘健成曾透露,公司每週都在開課,一堂課3萬元,幫助客戶內部培養人力,「我們現在是補教業兼電子業!」群聯從3000萬起家,如今市值上看1050億元,股價6月13日收盤來到526元。(圖/報系資料照)群聯成軍25年,從3000萬起家,如今市值上看1050億元,去年EPS 38.95元,股價一度漲到785元,今年還入列輝達供應鏈,後市可期。這一切都不得不提到今年51歲的潘健成,他原是馬來西亞僑生,幼年家境清寒,19歲隻身來台,在交通大學控制工程學系苦讀、工讀度日,後來直升控制工程研究所,便踏入NAND儲存領域。2000年,26歲的潘健成與四位夥伴在新竹創立「Phison」(群聯的英文名稱),正是「five persons」的縮寫,團隊窩在工研院創業育成中心地下室埋首開發,之後設計出全球第一顆USB快閃記憶體的儲存控制單晶片(SoC),推出全球第一支單晶片隨身碟Pen Drive。當時市場主流仍是光碟、磁碟等傳統儲存媒介,對新興的快閃記憶體應用沒信心,2001年USB隨身碟興起,群聯也一炮而紅,創業第二年就賺進上千萬元,三年內掛牌上市,當時創下台廠最快IPO紀錄,2005至2007年連三年大成長,股價最高曾衝上700元,登上股王寶座,潘健成也從「隨身碟之王」,被封為「林百里第二」。然2008年金融海嘯重挫全球市場,群聯也受創,接下來十年更面臨韓廠、陸廠的大規模擴產與殺價戰夾殺,面臨營運壓力的潘健成,卻在不景氣中強化體質、擴展產品線,從USB擴展到嵌入式記憶體eMMC/UFS,再攻入SSD控制晶片與模組整合市場。更嚴峻的挑戰是2016年,潘健成因財報事件捲入官司,最終雖獲緩刑,但也丟失董事長大位。多位業界人士向CTWANT記者透露,「(潘健成)確實有一些個人爭議啦,但也有過人的市場嗅覺與行動力,算是一位具實戰能力與執行力的創業者。」今年的COMPUTEX,群聯就在自家攤位展出,台灣大採用自家方案所推出的「AI聽寫大哥」, 是能聽懂台灣、中英文等多種語言混用的AI語音紀錄平台,成為地端AI落地的代表作之一。(圖/翻攝自群聯電子臉書)潘健成退居執行長後,仍站在第一線,2020年疫情影響,加上AI應用崛起,帶動WFH的各種衍生應用需求,包含雲端服務、遊戲產業、遠距教學、以及NB電腦產業等,帶動高性能的記憶體需求大增,助攻群聯營收,全年衝上485億元、EPS 44.14元,創歷史新高。接著,ChatGPT等LLM陸續問世,給了AI從雲端到地端的落地契機,潘健成看準邊緣AI的革命性需求即將到來,快速推出可平價導入AI的aiDAPTIV+方案,為營收獲利再添新動力,2024年營收589億元,EPS達38.95元,其中模組產品已佔營收72%、控制IC占7.83%。如今,群聯打入輝達AI供應鏈,潘健成不忘嗨喊,「走地端,不是我賺你錢,是我們一起來!」潘健成也強調,過去的努力沒有白費,如今群聯擁有必要資源與市場基礎,未來將持續深化技術,正如他在5月27日的股東會上所言,「就像台積電(2330)持續投資先進製程,如今已成為全球獨霸的半導體龍頭,群聯也會持續強化研發實力,朝領導地位邁進。」
阿波羅電力將攜手群聯電子締結長期綠電合作協議
阿波羅電力今日與全球最大的NAND控制晶片暨NAND儲存獨立供應商群聯電子(TPEx:8299)宣布雙方同意將為為期10年的綠電購售契約展開協議;阿波羅電力預計將自2025年起向群聯電子供應總計超過3,600萬度的綠電,協助群聯電子達成減碳及永續發展的目標。阿波羅董事長王惠民表示,"面對全球氣候變遷的挑戰,我們深知企業需積極承擔減少碳足跡的責任。與群聯電子的合作不僅彰顯了我們在再生能源領域的專業實力,也希望能鼓勵更多企業加入可持續發展的行列,共同推動RE100目標的實現。"群聯電子執行長潘健成表示,"實現減碳是我們對環境負責的重要目標。此次與阿波羅電力的長期綠電合作,不僅能有效降低我們的碳排放,還能提升我們在國際市場的競爭力。阿波羅電力在綠電供應及能源管理的專業能力,將是我們達成永續發展目標的重要夥伴。此外,群聯獨家專利的AI方案aiDAPTIV+也預計將導入阿波羅的綠電管理系統,協助建構AI智慧客服、及時儲能與供電資訊、太陽能板故障風險推估、電價精算與優化建議、甚至提供綠電調度建議等,共同實現對友善環境的承諾。"阿波羅電力將於2024年10月2日至4日參加「台灣國際智慧能源週(Energy Taiwan)」與「台灣國際淨零永續展(Net-Zero Taiwan)」,並於台北南港展覽館2館四樓的阿波羅電力攤位(展位編號:S0516)展示群聯aiDAPTIV+系統最新技術應用,該系統利用先進的算力與AI技術,能讓使用者透過電費單即可產出評估報告,快速估算搭配POWERWALL儲能系統後的電費節省潛力;未來針對光電、綠電文件申請、模組擺佈、電站維護、模組故障定位、大量數據管理、以及氣象預測及綠電調度等項目導入aiDAPTIV+系統來解決痛點。王惠民強調,"群聯aiDAPTIV+ 技術方案的導入,使我們能夠更智慧地管理綠電資源,最大化再生能源的利用效率,進一步支持我們的永續發展目標。”
研華Q1 EPS 2.32元 估Q2挑戰仍嚴峻4/30舉行法說會
工業物聯網廠研華(2395)今(26)日舉行董事會,通過2024年第一季合併財務報告,合併營收為新台幣138.79億元,年減20%,營業毛利為55.48億元,毛利率40.0%,合併稅後淨利為19.93億元,年減33%,第一季合併每股稅後盈餘為2.32元。研華預計於4月30日舉行法說會。研華表示,第一季營收若以美元表達,為4.43億元,年對年衰退22%。就區域別來看,以台灣市場表現最為突出,年對年成長9%;中國市場因軌道交通及半導體設備相關需求回穩,僅個位數衰退,而北美、歐洲、北亞及新興市場則受企業支出縮減影響需求疲弱,營收表現雙位數年減。至於各事業群表現方面,第一季均呈現年對年雙位數衰退。研華財務長暨綜合經營管理總經理陳清熙表示,2024年景氣緩步由谷底回溫,各市場客戶訂單仍偏保守,公司首季營收符合先前淡季預估。接單方面,首季整體接單/出貨比值(B/B Ratio)為0.97,包括北美、中國及歐洲三大區域BB值已築底並穩健回升,其中北美及中國BB值皆較上季成長,分別達0.91及1.0;歐洲BB值則持平於0.97水準。然整體接單金額尚未回歸常態,估計第二季營收成長動能偏緩。研華表示,整體第二季景氣及區域市場之挑戰仍嚴峻,公司也在營運淡季持續內外並進、奠定成長基礎。其中對外擴展Edge AI聯軍陣容,包括四月與高通深化策略合作、與群聯『aiDAPTIV+』 合作增強AI LLM 的能力等,未來將加速邊緣人工智慧生態系形成。內部則持續優化庫存結構及內部流程,營運現金流穩健發展。展望下半年,研華預估,全球工廠自動化、智慧能源及基礎建設升級等轉型佈建將進一步加速,可望帶動相關新專案出貨表現。
繁中守護者3/「連阿嬤都會用!」聯發科跨界做AI平台報帳面試還能幫忙寫程式
「大家都在問為什麼聯發科要做這件事情?因為我們蔡董說,『2024年讓AI普及在臺灣,是聯發科技集團的使命』所以不管哪一個部門,都把這件事當成最重要的目標,而且要思考,生成式AI如何提升生產力。」聯發科技人工智慧暨數據工程處副處長楊建洲向CTWANT記者表示。晶片設計龍頭跨界AI,聯發科技在4月9日對外正式宣布生成式AI服務平台「MediaTek DaVinci」(聯發科技達哥),背後的動機,除了董事長蔡明介認為聯發科的競爭力就是「技術力」,更希望台灣產業加速導入生成式AI,讓原本「超級富豪才玩得起的AI,可以用更便宜的方式、且各行各業都能取得。」群聯電子技術長林緯說。國際電機電子工程師學會(IEEE)今年5月將頒發電子產業最高個人榮譽之一 IEEE Robert N. Noyce Medal 予聯發科技董事長蔡明介,以彰顯他的遠見及對全球半導體產業的影響力,賦予世界各地數十億平民百姓使用先進科技的機會與帶來的好處。「我常跟團隊說,如果你做出來的東西,你的阿嬤不會用的話,就要退回去,所以我們的平台必須要夠開放、夠安全,而且不斷迭代進步。」楊建洲說。MediaTek DaVinci原先是為集團內部打造具資料安全性、提高生產力的生成式AI工具,後續獲各部門廣泛使用。「其實DaVinci這個名字,是我們問系統,如果你想要一個有藝術、科技、人文特質的名字,要取什麼,他就幫自己取了DaVinci達文西,」楊建洲跟CTWANT記者透露,「我覺得這個很棒,我們公司是『發哥』嘛,現在又有『達哥』,聽起來很『發達』。」聯發科技人工智慧暨數據工程處副處長楊建洲。(圖/記者黃耀徵攝)聯發科人工智慧暨數據工程處協理葉家順表示,聯發科約2萬名員工有1萬人會寫程式,所以在開發時就鼓勵大家一起用,去年5月11日上線、12月推出智慧助理功能,目前達哥平台在聯發科集團滲透率達96%,有跨50多個部門參與這個生成式AI專案,使用後更是取得8成以上的員工認同。目前聯發科內部使用達哥做軟體開發的分析需求規格、生成技術文件,在編寫程式部分,能協助寫程式、協助除錯和Code review等工作,另外還能幫助開發者自動生成測項、自動生成測試案例等,其他還有像是人資篩選履歷和自動配對,財務自動辨識發票並報銷流程,法務拿來專利翻譯、合約修改,銷售業務也可以即時查詢客戶訂單出貨等資訊。「其實我們一開始就有同仁用達哥做炒股、搶票小幫手,不過後來都被公司刪掉了,被說應該做點『正經事』。」聯發科員工笑著說。葉家順坦言,目前達哥平台可能只有70分,但這是一套可不斷進化的系統,達哥1.0在去年完成,今年2.0版本新添智慧助理架構,具備4個主要商店,包括AI模型、擴充外掛、提示範本、知識庫(DVCs)等,使用者可用來打造適合自己的智慧助理。此外,達哥平台本身也有內建一般企業常用的功能,像是DocChat可用來分析競爭對手、履歷表媒合、技術文件摘要,VideoChat則能自動生成會議記錄、產出YouTube影片摘要、TED影片摘要等,WebChat能用於技術趨勢分析、市場趨勢收集、產業新聞集錦等。而Plugins新功能,可提供企業知識檢索、RPA自動化等。各界都知道生成式AI很強,但實際落地很少,因此達哥平台在聯發科內部上線測試後,台廠趨之若鶩,紛紛上門。「去年第二季集團內部開始測試後,第三季、第四季很多業界的學長學弟跑來詢問,能不能讓他們也試試看。」葉家順說,聯發科上個月開放給外部企業申請串接,目前已有數十家來自高科技、金融、電信、法律、製造、銷售、服務、系統整合、雲端服務等行業的企業,以及教育機構、新創公司加入。生成式AI服務平台MediaTek DaVinci合作多家系統商,包含宏碁資訊服務、雲馥數位、賽微科技、緯創軟體等。(圖/記者黃耀徵攝)目前該平台合作多家系統商,包含宏碁資訊服務(AEB)、雲馥數位(CloudRiches)、賽微科技(Cyberon)、緯創軟體(WITS)等;賽微科技表示,可以想像達哥平台就像是一個App Store,而系統廠就像是內容開發商,在上面開發不同的APP應用程式,與公司內部系統串接,假設員工要請假,只要在達哥平台介面上說「我要請假」,就會串接到公司人資系統,幫員工導入請假程序。全球最大的獨立快閃記憶體(NAND Flash)控制晶片IC設計廠群聯電子跟聯發科合作,以固態硬碟(SSD)整合AI運算架構,降低AI基礎建設的硬體成本,打造比傳統AI伺服器耗電更少的「aiDAPTIV+」方案,也就是一台電腦主機大小,就能讓一般企業在公司裡用內部網絡使用自己的生成式AI,價格便宜、CP值高,插一般的電源就可以,不用特別幫機器吹冷氣,也不怕上傳雲端後資料外洩。群聯電子技術長林緯表示,他們現在內部也在用達哥系統,因為過去老一輩的高層擔心用ChatGPT資安會有問題、怎麼控管、如果新創公司倒了怎麼辦等等問題,所以才停滯不前,而聯發科推出這樣的平台,解決了這些問題,「真的能更快地推動人類AI的普及。」
群聯自研AI方案正式導入Kingston、華泰 潘健成:讓AI技術擴大應用如PC普及
NAND控制晶片廠群聯電子(8299)今(24日)宣布,自主研發的AI落地應用服務方案aiDAPTIV+,已成功導入遠東金士頓科技(Kingston Technology)與供應鏈夥伴華泰電子(2329)AOI系統,加速進入工業4.0。群聯電子執行長潘健成表示,很高興遠東金士頓科技與華泰電子願意攜手群聯,共同將群聯的aiDAPTIV+ AOI技術落地至實際的生產線AOI應用,證明群聯的aiDAPTIV+技術不僅可以有效降低AI落地運算的硬體建構成本,也能實際助力日漸普及的各種AI應用需求。未來群聯的aiDAPTIV+技術將持續延伸擴大至各種AI應用,讓AI技術能如PC電腦一樣普及化。群聯於2023年7月發佈自主研發的AI人工智慧運算服務aiDAPTIV+,是透過群聯獨創整合SSD的AI運算架構,將大型AI模型做結構性拆分,並將模型參數隨應用時間序列與SSD協同運行,在有限的GPU與DRAM資源下,最大化可執行的AI模型,預計能有效降低提供AI服務所需投入的硬體建構成本。遠東金士頓全球製造副總經理蔡錫銘指出,公司的SMT生產線的產品種類很多且複雜度較高,回顧剛開始導入群聯的aiDAPTIV+ AOI方案時,雙方團隊在不良品檢出的AI圖像學習有非常密切的合作,整個導入時間大約花費2-3個月,非常的快速有效率。展望未來,有信心可以有效降低AOI誤判率,讓整體直通率提升至99%以上。華泰董事長董悅明表示,這次導入時間大約3-4個月,雙方團隊密切的透過AI影像學習,將公司的SMT AOI直通率提升至95%左右,目前公司的載板生產線也正在導入群聯的aiDAPTIV+ AOI方案,目標是希望直通率提升至99.7%以上。