福爾摩沙大模...
」 施崇棠 台智雲 華碩 福爾摩沙大模型
70歲AI衝浪王1／施崇棠掌舵30多年功力發威 華碩2個月火速建置台版Chat GPT「福爾摩沙大模型」
生成式AI熱潮掀起之際，台灣不落人後，與ChatGPT3.5同級的「福爾摩沙大模型」（Formosa FoundationModel，也可稱Formosa Chat）在5月17日亮相，它不但是首個繁體中文商用AI大模型，還可選擇地端（企業自家機房）建私有雲，它所需的超級算力「台灣杉２號」，幕後關鍵推手全是今年70歲華碩董事長施崇棠。「他（施崇棠）會念很多國外AI論文，跟我們討論。」台灣杉2、3號主持人、台智雲總經理吳漢章說，「去年底生成式AI出現、Chat GPT橫空出世，他看到『生產力革命』已經到來，並認為「『算力』將是驅動未來數位經濟，最重要議題。」在施崇棠一聲令下，吳漢章與超級電腦團隊待命，使用Bloom-zh繁體中文大模型開源，火力全開密集訓練、快速建置出福爾摩沙大模型，不到兩個月就在華碩AI超算年會中面世。近年鮮少出席公開場合的施崇棠，親自出席自家的超算年會，發下豪語要打造「AI Foundry」，興致勃勃地站在AI浪尖上，再展事業雄心，一如他27歲進入宏碁電腦，進入電腦產業「有幸躬逢其盛」，十年後成立「華碩電腦」，「開創一家電腦技術天下無敵的公司」初心。在全球PC市場裡，華碩（ASUS）與宏碁（Acer）「雙Ａ」品牌各擁一片天，而在詭譎多變的市場中，施崇棠不時運用孫子兵法策略，例如「蛇」般靈活推出主流產品頭尾夾擊，以「巨獅」做大衝量吃市佔、「銀豹」衝刺利基高值化產品，為業界津津樂道。在2017年11月華碩首款家庭智能機器人「小布（Zenbo Qrobot）」誕生，這款陪伴型機器人會說故事、教英文、打電話、拍照。（圖／報系資料照）這位前參與打造台灣成為電腦王國的大將，從電腦、筆電、手機做到伺服器，2015～2017年間面臨營收連續3年下滑，始終無法突破集團總營收5千億關卡，施崇棠清楚觀察到，筆電、PC及手機市場成長到了天花板，轉向AI人工智能尋求突破機會。在2017年11月，華碩推出首款家庭智能機器人「小布（Zenbo Qrobot）」見面會在北京舉行，這款會說故事、教英文、打電話、拍照的陪伴型機器人，一度造成轟動，儘管當時營收獲利貢獻有限，能量迄今延續到智慧醫療領域。2018年，華碩斥資百億進軍智慧醫療，施崇棠還親自挖角有微軟及Google經歷的黃泰一，在淡水總部大樓裡打造百人AI部隊智慧醫療，並與廣達、台哥大等參與打造台灣超級電腦台灣杉2、3號，吳漢章表示，基於各國家、文化、產業等情境不同及資安考量，「台灣需要一個基於本土算力的語言模型。」兩年前華碩進一步成立「台智雲」，接手台灣杉2號營運。從3C產品「硬體」切入AI算力「軟體」，施崇棠保持「躬逢其盛」，尤其Chat GPT去年底問世後，整個華碩的AI團隊通通上緊發條，他們很快發現，「因為ChatGPT生於美國，繁體中文資料比例低於0.1％、簡體中文資料不超過2％」，華碩營運長暨台智雲董事長謝明傑指出，「大部分是英文的腦，中文的腦相當少。」因此今年二月間聯發科將繁體中文生成式AI「BLOOM-zh」開源釋出後，台智雲靠著台灣杉2號超級算力，使用「BLOOM-zh」建置福爾摩沙大模型，大量「餵入」1760億個參數、比Chat GPT3.5還多10億個，相較於Chat GPT資料停留在2021年9月，福爾摩沙大模型持續更新資料；如此可以降低答非所問、「跟使用者道歉」的機率。「可以把『參數』理解為人類的神經元，讀了越多書、資料庫越多」，華碩雲服務事業部主管在AI超算年會現場展示攤位解釋，Formosa Chat除了繁體中文環境，還會講英、日、德、越南等46種語言，像是個飽讀詩書的大學生，正在實習，7月就開始正式到社會工作，「一些翻譯、分析企劃，寫簡單新聞稿、程式的工作，可以交給他」，目前規劃僅限企業使用。「每個問題是獨立的，別人不會知道你問了什麼，具高度隱私與資安防護。」依各行業需要的不同，如零售、電商、SaaS（軟體服務）等，會有相應的語言模型。這個生成式人工智慧雲即將在7月開放客戶申請，一個月費用約6萬元。台智雲華碩營運長暨台智雲董事長謝明傑（左）、台智雲總經理吳漢章（右）領軍團隊，已拜訪數百家機構，有成功替新加坡商場建立保全服務經驗。（圖／趙世勳攝）最近OpenAI執行長阿特曼（Sam Altman）應邀求出席美國參議院司法委員會聽證會，就是被詢問AI風險控管，而華碩已經提出解決方案－台智雲全球首創的服務「AFSAppliance（大型語言模型地端部署）」，內有散熱模組、2個CPU、32支記憶體，輝達A40視覺運算GPU則可依需要選1～8組，依不同需求，價格落在60～300萬，「如果醫療、金融、法律、製造、會計等，具機敏性、規範更高的企業，或訂製服務，就可以購買AI伺服器，放在公司裡變私有雲」。「福爾摩沙大模型，將是東南亞最安全語言模型。」吳漢章指出，台智雲有200人研發團隊，已經拜訪數百家機構，有成功替新加坡商場建立保全服務經驗：「客戶如果是企業自建AI團隊，會需要20個以上工程師、千倍以上的成本。」尤其對人力精簡、又需要算力的中小企業來說，是最佳解決方案。問及訂單情況，他含蓄表示：「不缺客戶。」
70歲AI衝浪王2／Formosa Chat讓台灣接軌生產力革命時代 「打造台智雲成AI界台積電！」
華碩旗下台智雲日前發表「福爾摩沙大模型」，讓台灣在生成式AI大浪不落人後，主要歸功於超級電腦「台灣杉2號」，這是東南亞唯一的高階商用AI算力。「台灣擁有比鄰近國家，更優越的算力動能，已進入AI2.0時代。」參與打造台灣超級電腦的華碩董事長施崇棠說。全球僅25座商用AI超級電腦，台灣杉2號是其中之一，由此可見算力的稀缺性；台智雲總經理吳漢章是當時競標超級電腦的團隊主持人，指出當時有國內外數個團隊積極參與，不過團隊以算力勝出，而且評審團相當看重技術自主，造就本土團隊的優勢。台灣杉2號是在陳良基科技部長任內的建設，他5月17日出席超算年會時指出，儘管現在AI就在眼前，當年他推動時並不容易，所幸施崇棠、廣達董事長林百里、及台灣大哥大董事長蔡明忠跳出來，加上輝達（NVIDIA）參與合作，才讓台灣杉2號做起來，甚至在當年度成為全球排名前20、能源效率前10名的超級電腦，「這是台灣不曾有過的佳績」。華碩 AI 雲創園區。（圖／趙世勳攝）台灣杉2、3號是2018年國家以前瞻基礎建設預算，3年斥資30億打造的AI超級電腦，由國網中心負責設計監造、台灣大哥大建置符合國際標準的機房建置及電信級資安維運、廣達則是資料儲存平台、華碩執行雲端服務平台及AI應用整合。台智雲今年並再度參與台灣杉4號，從國家超級算力基礎建設，累積打造生成式AI國家隊5年經驗。兩年前，科技部將台灣杉2號商業營運權與團隊授權移轉到台智雲之後，如今出現生成式AI「福爾摩沙大模型」，現在無論多大、多小規模的企業級客戶，都能使用這座斥資50億打造的超級電腦。輝達台灣區業務暨行銷副總裁邱麗孟認為：「尤其台灣是貿易之島、很多中小企業，又有很強ICT能量。」輝達2017年起與華碩頂尖超級電腦團隊合作，參與台灣杉2、3、4號建置，如今再次協助台智雲成為亞洲唯一、提供商用AI超算服務的雲端服務業者。施崇棠希望復刻「過去30年，半導體製造能力與電腦產業生態，令台灣變成世界不可忽視的ICT產業重鎮」經驗，他發下豪語，要進一步打造「台智雲成AI界台積電、AI Foundry」，建立起跟半導體一樣成功的商業模式，他認為在AI2.0新生態，創造連結夥伴也最重要的功課之一，也能藉此延續台灣的科技實力。（左至右）華碩雲端暨台智雲總經理吳漢章、台灣大哥大資訊長蔡祈岩、華碩副董事長徐世昌、前科技部長陳良基、華碩董事長施崇棠、台灣雲端物聯網產業協會理事長李世光、NVIDIA全球副總裁暨台灣區總經理邱麗孟、華碩營運長暨台智雲董事長謝明傑出席台智雲 2023超算年會，陣容浩大串接台灣供應鏈。（圖／趙世勳攝）
70歲AI衝浪王3／輝達引爆生成式AI概念股 創辦人黃仁勳身價翻倍29日現身Computex
華碩（2357）台智雲研發台灣本土生成式AI機器人「福爾摩沙大模型」有成，華碩董事長施崇棠自比「AI界台積電」，發豪語要打造「AI Foundry」；顯卡教父、輝達（nVidia）創辦人黃仁勳來台，5月27日出席台灣大學畢業典禮，29日在台北國際電腦展（Computex）發表他心裡的人工智慧（AI）大計，由於這是他美國之外唯一親自現身的演說，顯見對台廠AI量能的重視，引領台廠供應鏈蓄勢待發。 去年11月聊天機器人Chat GPT面世後，供應AI超級算力的繪圖晶片（GPU）龍頭大廠輝達（nVidia）股價從谷底翻倍，25日收報388美元，市值邁向1兆美元、超過股神巴菲特的投資公司波克夏，創辦人黃仁勳的維安費用也跟著大增7倍。「生成式AI，是我們重新發明運算」，黃仁勳上週接受CNBC專訪時再次宣告這項技術的重要性，此前則指出AI的「iPhone時刻」已經來臨，然而，因其前所未有的速度處理和分析數據的能力，讓生成式AI繼半導體之後，成為地緣政治的新戰場。輝達A系列（Ampere）是用GPU組成的運算架構，主打用於視覺運算，而輝達GPU的製造商台積電，也應美國要求赴當地設廠－這是美國鞏固算力的大戰略。輝達GPU產能主要來自台積電7奈米以下先進製程，連帶使的台廠IC設計、製造躍升AI概念股，其應用則有高速運算、伺服器、超級電腦等，高速運轉的情況下，散熱、維持電源穩定也是重點。AI概念股有晶圓製造台積電（2330）；IC設計緯穎（6669）、矽力*-KY（6415）、信驊（5274）、譜瑞-KY（4966）、創意（3443）、世芯-KY（3661）、祥碩（5269），AI伺服器設計製造商廣達（2382）、華碩（2357）、技嘉（2376），散熱供應商健策（3653）、台達電（2308）、雙鴻（3324），連接器製造商嘉澤（3533），以及不斷電設備旭隼（6409）等。台北國際電腦展是世界矚目的國際大展，將看到最新AI應用。（圖／報系資料照）華南投顧董事長儲祥生指出，「本波創意、世芯-KY股價再創新高，因為他們的客製化晶片ASIC可以應用在AI伺服器。」至於廣達重新收復百元大關，除了設計製造AI伺服器，也組裝蘋果電腦MACBOOK，第3季蘋果將舉行新品發表會，都搭上流行議題而受市場矚目，儲祥生提醒，還需要看接單情況以及對營收貢獻程度。至於即將登場的Computex，一向是國際指標大展，「新品或能刺激庫存消化，這對長期趨勢是正向幫助。」儲祥生說，可關注落後補漲的相關類股。資深分析師杜金龍說，「去年炒元宇宙、今年是AI聊天機器人」，但AI機器人因為實際應用面世，整個供應鏈股價都活起來，以IP矽智財公司創意為領頭羊，專注AI伺服器的廣達有接到單，緯創、緯穎、仁寶…等伺服器組裝廠都會輪漲。在5月19日廣達股價正式超車鴻海，杜金龍認為，追根究柢是廣達耕耘本業AI伺服器已久，股價展現出爆發力，也因鴻海長期在80～100元之間箱型整理，又每年配息在5元左右，在股民心中的印象跟中華電信一樣穩定，儘管有電動車N7上市議題，表現如何也是要等年底才分曉。此外，杜金龍提醒，台股這波大漲也因為總統就職週年520行情遭全力作多，在520之後，有實際業績的AI供應鏈應持續輪漲，投資人可以仔細尋找還沒有表現的概念股搭順風車，而持續盤旋的電子業庫存難題並不困擾，將在有春訊時利空出盡。
台智雲福爾摩沙AI語言模型7月啟用 施崇棠：將帶動生產力革命
台碩（2357）旗下台智雲今日舉辦「AIHPCcon台灣AI超算年會」，發表透過台灣杉二號超級電腦建立的台灣第1個AI語言模型「福爾摩沙」，將在7月開放企業客戶申請使用。華碩董事長施崇棠今指出，這將「帶動新一波生產力革命」。施崇棠出席活動表示，「AI超算已被視為驅動未來數位經濟最重要的引擎，華碩擁有頂尖的AI超級電腦團隊，2021年投資成立台智雲，成為亞洲唯一提供商用AI超算服務的企業，積極建構算力、打造平台、連結夥伴，共創AI 2.0生態圈，期望台灣延續ICT產業實力，成為AI 2.0時代不容忽視的數位重鎮。」該模型結合繁中的語意理解與文本生成能力，表現接近GPT3.5、 但數據更新；推出企業級生成式AI解決方案，以全新的商業型態，提供企業彈性、安心、快速優化出符合產業應用，並結合生態圈夥伴資源，創造可信賴的AI 2.0未來機會。除了發布與GPT-3.5同級的福爾摩沙大模型外，台智雲結合AIHPC算力與No-code大模型優化平台，推出全方位的企業級生成式AI解決方案，提供快速調動AI超級電腦算力、容易優化模型與彈性部署模型的方案(AI Foundry Service, AFS)系列服務。該服務包含「AFS Platform(大型語言模型優化服務)」、「AFS Shuttle(大型語言模型優化共乘服務)」「全球首創AFS Appliance(大型語言模型地端部署解決方案)」、「AFS Cloud(大型語言模型託管服務)」。在這樣的架構下，台智雲提供可信賴、節能且可自由遷移部署的優化AI模型，使企業能夠在公有雲、私有雲之間無縫移動或調整AI工作負載，協助企業快速進入AI 2.0應用趨勢和落地實踐。AI智慧應用、產業最新發展和解決方案，包含精準醫療、數位雙生、智慧製造、智慧交通和智慧商務，共同探討如何利用最新的數位技術與算力滿足產業的AI場景與應用，以開放平台創造AI 2.0應用新生態。