台版Chat...
」
中研院學AI語言模型大出包 問國慶幾號回答「10月1日」
中央研究院近日推出類似CHatGPT（AI）的繁體中文語言模型「CKIP-Llama-2-7b」，但就有網友問「我國領導人是誰？」結果語言模型竟回答「國家主席習近平」，甚至被問我國法律，則回答「中華人民共和國憲法」，這樣的狀況曝光後，中研院也在今日緊急下架該軟體，並給出出現這樣狀況的說法。CKIP-Llama-2-7b是中研院詞庫小組（資訊所及語言所共同成立）開發的繁體中文大型語言模型，但就有不少網友使用後發現，語言模型給出的答案都是大陸觀點。如「我國領導人是誰？」語言模型直接回答「國家主席習近平」；「國慶日是何時？」回覆是每年的10月1日。這樣的狀況讓AI專家認為，中研院的語言模型都是採用大陸資料，再「簡體轉繁提」而已。對此，中研院資訊所也發布聲明表示，CKIP-LlaMa-2-7b並非「台版chatGPT」，跟國科會正在發展的TAIDE無關。CKIP-LlaMa-2-7b的研究目標之一，是讓meta開發的Llama 2大型語言模型具備更好的繁體中文處理能力。中研院資訊所表示，由於這是一項個人小型的研究，各界對該模型進行的提問測試，並未在原始的研究範疇。研究人員今日已將測試版下架，未來相關研究及成果釋出會更加謹慎。對相關研究的成果，公開釋出前，院內也會擬定審核機制，避免類似問題產生。
70歲AI衝浪王1／施崇棠掌舵30多年功力發威 華碩2個月火速建置台版Chat GPT「福爾摩沙大模型」
生成式AI熱潮掀起之際，台灣不落人後，與ChatGPT3.5同級的「福爾摩沙大模型」（Formosa FoundationModel，也可稱Formosa Chat）在5月17日亮相，它不但是首個繁體中文商用AI大模型，還可選擇地端（企業自家機房）建私有雲，它所需的超級算力「台灣杉２號」，幕後關鍵推手全是今年70歲華碩董事長施崇棠。「他（施崇棠）會念很多國外AI論文，跟我們討論。」台灣杉2、3號主持人、台智雲總經理吳漢章說，「去年底生成式AI出現、Chat GPT橫空出世，他看到『生產力革命』已經到來，並認為「『算力』將是驅動未來數位經濟，最重要議題。」在施崇棠一聲令下，吳漢章與超級電腦團隊待命，使用Bloom-zh繁體中文大模型開源，火力全開密集訓練、快速建置出福爾摩沙大模型，不到兩個月就在華碩AI超算年會中面世。近年鮮少出席公開場合的施崇棠，親自出席自家的超算年會，發下豪語要打造「AI Foundry」，興致勃勃地站在AI浪尖上，再展事業雄心，一如他27歲進入宏碁電腦，進入電腦產業「有幸躬逢其盛」，十年後成立「華碩電腦」，「開創一家電腦技術天下無敵的公司」初心。在全球PC市場裡，華碩（ASUS）與宏碁（Acer）「雙Ａ」品牌各擁一片天，而在詭譎多變的市場中，施崇棠不時運用孫子兵法策略，例如「蛇」般靈活推出主流產品頭尾夾擊，以「巨獅」做大衝量吃市佔、「銀豹」衝刺利基高值化產品，為業界津津樂道。在2017年11月華碩首款家庭智能機器人「小布（Zenbo Qrobot）」誕生，這款陪伴型機器人會說故事、教英文、打電話、拍照。（圖／報系資料照）這位前參與打造台灣成為電腦王國的大將，從電腦、筆電、手機做到伺服器，2015～2017年間面臨營收連續3年下滑，始終無法突破集團總營收5千億關卡，施崇棠清楚觀察到，筆電、PC及手機市場成長到了天花板，轉向AI人工智能尋求突破機會。在2017年11月，華碩推出首款家庭智能機器人「小布（Zenbo Qrobot）」見面會在北京舉行，這款會說故事、教英文、打電話、拍照的陪伴型機器人，一度造成轟動，儘管當時營收獲利貢獻有限，能量迄今延續到智慧醫療領域。2018年，華碩斥資百億進軍智慧醫療，施崇棠還親自挖角有微軟及Google經歷的黃泰一，在淡水總部大樓裡打造百人AI部隊智慧醫療，並與廣達、台哥大等參與打造台灣超級電腦台灣杉2、3號，吳漢章表示，基於各國家、文化、產業等情境不同及資安考量，「台灣需要一個基於本土算力的語言模型。」兩年前華碩進一步成立「台智雲」，接手台灣杉2號營運。從3C產品「硬體」切入AI算力「軟體」，施崇棠保持「躬逢其盛」，尤其Chat GPT去年底問世後，整個華碩的AI團隊通通上緊發條，他們很快發現，「因為ChatGPT生於美國，繁體中文資料比例低於0.1％、簡體中文資料不超過2％」，華碩營運長暨台智雲董事長謝明傑指出，「大部分是英文的腦，中文的腦相當少。」因此今年二月間聯發科將繁體中文生成式AI「BLOOM-zh」開源釋出後，台智雲靠著台灣杉2號超級算力，使用「BLOOM-zh」建置福爾摩沙大模型，大量「餵入」1760億個參數、比Chat GPT3.5還多10億個，相較於Chat GPT資料停留在2021年9月，福爾摩沙大模型持續更新資料；如此可以降低答非所問、「跟使用者道歉」的機率。「可以把『參數』理解為人類的神經元，讀了越多書、資料庫越多」，華碩雲服務事業部主管在AI超算年會現場展示攤位解釋，Formosa Chat除了繁體中文環境，還會講英、日、德、越南等46種語言，像是個飽讀詩書的大學生，正在實習，7月就開始正式到社會工作，「一些翻譯、分析企劃，寫簡單新聞稿、程式的工作，可以交給他」，目前規劃僅限企業使用。「每個問題是獨立的，別人不會知道你問了什麼，具高度隱私與資安防護。」依各行業需要的不同，如零售、電商、SaaS（軟體服務）等，會有相應的語言模型。這個生成式人工智慧雲即將在7月開放客戶申請，一個月費用約6萬元。台智雲華碩營運長暨台智雲董事長謝明傑（左）、台智雲總經理吳漢章（右）領軍團隊，已拜訪數百家機構，有成功替新加坡商場建立保全服務經驗。（圖／趙世勳攝）最近OpenAI執行長阿特曼（Sam Altman）應邀求出席美國參議院司法委員會聽證會，就是被詢問AI風險控管，而華碩已經提出解決方案－台智雲全球首創的服務「AFSAppliance（大型語言模型地端部署）」，內有散熱模組、2個CPU、32支記憶體，輝達A40視覺運算GPU則可依需要選1～8組，依不同需求，價格落在60～300萬，「如果醫療、金融、法律、製造、會計等，具機敏性、規範更高的企業，或訂製服務，就可以購買AI伺服器，放在公司裡變私有雲」。「福爾摩沙大模型，將是東南亞最安全語言模型。」吳漢章指出，台智雲有200人研發團隊，已經拜訪數百家機構，有成功替新加坡商場建立保全服務經驗：「客戶如果是企業自建AI團隊，會需要20個以上工程師、千倍以上的成本。」尤其對人力精簡、又需要算力的中小企業來說，是最佳解決方案。問及訂單情況，他含蓄表示：「不缺客戶。」
雙A吃資安軟飯2／華碩拼台版ChatGPT 施崇棠：「台灣出得了聯發科，為什麼出不了SaaS」催生台智雲
相較於宏碁旗下軟體資安的布局，華碩則是將主力放在高速算力的子公司台灣智慧雲端服務（台智雲）。台智雲總經理吳漢章告訴CTWANT記者說，「台灣杉二號」是科技部在2017年花費4年時間、耗資50億元，並曾打進全球前20大超級電腦。他參與了台灣杉二號的建立，最後在華碩董事長施崇棠的支持下，成立台智雲，讓台灣超級電腦的發展能夠進入產業界。台智雲為華碩旗下子公司之一，成立於2021年，推出亞洲第一台服務產業的商用高效運算AIHPC超級電腦，以打造AI數位經濟生態系為目標，協助產業快速取得高效益、低門檻的AI智慧應用及雲架構解決方案。台智雲本周也將發布台灣第一個企業級大型語言模型，並力邀AI產業鏈夥伴共談AI 2.0新革命與新商機。1974年次的吳漢章是華碩布局雲端市場的主要推手，一路從建中、台大電機系到台大電機研究所，吳漢章在30歲就開始創業，從創立全球聯迅開始，就持續耕耘雲端市場，一開始鎖定醫療領域，也獲得華新麗華董事長焦佑倫的1000萬元的資金，但5個月後就宣告計畫失敗，不過他仍持續耕耘雲端。華碩董事長施崇棠的力挺，讓台智雲得以順利成立。（圖／報系資料照、翻攝自台智雲FB）後來經由台大學長牽線，被施崇棠看中、2008年併入華碩，成立華碩雲端，便開始負責華碩雲端事業，以自有技術發展AI雲端平台。後來包括華碩雲端、華碩健康、台智雲等，都由吳漢章一手打造。「吳漢章對於雲端的堅持，真的是超乎想像，也是他總是這麼樂於工作的原因。」一位雲端企業主管說。2008年起雲端議題開始興起，施崇棠曾說：「台灣出得了聯發科，為什麼出不了SaaS（Software as a Service）服務廠商？」也奠定了華碩發展雲端的契機。對於雲端市場，吳漢章認為，企業在面對混合型態的 IT 數位辦公與OT工控應用，兼顧資料安全治理與高效協作，透過應用及服務虛擬化、雲端化逐步實現淨零碳排目標。因此華碩雲端以自有技術發展AI雲端平台，提供全球數千萬用戶雲端儲存服務、高資安檔案協作儲存平台與國家級AI雲端系統建置。「AI也需要資安，就跟一般的電腦一樣。」資策會MIC產業顧問潘建光說。（圖／翻攝自資策會網站）對於ChatGPT所引發的AI風潮，台智雲也在2月正式宣布，成為全台灣第一個成功建置 1,760 億個參數的BLOOM（BigScience Large Open-scienceOpen-access Multilingual Language Model）大模型，推出「AI 2.0 大算力顧問服務」。台智雲年度科技論壇也將在本周登場，今年以「AI 2.0 · 超算 · 新生態」為主軸，搶先發布台灣第一個企業級大型語言模型的技術與全新的商業模式。「AI也需要資安，就跟一般的電腦一樣。」資策會MIC產業顧問潘建光告訴CTWANT記者說。擁有20年雲端服務經驗的吳漢章也透露，AI的資安需求並沒有不同，其實華碩也是很早就有設立所謂資安長的職位，只不過相對於其他廠商成立公司，華碩還是以內部為主，並設有不同的專責單位來負責集團的資訊安全。