張智星
」 金融 AI
金融AI Agent 1／國泰玉山二家金控登NVIDIA GTC TAIPEI 揭黃仁勳心機
輝達執行長黃仁勳所到之處，總掀起新旋風，今年在Computex台北國際電腦展演講時的「背板」，則成了市場及業界的新亮點，首度出現金融業，包括國泰金（2882）、中信金（2891）及玉山金（2884）旗下的玉山銀行，究竟這三家為何榜上有名？CTWANT記者調查，原來與黃仁勳今年初高喊的「AI Agent」（AI代理）有關。CTWANT記者進一步採訪，輝達今年新業務是將AI Agent向各產業推廣應用，背板上的國泰金、玉山金控受輝達邀請，出席5月21日於北市南港漢來大飯店登場的「NVIDIA GTC TAIPEI」論壇，分享雙方策略合作初步成果，即是呈現金融業AI Agent實際應用的可能樣貌。國泰金由副總暨國泰世華銀行數據長梁明喬帶隊，偕同數據暨人工智慧科技部經理謝昌宏，花了40分鐘演講說明國泰如何透過本土金融知識訓練，強化大型語言模型金融知識專業，在進階授信人員證照考試中，以90分高分通過取得證照，驗證AI Agent在金融領域的發展潛力。玉山金則由科技長張智星領軍，在輝達論壇上分享兩點，一是以「驅動理財」為主題，將銀行理專提供VIP客戶相關研究報告資料等服務，透過AI Agent讓一般民眾也可即時取得全球總體經濟等專業分析的技術，另一是防詐偵測模型訓練流程上取得突破，比以往加快880倍。對於外界好奇為何今年黃仁勳演講背板上會出現國泰金，梁明喬告訴記者，其實「國泰金多年前即開始使用NVIDIA GPU，雙方團隊很早就認識。」國泰金控副總經理暨國泰世華銀行數據長梁明喬表示，期盼開啟以AI驅動的智慧金融創新服務新時代來臨。（圖／國泰金提供）「去年12月，國泰目標發展AI Agent，而雙方有共識開展，進一步策略合作，輝達顧問密集與國泰技術團隊討論，使用其技術框架等，花了二個多月時間，完成這次共同分享初步成果。」梁明喬表示。梁明喬說，「要訓練『金融AI Agent』專業度，我們在模型上利用NVIDIA NeMo框架進行預訓練Pre-training、微調Fine-tuning等技術手法，藉NVIDIA的加速運算完成70至80億參數量的大型語言模型訓練，輸入大量台灣金融授信知識、法規文獻及實務案例等作為訓練語料。」同時，還透過NVIDIA NeMo Curator框架，擴增訓練資料達4至5倍，大幅縮短資料準備時間，並輔以NVIDIA TensorRT框架加速模型評估流程。「進階授信證照及格成績是70分，若只是用一般的語言模組測試是不及格的66分，但經過台灣本土金融知識訓練後，用了三個大型語言模型，以高達90分成績展現通過進階授信人員證照考試能力，精準回應進階金融問答，具備AI在金融領域的應用潛力。」梁明喬說。也就是說，今年5月21日在NVIDIA GTC TAIPEI論壇中，國泰金秀出與輝達花兩個月，訓練出具備台灣在地金融知識的「金融腦」，相當一位銀行行員須取得進階授信證照的專業程度。
金融AI Agent 3／輝達GPU助玉山金拚高速防詐金流現形 下一步全民AI理財
輝達執行長黃仁勳五月在COMPUTEX演講背板上露出三家金融業，除了國泰金還有玉山銀行、中信金。CTWANT記者調查，玉山金受邀在輝達論壇上分享「打造全方位金融AI：驅動理財與防詐創新」，揭露二項AI計畫，一是全新AI Agent（AI代理）平台，透過單一對話介面整合多元專業代理人，二是嵌入圖像分析，將防詐金流模型中的複雜交易關係加速現形。玉山金科技長張智星表示，這次的AI Agent計畫同時導入NVIDIA H100 GPU與 NeMo，大幅提升運算效能，更有效降低成本；由於AI代理本身就是生成式AI的一環，所以在生成式AI方面，玉山將於確認技術可行、安全可靠後，與主管機關在金融科技產業聯盟的架構下討論相關標準，穩健推動對外服務。其次，玉山將圖分析（Graph Analysis）技術嵌入現有防詐金流模型，讓複雜交易關係一目了然，偵測準確度提升兩倍；並藉由NVIDIA Rapids及H100 GPU加速，端到端詐欺偵測模型訓練流程較以往快上約880倍。金控業陸續採用輝達GPU、框架等軟硬體，運用發展金融數位AI科技應用面。（圖／翻攝自輝達官網）據CTWANT調查，玉山金專注強化金融防詐能力，今年2月完成「金融無塵室」驗證、4月成立「防詐實驗室」，深知在圍堵詐騙集團金流速度是要「比快」且還「要夠快」，因此2019年開始引進輝達GPU，利用其擁有的「高速運算」來做為模型偵測訓練技術，因此今年就使用三個月金流資料、Rapids框架與H100 GPU，僅花30秒即可訓練出一個模型，大大超越以往需耗45分鐘速度。此外，玉山銀行還透過輝達運算AI Agent銀行理財專員服務上的技術應用，接下來即可進一步擴展到普羅大眾客戶端，「線上即時」QA，譬如說可以問問美債發生甚麼事，川普稅改政策等帶來全球經濟景氣發展的總體經濟專業分析等，給予民眾在理財投資上的一些資訊。至於上線時間，與國泰金控同樣暫不透露。中信金則指出，中國信託耕耘數位轉型工程二大策略發展主軸Digital End-to-End與Banking Everywhere，推動智能化轉型工程，希望全面走向Intelligent anytime，建構以人工智慧AI為引擎，包含突破「客戶體驗」、「流程效率」及「科技守護」等三大領域。目前中國信託積極佈局AI基礎相關建置，包含NVIDIA GPU、數據與AI平台，大量運用AI科技於內部效率提升、風險控管等議題，例如研發防詐科技大幅提升阻詐效能，持續與NVIDIA進行技術交流與合作，以提升大語言模型的運算效能，加速研發金融場景生成式AI應用落地。
4家金控19日組「金額科技聯盟」 首要任務防詐+建金融無塵室
金融總會呼應金管會主委彭金隆的金融創新五大策略中鼓勵金融業打團體戰之策略，邀集中信、玉山、國泰、凱基四大金控攜手合作，共組「金融科技產業聯盟」，19日正式啟動並公布第一階段防詐與建立金融無塵室、創新科技母基金、開發人工智慧聯合學習專利技術等目標。金融科技產業聯盟19日正式啟動，由金管會主委彭金隆、金融總會理事長董瑞斌、玉山金控總經理陳茂欽、國泰金控總經理李長庚、、中信金控總經理高麗雪、凱基金控總經理楊文鈞、金管會創新處處長胡則華、金融科技創新園區執行總監洪杉源、金融總會秘書長吳當傑等共同主持啟動儀式。聯盟將設立金融科技應用研發、數位金融實務規範建議、金融科技投資交流及異業生態共創等四大工作圈，各工作圈首任召集人分別由中信金控、玉山金控、凱基金控及國泰金控擔任。金融總會理事長董瑞斌指出，產業聯盟的四大工作圈正是因應金融科技發展的機會和挑戰來設計，要如何突破和提高成功機會，業界的共同合作不可或缺。金管會主委彭金隆則表示，金融業單打獨鬥的時代已經過去，要集中有限資源打團體戰，合作研發創新技術，才是台灣金融業快速提升，發展致勝的關鍵。國泰金控擔任「異業生態共創」工作圈的創始召集人，由國泰金控資訊長吳建興提出「聯合學習技術授權案」、「金融與醫療無縫連結智能方案」及「數位金融護照案」等異業合作創新專案，期待拋磚引玉，以合作取代競爭，創造共贏的市場。玉山金控總經理陳茂欽表示，在各產業積極導入AI之際，金融業不僅要前瞻最新技術發展，還要檢視AI應用是否符合普惠、誠信與可靠原則。玉山將憑藉在金融科技的經驗，與同業共同建立AI模型和資料應用的管理機制，並加入實驗性的跨金融機構合作，期待建立一個往後同業協作都可以參考的標竿。玉山第一任期主要規劃金融無塵室與可程式化AI治理，將建立一個安全、封閉的數位及實體環境，讓未來各種跨金融機構合作案，均能確保金融資料應用的安全和合規性；並依循金管會發布的「金融業運用人工智慧AI指引」六大客觀指標，明確定義各項原則的觀察指標，及開發相應的AI程式來評估其他金融AI應用的合規性。玉山金控科技長張智星表示，玉山將專注於跨銀行多元資料整合與應用，以及金融科技基礎建設的發展。第一任期主要規劃金融無塵室（擷取半導體晶圓廠無塵室概念，提供一個安全封閉的數位實體研究環境）與可程式化AI治理（用AI管AI新機制），將優先建立制度並進行專案實證，期望達到兩年有感。
首波跨校AI課2／清大名師坦言「上課很挫」 想告訴學生：我會怕，但一樣敢做！
台灣首次串聯25所大專校院的跨校線上課程「台灣大專院校人工智慧學程聯盟」（Taiwan AI College Alliance，簡稱TAICA），在短短2周籌備期間，最大挑戰是找老師。該專案辦公室主持人陳宜欣教授直白地告訴CTWANT記者，「願意來的老師要有膽量！」因為上課採直播授課，萬一出錯就可能被譏笑。TAICA這學期首先提供聯盟學生跨校選課的有五門課程：清大陳宜欣老師的《資料探勘與應用》、清大高宏宇老師的《自然語言處理》、台大林軒田老師的《機器學習》、台大張智星、陳君明老師的《金融科技導論》、成大朱威達老師的《人工智慧導論》。陳宜欣透露，尋找師資的過程挑戰重重。「時間真的很趕，我又想找到好老師，所以我先從自己熟悉的老師著手，然後再請助理調查學生在社群上的上課感想，如果上課有料、的確能有收獲，就再進一步邀約。」「我敢說找到的都是很棒的老師，例如台大林軒田教授把我拉進這個計畫，所以他當然不能拒絕我，他得過台大傑出教學獎，上課精彩到結束學生竟然鼓掌長達1分鐘，非常『凡爾賽』！」但敢接下任務的老師的確要有膽量，陳宜欣說，「很多老師一開始答應，後來聽說直播上課想打退堂鼓，擔心出錯會讓自己的學校丟臉，那我會一個個拜託，要讓他們覺得這是一件能幫助台灣學生的事情。」目前這些課程都採直播上課，如何互動也是一個重點。陳宜欣說，TAICA這學期課程屬於研究所課程，比較不會有太多程度差異，但每門課的老師都會想辦法協助學生。「舉例來說，我的課程是英文授課，課程影片會有助教協助後製字幕，課程有會有課程間的練習、課後的練習、課程中用Sli.do線上互動提問、每一堂課後的會讓學生摘錄本日自己覺得最有印象的部分、以及有沒有額外的問題，我會再逐一回覆。」例如林軒田老師上課時共有500多位學生上線，結束後有97個問題，老師再一一回覆。至於考試和報告，陳宜欣表示目前還在討論各種如何線上合作的可能，但由於修課學生很多，所以會利用線上資源，例如讓學生產生短影音，再透過同儕打分數、助教檢視，最後選出具代表性的報告來跟大家分享，但最後尚未有定論。陳宜欣透露，由於時間緊急所以隨時調整，但下學期將會設計聯盟學校有更多相對應的衛星課程、衛星教師、以及配合的盟校助教來合作，如此就更能針對不同程度學生教學。張智星老師擁有玉山銀行科技長的特殊資歷，其教授的《金融科技導論》是台大炙手可熱的課程。（圖／翻攝自張智星臉書）TAICA剛誕生，累是一回事，但老師上課真的要有膽量！陳宜欣說，直播上課代表所有的事情都會被放大檢視，或許今天精神不佳說錯話，可能就遭猛烈批評「清大陳宜欣很遜」。「所以我都跟學生說，我沒有教得很好，也絕不是100分，我知道一定會犯錯，但我還是敢做！」陳宜欣認為台灣學生普遍怕犯錯，所以比較不敢勇於嘗試，「這些學生以後都會變成大人，如果大人都不敢創新，那社會就會停滯，所以我要用行動讓學生了解敢做比犯錯更重要。」另一個陳宜欣認為學生必須學習的，就是倫理，所以TAICA每個學程都有3學分的人工智慧倫理必修課，後續也會研訂大學使用生成式AI進行教學之參考指引。「我希望學生不只能學到技術，而是知道什麼可用？什麼不可用？」陳宜欣以「AI換臉」為例，當初一開發出來十分有趣，但後來卻被濫用，如今「眼見不足為憑」，這項技術的作者也公開表示後悔，但已經無可挽回。「倫理就是界線，這堂課就是協助學生了解科技與社會的互動關係，並培養批判思考與人文關懷的能力，同時知道技術會影響社會。」陳宜欣說，雖然沒辦法限制學生未來開發的技術，但至少我們先提醒，讓他們知道不要做未來可能會後悔的事，「想到上完這堂課，未來會多出幾千個守分際的學生，真是太棒了！」陳宜欣笑著說。
國泰金控技術年會9/26登場 將首度公開Gen AI發展框架
生成式AI浪潮快速席捲，為全球產業帶來科技的巨大變革，金融業者對發展生成式AI應用亦高度期待。金融業最具指標性的金融科技盛會「2024國泰金控技術年會」將於9月26日在台北101獨一文創登場。今年將從AI技術、治理與多元應用、數據上雲到服務創新體驗…等面向，由來自不同領域之20位頂尖專家，帶來11場精彩的主題演講與趨勢對談，以實例解析核心技術；並首度集結金融同業，探討如何運用科技解決資安防詐議題，報名網站自8月底上線至今，已有逾4,000人報名參與。今年最大的亮點之一，就是國泰金控資深副總經理姚旭杰將首度公開國泰的生成式AI框架與集團佈局，國泰金控各子公司也將分享AI的實際應用，例如銀行將AI結合雲端，打造個人化的新型態經營；人壽、產險則透過AI賦能，為保險業帶來價值鏈轉型。同時，也邀請台灣微軟法務副總經理廖怡苓，與德國企業級開源解決方案大廠SUSE全球AI Lead Ian Quackenbos，分別負責任AI、及私有GenAI平台等進行深度專題演講。日前國泰宣布成為金融業首個數據上雲的機構，各界對於國泰此次大規模的數據上雲皆感好奇，此次國泰將深度剖析金融業數據上雲實戰，分享集團在大規模上雲的進度與歷程，並攜手Amazon Web Services（AWS）、KPMG產業代表，帶來金融業者在數據上雲的旅程中，第一手的甘苦經驗談。值得一提的是，國泰結合聯邦學習和科技防詐主軸，在FinTechSpace輔導下近半年來與金融同業甫完成實證案。今年秉持跨機構打詐的公益之心，首度邀請實證相關夥伴包括FinTechSpace執行總監洪杉源、中國信託銀行資深副總王俊權、玉山金控科技長張智星、新光銀行資訊長張順程等，連同國泰世華銀行副總梁明喬，將於當天下午開場以「跨金融業的科技防詐場景實踐」為題，探討如何運用科技解決產業共通性的資安防詐議題，共同驗證聯邦學習全新典範。國泰金控2020年創業界之先，舉辦全台首場由金融業主辦的國泰金控技術年會，以金融科技轉型及創新技術為主題，至今已累計近萬人共襄盛舉，今（2024）年邁入第五年，本次現場將保留去年廣獲好評的「技術交流區」，串聯多個台灣技術社群，並安排互動攤位，供金融科技好手面對面交流。同時也將進行線上直播，讓無法到現場的朋友，也能一覽金融科技的最新脈動。報名「2024國泰金控技術年會」請至：https://www.cathaytechcon.com.tw/2024/。
金控科技賽3／玉山金最早設科技長 張智星：已有30條線AI機器人客服聊天服務
台灣金融業數位轉型大賽中玉山金控可說是跑第一，2018年設立台灣金融業第一位科技長，延攬台大資工系教授張智星博士從顧問聘為科技長，去年首推AI機器人文字聊天客服「擬真人化」，可直接語音與民眾對話服務，預計今年年底300線AI客服將全面上線。張智星擁有美國加州大學柏克萊分校電機電腦博士，曾任美國麻州 MathWorks 公司，專長包括音樂分析與檢所、語言辨識與合成、多媒體資訊檢索，教學課程則以科學計算、Web程式設計、音訊處理與辨識、資料結構、機器翻譯實作等。2018年張智星擔任台大金融科技研究中心主任時，促成與玉山金金融業產學合作案。玉山金2019年成立智能金融處，為專責單位進行AI技術的導入，實際應用像是「基金e指選」，是台灣首創AI理財認知偏好推薦模型，且玉山銀行一年會收到數百萬張票據、文件，需要花費大量人力審核資料正確性和登打資料，因此藉由「文件影像辨識」技術，協助釋放30％登打人力。還有「智能理財GRACE」，透過玉山專業理財顧問對市場分析結合自主研發的AI演算法，將顧客投資組合進行細部拆解，找出顧客現行配置上的盲區，提供顧客庫存健康狀態客製化分析，做最適化投資組合建議。玉山金控的AI智能客服已從文字服務進階到語音對談。（圖／玉山金提供）玉山金在2019年推出「語音機器人」，目的就是「不讓客服同仁過度加班」，會有這樣的強烈動機，即是當時剛推出、被市場稱為兩大「神卡」的玉山U Bear熊卡和玉山Pi卡，由於申辦民眾洽詢電話大量湧入，客服應接不暇接到手軟，且問題多集中在詢問「有甚麼優惠」，也加速催生玉山的語音客服機器人。「目前在300條電話線客服中，已有30條線是導入『擬真人』的AI聊天機器人做語音服務，因此如果當用戶撥打玉山客服專線，聽到客服聲音，沒有請你按1、2等，那就是AI機器人，我們已經從文字客服進階到語音服務。」張智星說。這就是玉山金目前領先業界的「智能IVR語音導航服務」，智能IVR（InteractiveVoice Response）語音導航服務係讓顧客在進線客服時，不用經過按鍵式選單，而可以直接用「說話」的方式表達來電意圖並解決問題，將操作選擇服務的通話時間IVR平均通話時間由90秒縮減至22秒，減少顧客75％操作與等待時間。導入AI機器人客服之後，是否會取代真人客服的工作？張智星強調「人機協作」重要性，「AI機器人是無法完全取代人類的工作」，透過玉山金智能金融處研發AI的應用於工作流程中，替代「部分」重複性的回答工作同時，擁有許多線上服務顧客臨場實際經驗的同仁，除了仍繼續深度協助用戶處理較為複雜的問題之外，還進階轉型為「AI模型訓練師、電話理財行銷專員等」，同時創造工作不同價值面。「信用卡冒用偵測也是AI應用一環，一年可以處理上億筆資料、逾巨量的新臺幣簽帳交易，每年攔截達上億元的冒用交易金額，就是透過創新智能系統守護社會大眾資產」張智星說，「運用AI著重改善金融服務流程與客戶體驗感受」。張智興進一步說，「疫情爆發後改變民眾生活習慣，也一度影響AI系統判斷性，發出警示誤報案增加，須立即整合新的消費資料調整AI模型警示參數，可見AI技術須不斷檢視與更新，這都是在人機協作，提升整體精準度，才能維護顧客用卡安全，降低銀行的損失」。玉山金在2006年即成立數據分析小組，2015年設立數位金融處，2019年3月將數據分析小組轉型為智能金融處，該單位也從原有數十人擴增迄今近百人，顯示從金控到銀行等單位導入AI的深度與廣度。科技長張智星博士目前還同時任教於台大教書，與學界保持聯繫，「光是跟數據分析等相關課程選修人數破千人搶100個名額，可見AI的受歡迎程度。」張智星說。