檢索增強生成
」
不只做紀錄，更開始參與決策：驊宏資通「慧議通」強化智慧分析，切入企業AI落地關鍵應用
生成式AI正加速進入政府與企業日常運作，金融業也蓄勢待發，從資料整理到流程優化，各類工具百花齊放。然而，當應用從「整理資訊」走向「支援決策」，多數方案仍存在落差。驊宏資通（6148）近日推出新版企業AI會議平台「GufoNotes 慧議通」，將會議從單純紀錄提升為可分析、可提問的決策輔助工具，試圖補上這段關鍵缺口。此次改版以「智慧分析」為核心，為領先業界的落地AI方案，整合語音轉錄、摘要生成、會議檔案集中管理，以及基於大語言模型（LLM）與檢索增強生成（RAG）的問答能力，讓會議資料不再只是保存，而是能直接被檢索與判讀，轉化為可持續運作的企業知識資產。從「看紀錄」到「提問題」：會議資料再生利用目前市場上的AI會議工具，多能提供逐字稿與摘要，但使用者若要進一步了解決策脈絡，仍許要花費許多時間翻找資料。慧議通此次強化的關鍵，在於讓會議資料具備「可提問」能力。透過整合LLM與RAG架構，系統可從歷次會議與相關文件中擷取資訊，直接回應問題。例如，在專案進行過程中，客戶突然詢問PM「系統功能為何調整方向」、「會議中各單位提出哪些意見」，慧議通可快速跨越不同時間的會議內容、簡報文件、附件資料等，找出詳細的決議與時間點等資訊，完全不需要人工翻找與比對。這類需求在跨部門協作、長期專案追蹤與稽核回溯中相當常見，也正是傳統會議紀錄最難發揮價值的地方。以自然語言提問，慧議通可以橫跨不同會議和相關資料，快速找到答案。（圖片／驊宏資通提供）華文語境優化，讓文字更接地氣值得觀察的是，現在多數AI模型以英文語料為主，面對中文口語表達、產業術語或中英混用情境時，容易出現辨識偏差或語句不自然的情況。慧議通針對華文語境進行深度調校，並且支援多語言處理。而語意理解能力，也正是影響AI工具是否被持續使用的關鍵。在政府與企業常見的應用場景中，例如法規條文、採購流程、專案術語等，能維持較高的辨識與轉錄穩定度，讓產出的內容更貼近實際需求。全地端部署確保資料自主，資安與AI應用並重在政府、金融與高資安需求產業中，AI導入往往受限於資料是否上雲。慧議通是市場上唯一，採用完全地端部署，從語音處理、模型運算與資料儲存均在企業內部環境完成，不經外部雲端傳輸。此一架構可以在不改變既有資安政策的前提下，快速導入AI應用，降低跨部門審核與評估時間。這樣的設計滿足對於資料保護與法規遵循的要求，確保資料主控權，使AI從「可評估」轉為「可實際導入」，也是近期地端AI方案受到關注的原因之一。從資料累積到知識運作，AI進入日常工作現場長期以來，企業與政府在數位轉型過程中，多著重於文件與系統資料，忽略了會議中所累積的大量語音內容。實際上，多數決策脈絡、經驗傳承與關鍵討論，正是存在於這些對話之中。當這些內容能被完整記錄、結構化整理、進一步搜尋與分析，才能將珍貴的資料寶藏活化，打造專屬知識資產的循環引擎。隨著政府推動AI新十大建設，強調基礎建設與產業應用，要讓技術走入各行各業、回到實際工作現場，企業對AI工具的期待也逐漸轉變——不只是「能用」，而是「用得順、用得久」。從會議這個最日常的場景開始，讓資料被留下、被理解、被再用於決策，正是AI真正發揮價值的起點。
Google AI誤判正心中學停招 校方「用魔法打敗魔法」澄清真相
AI錯誤資訊時難以即時修正，衍生不少困擾，雲林縣私立正心中學近日被Google的AI演算錯誤，判定「將於114學年停止招生」，雖然校方上周已聯繫Google溝通處理，錯誤訊息仍反覆出現，25日只好透過發布新聞稿與AI「鬥智」，終於徹底糾正錯誤訊息，此事件也凸顯「控管」AI將是未來的重要課題。日前有家長在Google上搜尋「正心中學國中部招生」，AI摘要竟跳出「正心中學國中部於114學年度停止招生」的訊息，家長立刻致電校方求證，才發現是AI張冠李戴的烏龍內容。校長林佳慧說，校方官網今年10月全面改版，新網站內容尚在更新，AI可能未能即時抓取國中部招生資訊，於是將「國中部」、「招生」等關鍵字，連結至近期「中正預校國中部將於115學年停止招生」熱門新聞，而產生錯誤結論。校方上周緊急向Google反映，Google工程師也發現AI摘要參考涉及中正預校的網頁，導致資料混淆，校方積極提供相關佐證資料，仍無法更新搜尋結果，導致持續出現錯誤內容。「就用魔法打敗魔法吧！」校方決定發布新聞稿，透過大數據讓AI學習到正確資訊。果不其然，新聞在各大平台散布後，Google的AI摘要內容已變成「正心中學目前國中部與高中部皆有招生，近期的國中部停招，消息為Google的烏龍錯誤，校方已經澄清並無此事」。校內資訊教師表示，Google的AI摘要採用RAG（檢索增強生成）技術，會先大量擷取與關鍵字相關的網頁，再由大型語言模型生成看似流暢、合理的文字。生成式AI強調的是語句連貫而非事實校對，當資料來源稍有誤差，就可能產出高度合理化但嚴重失真的內容。林佳慧強調，Google AI摘要產製的錯誤訊息，是演算法在缺乏人工複核下自動拼湊資訊所致，此烏龍事件是不應忽視的警訊，也提醒社會大眾「AI可以是助手，但不能取代人腦思考」。
劍指谷歌！OpenAI與多家新聞媒體出版商合作 計畫推出AI搜尋引擎「SearchGPT」
美國人工智慧研究實驗室「OpenAI」正在測試一款人工智慧（AI）線上搜尋引擎「SearchGPT」，其將使用生成式AI收集資訊並以對話的語氣回答問題和搜尋結果，幫助用戶更快、更輕鬆地找到他們的查詢內容，目前僅向一小部分用戶開放測試，且尚未透露正式的推出時間，預計「SearchGPT」最終可能會整合到「OpenAI」的「ChatGPT」聊天天機器人中。據科技雜誌《連線》（Wired）的報導，「OpenAI」發言人伍德（Kayla Wood）拒絕向《連線》提供演示新工具「SearchGPT」的詳細資料，但證實該公司已向若干合作夥伴和新聞媒體出版商取得訪問權限，並根據他們的反饋內容改進搜尋引擎的功能，此舉被外界解讀是正面劍指搜尋引擎龍頭「Google」。「OpenAI」的主要投資者微軟（Microsoft）是最早向大眾發布生成式AI搜尋引擎的公司之一，該公司於2023年把AI聊天機器人「ChatGPT」背後的人工智慧技術整合到旗下的網路搜尋引擎「Bing」，以及瀏覽器「Edge」中。微軟的人工智慧搜尋引擎現已更名為「Microsoft 365 Copilot」。隨後，「Google」以及由AI聊天機器人驅動的研究和會話搜尋引擎「Perplexity AI」等多個競爭對手，都向用戶推出了自己的AI搜尋服務。例如「Google」就在搜尋引擎中推出名為AI概述（AI overview）的新功能，替用戶一次整合所有搜尋結果，不需點擊多個連結。而「OpenAI」的「SearchGPT」則看起來與「Perplexity AI」更為相似，其聊天機器人可使用自然語言預測文字回答查詢，並使用網路來源產生答案，引用文字回應中的連結。「OpenAI」在2022年11月首次推出ChatGPT後，許多用戶看到聊天機器人從網路中挖掘和總結資訊的能力，預期AI聊天機器人有可能取代傳統的網路搜尋引擎。然而，大型語言模型（large language model，LLM）的缺點使得聊天機器人的搜尋功能不完全，這些模型所利用的訓練數據通常已經過時數月或數年，因此當不確定答案時，AI聊天機器人就會編造「錯誤的事實」。對此，「OpenAI」的「SearchGPT」可能會使用結合了搜尋檢索和生成能力的自然語言處理架構「檢索增強生成」（Retrieval-Augmented Generation，RAG），來降低聊天機器人的錯答率。透過RAG架構，人工智慧工具將引用可信任資訊，例如首選新聞網站，同時將產生搜尋結果的資料和數據來源。不過這個方法具有潛在的版權侵犯問題。例如「Perplexity AI」就遭到包括《連線》在內的網站或新聞媒體出版商的批評，因為其AI搜尋引擎涉嫌抄襲原創新聞網站的內容，並且刻意忽略資料來源。因此「OpenAI」改進了這項缺失，並對新聞媒體出版商承諾：「SearchGPT」將透過在搜尋結果中特別引用和連結到出版商的內容，讓用戶與出版商建立更多聯繫和瀏覽。據悉，包括沃克斯傳媒（Vox Media）、大西洋月刊（The Atlantic）、新聞集團（News Corp）和金融時報（Financial Times）在內的多家新聞媒體公司，今年都已與「OpenAI」簽署了內容授權協議。
輝達擴大與中華電信合作 董座股東會宣布「每股配息4.758元」
輝達（NVIDIA）執行長黃仁勳上周抵台後行程備受關注，不僅和台積電（2330）董事長創辦人張忠謀、廣達（2382）創辦人林百里一同逛夜市，也與其他科技大佬會面，其中，中華電信（2412）董事長郭水義、總經理林昭陽也出現在宴客清單中。有消息傳出，「中華電信確定與NVIDIA擴大合作。」據消息來源表示，中華電信已向輝達購買DGX伺服器，未來將藉由開源LLM大型語言模型、檢索增強生成（Retrieval-Augmented Generation，RAG）等資源技術，發展並提供內外部AI應用服務。中華電信公司5月31日舉行113年股東常會，由董事長郭水義主持，承認該公司112年度營業報告書、財務報表及盈餘分配案，並通過公司章程修正案及解除董事競業禁止限制案。關於112年度盈餘分配案，股東會通過配發現金股利每股4.758元，配發金額合計新台幣36,909,930,661元。中華電信表示，112年現金股利維持近100%的配發率，未來仍將繼續維持穩定股利政策。今天中華電開盤127.5元，最高來到128元，不過最終收盤價為127元，跌幅0.78%。
繁中守護者1／「不會做才更要做！」解密蔡明介督軍 聯發科為台灣訓練LLM輝達也相挺
「不會做，才更要做！」台灣晶片一哥聯發科技4月9日發表繁體中文語言模型MR BreeXe，以450億參數超越中文版ChatGPT3.5，奪下世界最強的繁體中文大語言模型(LLM)。儘管外界看熱鬧，也有酸民說贏了ChatGPT3.5沒什麼好驕傲，但台灣科技圈人士深知，聯發科努力「緩解了一場迫切危機！」近年全球爭相砸錢啟動的AI及LLM軍備競賽中，以歐美思維為主流，英語稱霸，中文則以中國大陸簡體中文的語意邏輯掛帥，繁體中文相對弱勢，直到聯發科的MR BreeXe出現，緩解了被「邊緣化」的危機。CTWANT記者採訪多位關鍵人士，得知了這場艱辛的技術研發過程，其實是一場文化保衛戰，連輝達聞訊後也上門，將去年底新推的AI超級電腦Taipei -1，交與聯發科訓練模型。業內人士表示，聯發科在1997年從聯華電子多媒體部門分出來後，「拿到的牌都是最差的那一種」，要人沒人、要錢沒錢，主攻的產業都是世界上最競爭最難的，然而蔡明介一路走來的經營理念，就是有一個頂級的公司，才能把人才留在台灣。聯發科從光碟機晶片組開始，一路做到全球行動通訊晶片第二大廠，蔡明介引領技術創新之際，也觀察到AI科技將扭轉局勢，2019年他親自拍板、督軍，成立聯發創新基地，負責AI的前瞻研究，「比很多業者都早發現AI的重要性，將會形成『革命性的轉變，就像一種新的電力。』」聯發科技協理葉家順表示。輝達去年底推出最新的AI超級電腦Taipei-1，讓聯發科第一個做訓練。（圖／翻攝自GoogleMap）「AI最重要的基礎就是大語言模型，聯發科是以技術力為主的公司，要做、就做對世界有影響的技術。」業內人士表示，聯發創新基地最初研究的是自然語言處理(NLP)，是一種人工智慧的分支，可讓電腦理解、產生及處理人工語言，「最一開始的AI研究真是萬事起頭難，常改到死。」2022年6月蔡明介下令基地放棄舊研究，改成全力押寶生成式人工智能GenAI，並啟動首個開源繁中大語言模型，跟一級主管這樣說，「沒有人做，所以我們要做！」聯發科員工跟CTWANT記者說，當時董事長下軍令，但大家都面面相覷，OpenAI當時還默默無名，ChatGPT更是在2022年11月30日才發布，等於沒有任何前例可循，更何況是要做台灣為主的繁體中文系統，幾乎是從零開始。「聽到這個消息，我們的合作夥伴都很關切，頻頻問我們，怎麼做、你會嗎？當然不會呀！」聯發科員工表示，因為大家都知道做大語言模型的難度大、門檻高，一般單位是做不來的，聯發科在研究過程中也「踩了不少坑、撞得頭破血流」，但在其他陣營開發速度陸續放緩後，「這件事反而成了『社會對我們的期望』，得到很多夥伴的協助。」「最難的就是一開始，找不到適合的人才」聯發創新基地負責人許大山是加州柏克萊大學電機博士，曾任台大副教授，被學生廣為流傳的「年年書卷獎的台大電機學霸」。他跟CTWANT記者說，當時聯發科在AI頂級科學家圈內是沒有名氣的，花了很大力氣才能招募到人才，有了成果、上了幾篇國際級的論文，學者們認識我們，後續才比較順利。目前聯發創新基地在台大、劍橋、倫敦都有據點，「成員就像是個小的聯合國。」業內人士說。聯發創新基地負責人許大山。（圖／記者黃耀徵攝）聯發科「MR BreeXe」是以法國AI業者推出的Mixtral 8x7B開源模型為基礎去開發，繼承Mixtral多專家模型特有的節省運算資源、提升速度優勢，再加上聯發創新基地的訓練，在繁體中文測試項目（TMMLU+、MT Bench TW）超越GPT-3.5，並優化台灣常見之地端應用，提升產業界檢索增強生成（RAG）的體驗，還能一口氣處理4萬字的長篇資料，而Mixtral只能四千字。AI龍頭輝達得知聯發科在做繁體中文大語言模型，特別拿出他們去年底才推出最新的AI超級電腦Taipei -1，讓聯發科第一個跑數據、做訓練。截至4月初MR BreeXe正式發表，450億參數，比OpenAI兩年前發表的中文版ChatGPT3.5模型參數規模270億，遠超出一大截。「其實聯發科以繁體中文切入做大語言模型，是『緩解了一個非常迫切的危機』，」成功大學資工系教授黃敬群跟CTWANT記者解釋，以網路搜索來說，使用者14億人、源自中國的簡體資料在世界上的點擊量絕對高過台灣的，像是Google台灣就花了百人團隊去「平衡」，才讓台灣人看到的網頁搜尋符合需求，但到了AI時代，這些人工干預就失靈了。