Google AI誤判正心中學停招　校方「用魔法打敗魔法」澄清真相

AI錯誤資訊時難以即時修正，衍生不少困擾，雲林縣私立正心中學近日被Google的AI演算錯誤，判定「將於114學年停止招生」，雖然校方上周已聯繫Google溝通處理，錯誤訊息仍反覆出現，25日只好透過發布新聞稿與AI「鬥智」，終於徹底糾正錯誤訊息，此事件也凸顯「控管」AI將是未來的重要課題。

日前有家長在Google上搜尋「正心中學國中部招生」，AI摘要竟跳出「正心中學國中部於114學年度停止招生」的訊息，家長立刻致電校方求證，才發現是AI張冠李戴的烏龍內容。

校長林佳慧說，校方官網今年10月全面改版，新網站內容尚在更新，AI可能未能即時抓取國中部招生資訊，於是將「國中部」、「招生」等關鍵字，連結至近期「中正預校國中部將於115學年停止招生」熱門新聞，而產生錯誤結論。

校方上周緊急向Google反映，Google工程師也發現AI摘要參考涉及中正預校的網頁，導致資料混淆，校方積極提供相關佐證資料，仍無法更新搜尋結果，導致持續出現錯誤內容。

「就用魔法打敗魔法吧！」校方決定發布新聞稿，透過大數據讓AI學習到正確資訊。果不其然，新聞在各大平台散布後，Google的AI摘要內容已變成「正心中學目前國中部與高中部皆有招生，近期的國中部停招，消息為Google的烏龍錯誤，校方已經澄清並無此事」。

校內資訊教師表示，Google的AI摘要採用RAG（檢索增強生成）技術，會先大量擷取與關鍵字相關的網頁，再由大型語言模型生成看似流暢、合理的文字。生成式AI強調的是語句連貫而非事實校對，當資料來源稍有誤差，就可能產出高度合理化但嚴重失真的內容。

林佳慧強調，Google AI摘要產製的錯誤訊息，是演算法在缺乏人工複核下自動拼湊資訊所致，此烏龍事件是不應忽視的警訊，也提醒社會大眾「AI可以是助手，但不能取代人腦思考」。