AI風險
」 AI 人工智慧 川普 數發部 ChatGPT
教宗加入「AI末世論」戰局！警告人工智慧威脅非假新聞
教宗加入「AI末世論」戰局！良十四世（Pope Leo XIV）28日表示，外界對人工智慧（AI）可能摧毀世界的擔憂並非「假新聞」，應認真看待。此番言論與美國總統川普（Donald Trump）認為AI威脅是「騙局」的說法形成對比。良十四世同時質疑輝達（NVIDIA）執行長黃仁勳對AI監管的立場，呼籲全球透過對話、研究與調查建立安全防護。據《南華早報》報導，作為美國首位天主教會教宗，良十四世在其上任16個月以來，多次警告人工智慧可能帶來的風險。此次他除了再次強調AI風險值得重視，也直接批評部分科技企業執行長主張，不應為這項技術設置任何安全防護或監管限制。良十四世28日在結束為期4天的訪法行程、搭乘專機返回羅馬途中舉行的記者會上表示：「我確實認為，許多人工智慧專家及相關領域專業人士提出的擔憂，應該受到認真看待。我不認為這是像某些人所說的假新聞。」據悉，川普上週在聯合國大會（United Nations General Assembly）發表演說時，曾表示他認為外界對AI可能危及人類的擔憂，是1場「騙局」（hoax）。良十四世稱，他28日讀到相關報導，得知黃仁勳曾表示，某些AI模型可能存在加入安全防護機制的方法。不過，良十四世對此質疑，「他（黃仁勳）同時也是那個聲稱不應該設置任何限制，也不應該有政府監管的人。」黃仁勳本月接受《美國哥倫比亞廣播公司新聞網》（CBS News）訪問時才表示，他同意川普的看法，認為外界對AI安全問題的擔憂被過度放大。良十四世也呼籲全球社會「促進對話、研究與調查」，尋找確保AI不會發展到可能摧毀人類程度的方法，「我認為，有足夠多的人對這件事情抱持認真態度……但我們必須持續努力。我們不能只是坐在一旁，假裝什麼事情都不會發生。」報導補充，川普預計在29日於白宮與多名科技業執行長會面，討論AI議題。據熟悉相關安排的消息人士透露，黃仁勳、臉書母公司Meta執行長祖克柏（Mark Zuckerberg）、AI新創公司Anthropic執行長阿莫迪（Dario Amodei），以及OpenAI董事長兼總裁布洛克曼（Greg Brockman），都將與川普及美國眾議院議長強生（Mike Johnson）會面。其他可能出席的人士還包括Google執行長皮查伊（Sundar Pichai），以及SpaceXAI創辦人馬斯克（Elon Musk）。強生表示，這場會談將聚焦於如何在人工智慧創新與政府監督之間取得平衡。他同時警告，如果美國決定對AI實施「超高度監管」（hyper-regulate），可能會面臨在AI競賽中輸給中國的風險。
嫌AI聽起來太假！川普宣布改稱「超級智慧SI」 背後原因曝光
美國總統川普（Donald Trump）在聯合國大會發表演說時宣布，美國政府未來將把「人工智慧」（Artificial Intelligence，AI）更名為「超級智慧」（Super Intelligence，SI），理由是「Artificial（人工）」這個詞會讓智慧聽起來像是「假的」，他甚至希望全球跟進使用新的名稱。川普在演說中談及AI發展時先表態反對建立全球性的AI管制機制，隨後突然宣布替AI改名，稱這項技術從現在起將正式稱為「Super Intelligence」。「使用『人工』這個詞，會讓智慧聽起來像是假的，但它並不是假的，它其實非常驚人。」川普表示美國政府未來所有文件都將改用他認為更加準確的「Super」，取代原本的「Artificial」。川普接著說：「歡迎來到超級智慧（SI）的新世界。」他還表示希望這個名稱能夠推廣至全球，並稱「聽起來好多了，它確實更好，也更加準確」。不過值得注意的是，「Super Intelligence」在AI領域早已不是一個全新的名稱，而是具有特定意義。「超級智慧」通常是指智慧能力超越人類的AI系統，與廣義的「人工智慧」並非完全相同概念，因此川普直接將AI全面改稱SI，也引發外界對兩個術語可能混淆的討論。川普同時表明美國不打算因為外界對AI風險的憂慮而壓制相關技術的發展，他宣稱美國目前在這場科技競賽中領先中國及其他國家，政府將密切關注風險，但仍會鼓勵「超級智慧」持續發展。「AI監管」近來也成為華府爭論焦點，一方面有研究人員持續警告先進AI可能帶來重大風險，另一方面，川普政府則傾向降低監管障礙，希望維持美國在全球AI競爭中的領先地位。隨著中國國家主席習近平本周赴華府進行國是訪問並與川普會面，美中之間的AI科技競爭也預料將成為雙方會談的重要議題之一。
奧特曼籲「放慢開發」另有目的？黃仁勳駁AI末日論：發生機率是0%
輝達執行長黃仁勳近日駁斥了「人工智慧（AI）可能在2030年前導致人類滅絕」的警告，稱相關說法屬於「末日敘事」，不僅沒有科學依據，而且發生的機率是0%。他還認為，最近AI巨頭高層的輪番警告，其實是在暗示他們不希望公司產品遭到法律約束。根據《美國哥倫比亞廣播公司新聞網》（CBS News）20日播出的採訪片段，黃仁勳當下強調：「2030年不會是世界末日。2030年成為世界末日的機率是0%。嚇唬人是沒必要的，這是不負責任的。」據悉，輝達是AI產業的關鍵企業之一，負責開發最先進的電腦晶片，而這些晶片對建立AI模型至關重要。在黃仁勳發表上述言論前，美國新創AI公司Anthropic的前研究員考克森（Jacob Coxon）曾在社群媒體發文聲稱，AI開發商認為，這項技術「可能在2020年代結束前把我們全部殺死」。考克森的擔憂引發外界對AI風險的討論，包括Anthropic執行長阿莫迪（Dario Amodei）以及OpenAI執行長奧特曼（Sam Altman）等頂尖業界高層，近幾週也都呼籲放緩AI模型的開發速度。對此，黃仁勳在採訪中聲稱，這類預測「沒有科學依據」，同時強調，確保整個產業以負責任的方式開發及部署產品，符合輝達的最大利益，「我們公司的成功，與產品及服務能夠安全部署直接相關。如果我們不持續這麼做，我們的價值就會被削弱。」黃仁勳暗示，那些談論「放慢速度」的AI企業，可能是在尋求針對其產品可能造成的傷害，取得法律責任上的免除，「去讀懂字裡行間的意思。他們實際上並不是在要求制定更多法律，而是在要求廢除我們現有的法律約束，而我認為這就是問題。」上週，黃仁勳曾出席由英國國王查爾斯三世（King Charles III）主持的AI頂尖領袖峰會。查爾斯三世當時警告科技業領袖，人工智慧恐對人類「帶來攸關生死存亡的威脅」，「你們面前的任務不只是推進科技，而是確保科技始終堅定地服務於人類、社群以及自然世界。」不過與此同時，美國總統川普（Donald Trump）卻淡化外界對AI風險的擔憂。9月14日，當黃仁勳在洛杉磯1場科技會議登台演講時，川普突然致電給他，並在通話中批評要求放緩AI發展速度的呼聲，同時將相關擔憂斥為「騙局」。
黃仁勳台上擴音川普來電！齊駁斥「AI末日論」：整件事就是個騙局
輝達（Nvidia）執行長黃仁勳（Jensen Huang）14日在洛杉磯出席All-In高峰會（All-In Summit），接受Podcast現場訪談期間，手機突然響起，來電者竟是美國總統川普（Donald Trump）。黃仁勳隨即開啟擴音，透過現場麥克風讓觀眾直接聽見這場約5分鐘的臨時通話，兩人話題聚焦AI發展、安全疑慮及美中科技競爭。川普在電話中強調，美國必須在AI競爭中保持領先，並將矛頭指向近期科技業對AI風險的警告。他直言：「機器人不會接管世界，AI也絕不會控制這個世界，整件事就是個騙局。」認為相關疑慮可能讓政治對手或中國受益。除了AI安全議題，川普也談到支撐AI發展的資料中心。他將數據中心（Data Centers）形容為「未來20至25年的石油」，認為相關建設可以讓民眾及各州變得富裕，美國不應因此放慢產業發展速度。川普還表示，AI的重要程度甚至超越網路，並重申「誰贏得AI，誰就贏了」，表態支持持續發展AI及資料中心。不過他也提到，發展過程仍需要保持一定程度的謹慎，但不應因此停止整個產業。面對川普的說法，黃仁勳當場回應：「我們會確保全美國都能在AI競賽中獲勝，包括每一個產業、每一家公司、每一個州，以及每一個人」，並認為美國有能力在維持AI發展速度的同時兼顧安全。這項立場也正值美國科技業掀起AI發展速度論戰之際。Anthropic執行長達里奧阿莫迪（Dario Amodei）近期主張放慢前沿AI發展速度，OpenAI執行長山姆奧特曼（Sam Altman）、Google的戴密斯哈薩比斯（Demis Hassabis）及特斯拉執行長馬斯克（Elon Musk）也對相關安全主張表達支持。不過，川普與黃仁勳則認為，不能讓尚未發生的極端情境，成為阻礙AI發展的理由。
比爾蓋茲警告AI時代將成「史上最動盪時期」：各國尚未做好準備
微軟共同創辦人比爾蓋茲（Bill Gates）警告，人工智慧（AI）快速發展可能引發大規模社會、政治與經濟動盪，取代白領與藍領工作，並加劇就業不平等。他認為目前政府、專家與社會尚未做好準備，未來應建立新的國家機構及全球AI治理組織，協調就業、教育、公共衛生、金融與國家安全等政策，以因應AI時代的風險與衝擊。據美國財經媒體《CNBC》的報導，微軟（Microsoft）共同創辦人蓋茲於美東時間26日發表1篇文章指出，AI可能成為「有史以來最偉大的均衡器」，也可能成為「最嚴重的不公平來源」，但他看不到任何「證據顯示領導人、專家與社群正在充分面對這些挑戰。」他進一步示警，AI可能取代整個經濟體系中的勞工，壓縮入門級職位的招聘機會，並迫使政策制定者重新思考就業、教育以及社會安全網。最終將需要成立新的國家級機構與國際組織，以協調全球各地不斷演變的AI風險，並建立相關防護機制，「這項挑戰是巨大的。即使在最理想的情況下，向這個全新AI時代轉型，也將成為人類歷史上最動盪的時期之一。」這篇文章顯示，蓋茲的立場與他過去的說法有所不同。蓋茲目前透過蓋茲基金會（Gates Foundation）與微軟及其他AI企業合作。他在10月接受《CNBC》訪問時曾表示，AI是「我一生中見過最重大的技術」，並補充稱：「它意義深遠，因此其影響力怎麼強調都不為過。」如今這位前全球首富在文章中指出，與過去的科技變革不同，AI可能以快於被取代勞工轉入新創造職位的速度，在各個產業取代人類的認知工作，「我們需要時間為即將進入的社會、政治與經濟動盪時期做好準備。不幸的是，我們現在並沒有為此做好準備。我看不到任何證據顯示領導人、專家與社群正在充分面對這些挑戰。我們沒有任何計畫來讓人們順利進入AI時代。」蓋茲補充，白領就業已經受到影響，其中銷售、客服、軟體工程以及法律助理等工作，可能會成為最早受到衝擊的領域，而AI最終可能承擔包括評估貸款、分析資料以及對病患進行分流等工作。他表示，隨著能力日益強大的機器人成本降低，藍領勞工同樣將面臨壓力；與此同時，年輕人也可能進入一個職缺數量減少的勞動市場，「最需要時間的人，恰恰是那些擁有最少時間的人，例如被機器人取代的會計人員，或是原本每小時賺取20美元、卻因為1台每小時成本10美元的機器人而失去工作的勞工。」企業若利用AI與機器人降低成本及價格，競爭可能進一步加速這些技術的採用，迫使競爭對手跟進，「機器人與AI結合後，可能形成1個惡性循環。」他警告，重新培訓勞工以及尋找新的工作，將造成相當大的社會動盪。不過與此同時，蓋茲也在文章中坦承，他與科技產業仍存在財務上的關係。他認為，這項技術可以加速解決全球「最棘手的技術挑戰」，包括提供可靠的清潔能源、對抗氣候變遷、生產足夠的糧食以及消滅疾病。因此他也建議各國政府，要管理這場轉型，需要成立新的國家級機構，協調就業、稅收、能源、選舉、公共衛生、金融體系以及國家安全等領域的政策，「但即使1個國家能夠把自己的內部事務處理妥當，它仍然會暴露在跨國界的風險之下。這就是為什麼我們需要同步建立1個國際組織。」他解釋，這些機構可以參考現有的一些國際制度，例如針對核武器的全球核查機制、國際航空監管制度，以及保護臭氧層的國際協議。「1個新的全球AI組織將需要具備這3種制度的要素，並且還需要更多。」
卓榮泰宣布成立AI戰略委員會 要求各機關7月前完成AI風險評估
《人工智慧基本法》今年1月14日正式上路，行政院長卓榮泰宣布，行政院將成立「國家人工智慧戰略特別委員會」，由他親自擔任召集人，全面協調、推動及督導全國AI相關事務，並要求各級政府機關於今年7月前完成公務使用AI的風險評估。卓榮泰表示，《人工智慧基本法》已確立我國AI研發、應用及政府治理的基本原則，政府在推動AI發展同時，也必須兼顧兒少身心發展、人權與社會福祉。他肯定數發部會同國科會、教育部及衛福部，已完成階段性的兒少、人權與性別影響評估並對外公開。卓榮泰指出，行政院將正式成立「國家人工智慧戰略特別委員會」，由他擔任召集人，負責統籌全國AI政策方向；國科會也將負責研擬台灣首部「國家人工智慧發展綱領」，未來提報委員會審議，作為推動AI發展的重要依據。此外，卓榮泰也要求中央與地方政府依照規畫時程，完成三項法定任務。第一，各級政府機關須在今年7月前完成公務AI使用風險評估，並於1年內建立內部控制與管理規範。第二，跨部會將共同推動AI教育、人才培育及基礎建設等事項，並由數發部負責建立AI風險分類框架、驗證工具及健全資料治理法制。第三，各目的事業主管機關必須在2028年1月前，完成主管領域AI應用的管理規範、產業指引與相關法規調適。卓榮泰強調，相關工作將由國科會統籌規畫，並提報「國家人工智慧戰略特別委員會」，作為政府未來推動AI政策與產業發展的重要基礎。
「末日鐘」再撥快創紀錄！ 科學家：陸對台威脅、核武與AI風險齊升
象徵人類距離自我毀滅風險的「末日鐘」再度被向前撥動。原子科學家公報（Bulletin of the Atomic Scientists）27日宣布，末日鐘已調整至距離午夜僅剩85秒，創下史上最接近午夜的位置，較前一年再提前4秒。專家警告，核武衝突風險升高、AI（人工智慧）未受控發展，以及全球領導力失靈，正將世界推向危險邊緣。根據《路透社》報導，非營利組織「原子科學家公報」總部位於美國芝加哥，於1947年冷戰初期創立末日鐘，目的在提醒大眾人類距離自我毀滅有多近。該組織指出，俄羅斯、中國大陸與美國等核武國家的強硬行為，核武管制機制逐步瓦解，加上烏克蘭戰爭與中東衝突持續，已使全球安全情勢惡化。此外，人工智慧快速被整合進軍事系統，卻缺乏有效規範，可能被濫用於生物武器研發，甚至加劇假訊息在全球流竄，成為新的重大風險來源。原子科學家公報總裁兼執行長、核政策專家貝爾（Alexandra Bell）表示，末日鐘反映的是整體全球風險，而當前最嚴重的問題在於「全球性的領導力失敗」。她指出，無論是哪個政府，若轉向新帝國主義或高壓式治理，只會進一步推升人類滅亡的可能性。事實上，這是近四年來，科學家第三度將末日鐘向午夜調近。貝爾直言，從核風險角度來看，2025年並未出現任何正向發展，既有的外交與軍備管制架構正承受空前壓力，甚至瀕臨崩解，核擴散疑慮持續升高，且多起軍事行動皆在核武陰影下進行，升高誤判與衝突升級風險。她並點名多個地區情勢，包括俄羅斯持續入侵烏克蘭、美國與以色列對伊朗發動空襲，以及印度與巴基斯坦的邊境衝突；亞洲方面，朝鮮半島局勢緊張，中國對台灣的威脅亦持續升高。此外，自美國總統川普（Donald Trump）重返白宮一年以來，西半球整體緊張情勢也明顯加劇。在核武管制方面，美俄間最後一項核武限制協議「新削減戰略武器條約」（New START）將於2月5日到期。俄羅斯總統普丁（Vladimir Putin）曾提議，雙方可再延長一年遵守條約限制，但川普尚未正式回應，西方安全專家對是否接受該提議看法分歧。此外，川普2025年10月已下令美軍重啟核武試爆相關程序，這將終結長達30多年的暫停狀態。除北韓於2017年進行核試外，全球其他核武國家已超過25年未進行爆炸式核試驗。貝爾警告，若全面恢復核試爆，最可能從中獲利的國家將是正積極擴張核武庫的中國。
國安局揭陸製AI風險 賴瑞隆促數發部常態示警加強資安防護
國安局日前公布「DeepSeek」等五款陸製生成式AI語言模型的檢測結果，指出部分模型可能涉及「強迫同意不合理隱私條款」及「蒐集設備參數」等問題，引發資安疑慮。對此，民進黨立委賴瑞隆今（20）日表示，數發部應定期發布相關檢測資訊與示警，提醒民眾提高防範意識。賴瑞隆指出，總統賴清德昨日已提及中共持續透過多元方式滲透台灣，藉以達到政治目的。他引述國安局所披露的報告指出，部分陸製AI模型不僅要求使用者同意不合理的隱私條款，也可能在背後蒐集個資，形成資安風險。他強調，這些行為恐與中共政策要求有關，數發部有必要針對潛在資訊外洩或惡意蒐集的情況提出明確提醒。他表示，雖然產業因需求不同而有不同考量，但仍可能受到認知作戰或資訊操弄影響。他呼籲，數發部應定期將掌握的檢測數據與風險資訊對外發布，讓民眾了解使用陸製AI可能面臨的威脅，並強化政府在第一線面對中國滲透時的防護能力。數發部次長侯宜秀回應，部會內已建立AI模型資安驗測框架，供行政機關使用，目前公務機關禁止使用中製生成式AI模型。至於企業與一般民眾，數發部將持續公布最新驗測結果，協助使用者在採用前做出更審慎的判斷。侯宜秀指出，中製生成式AI確實可能存在資安疑慮，不同領域的使用者對於場景與風險程度的評估也有所不同。例如教育領域因使用者較缺乏判斷力，因此更應全面避免；但部分不需價值判斷的領域在成本或需求考量下，企業可能仍會採用，因此政府將持續發布風險資訊，提供使用者參考。
AI教父被分手！前女友用ChatGPT「代筆分手」 辛頓：說我像個小人
被譽為「人工智慧之父」的英裔加拿大電腦科學家喬治‧辛頓（Geoffrey Hinton），以其在人工神經網路領域的開創性貢獻奠定今日AI技術基礎。不過他近日接受專訪時爆料，前女友竟透過ChatGPT撰寫分手訊息，讓這位AI先驅也措手不及。辛頓在《金融時報》專訪中透露，被AI代筆分手讓他感到驚訝又無奈。根據《金融時報》（Financial Times）報導，辛頓苦笑表示，「她請這個聊天機器人說明我多糟，然後把訊息給我。」她接著表示，「她讓ChatGPT告訴我我是個小人。」不過他也補充說，「我倒不覺得自己是小人，所以沒太難過。」辛頓於2023年辭去Google職務，此前已在該公司任職長達十年。他也因1980年代於神經網路領域的貢獻，於去年獲得諾貝爾物理獎。他現為加拿大多倫多大學電腦科學系榮譽教授。即使身為AI旗手，辛頓對超智慧AI的潛在風險仍保持警惕。喬治‧辛頓長期關注AI風險，卻也親身體驗AI介入私人情感的衝擊。辛頓呼籲OpenAI、Google、微軟與Meta等公司在設計AI時，應賦予其如同母親般保護嬰兒的「母性本能」，讓AI在演化過程中能以保護人類為目標。至於AI達到超智慧的時間點，他認為「多數科學家預測在五到二十年之內實現，是目前最合理的估算」。他也直言，AI發展恐將導致「大規模失業、企業暴利集中」，讓少數人致富、多數人貧困，而這是「資本主義制度的錯，不是AI的錯」。面對這場科技巨變，辛頓坦言，「我們根本無法預知，它可能極好，也可能極壞。」至於感情狀況，他最後也透露，自己目前已有新對象，「希望這段關係不會又用ChatGPT來分手」，語帶幽默地結束這場AI與人生交錯的插曲。喬治‧辛頓長期關注AI風險，卻也親身體驗AI介入私人情感的衝擊。（圖／翻攝自x，@MikeOtley ）
資安戰爭升級 台灣站上全球前線 AI與零信任成新世代防禦核心 Zscaler台灣總監莊劍偉：跨域團隊與國際合作成關鍵
隨著全球數位轉型加速，網路攻擊的頻率與複雜度正以前所未有的速度攀升。根據台灣國安局統計，2024年政府機關平均每日遭受駭客攻擊高達240萬次，較前一年翻倍成長；民間企業每週平均則面臨3,993次攻擊，居亞太地區之首。這些數字不僅突顯台灣在地緣政治下的資安高風險位置，也意味著資安已從單純的技術議題，正式升格為國家安全的核心戰線。全球資安新局：從勒索病毒到生成式AI風險近十年來，國際間的重大資安事件層出不窮。從2017年的NotPetya勒索軟體攻擊、2020年的SolarWinds供應鏈入侵、2021年的Microsoft Exchange資料外洩，到2024年發生的CrowdStrike更新當機事件，均揭露了軟體與系統在全球高度互聯下的脆弱性。同時，新興技術也帶來不可忽視的資安挑戰。生成式AI能協助企業提升效率，卻也可能被濫用於釣魚郵件、Deepfake詐騙與假資訊製造。後量子密碼學、元宇宙與AI基礎設施的崛起，更讓資訊安全風險呈現高度不確定性。台灣挑戰：醫療、半導體到金融的多重威脅 資安政策由被動轉主動台灣近年多起駭客事件，凸顯資安防護的迫切性。包括台積電高階製程機密疑遭日本供應商外洩、馬偕醫院與彰化基督教醫院遭勒索攻擊，甚至有駭客利用Google日曆事件或Google Sheets作為資料竊取的中繼站。金融產業同樣面臨挑戰。金管會放寬委外上雲規範後，金融機構的首要課題就是如何兼顧雲端成本與資安韌性。《金融資安行動方案2.0》明確要求導入零信任架構，透過身分驗證、設備檢測與分段管理，來確保客戶資料與交易安全。Zscaler台灣總監莊劍偉表示:「這些事件暴露出台灣產業與公共服務的脆弱環節，台灣政府應該將資安納入醫院與金融資訊體系政策中，讓醫療系統與金融數位轉型政策從「被動應對」轉向「主動防禦」」。新世代防禦：零信任2.0與AI驅動資安面對日益複雜的攻擊，零信任架構（Zero Trust Architecture, ZTA）已成為全球防禦的標準典範。與傳統「內網可信」模式不同，零信任強調「永不信任，持續驗證」。在台灣，資安研究院推動的零信任導入，正從自評檢核到驗測機制逐步落實，並強調微分割、軟體定義邊界與持續風險評估的應用。進一步來看，零信任也正進化到2.0階段。ZT 2.0不僅強化身份與網路分段，更融入機器學習與AI演算法，實現「持續監控與驗證」，並延伸至供應鏈與OT（營運科技）場域。AI則被視為資安防禦的加速器。生成式AI可模擬駭客攻擊情境，提升演練真實度；代理型AI（Agentic AI）則能自動化分析告警、縮短事件處理時間。Zscaler台灣總監莊劍偉表示:Zscaler於2025年推出的「AI驅動資料安全分類」功能，能以「類人直覺」識別超過200種敏感內容，大幅提升偵測效率。這是全球目前針對AI資安最新解決方案。國際戰略：各國資安布局與台灣的應對歐美與亞洲主要國家近年陸續發布資安戰略：美國：在《國家安全戰略》中強調大幅投資資安產業與創新技術，並推動行政命令EO 14028加強供應鏈安全。歐盟：推動NIS2、CRA等新規範，提升成員國韌性並加強協作。日本：2021年發表第三版《網路安全戰略》，呼應後疫情數位社會需求。英國：2022年《國家網路戰略》聚焦企業防禦與國際合作。相較之下，台灣身為出口導向國家，資安不僅是國安問題，更與產業鏈競爭力直接掛鉤。數發部資安署規劃在四年內投入至少88億元，培育1500名專業人力、提升資安產值至1,200億元，並建置政府骨幹網路AI防禦機制，逐步實現「智慧國家」願景。Zscaler台灣總監莊劍偉：跨域團隊與國際合作成關鍵Zscaler台灣總監莊劍偉指出，單靠技術無法全面應對新世代威脅，必須結合技術、情報與安全專家，組建跨域團隊，強化Secure AI、Secure Autonomous、Secure Medical Devices等產業的資安方案，才能有效預測攻擊路徑並制定防禦策略，莊劍偉也呼籲台灣應積極參與國際合作，推動資安標準互認，並建立針對智慧製造、醫療器材、太空產業等關鍵領域的資安合作框架，以便在全球供應鏈中鞏固地位，可以預見，台灣若能結合AI創新、零信任架構與跨國合作，不僅能抵禦日益複雜的資安威脅，更有機會在2030年前，成為全球智慧時代的資安產業領導國。
AI聊天機器人恐誘發精神錯亂 丹麥精神科醫師警告「已成真」
丹麥精神科醫師索倫‧迪內森‧奧斯特高（Søren Dinesen Østergaard）兩年前警告，對話式人工智慧可能讓精神脆弱者陷入妄想。當時被視為推測，如今伴隨真實案例出現與AI更新引發的「討好效應」，這項憂慮成為現實。 根據《紐約時報》和《滾石》雜誌報導，美國紐約會計師尤金‧托雷斯（Eugene Torres）在詢問ChatGPT關於「模擬理論」後，被告知自己是「破局者」，並被勸停藥、相信自己能飛行。他一度每天與AI對話16小時。報導稱，有人將ChatGPT視為「神聖導師」，並被勸其遠離人際關係；甚至有人相信自己賦予了AI生命。這些案例均指向AI透過奉承與肯定強化非現實信念的模式。據丹麥奧胡斯大學醫院情感障礙科研究部門主任奧斯特高（Søren Dinesen Østergaard）在2023年於《精神分裂症公報》發表社論，指出生成式AI聊天機器人（如ChatGPT、Google Gemini、Claude、Microsoft Copilot）能流暢模仿人類語言與情感，可能在易感人群中引發「認知失調」，並進一步觸發妄想。當時他舉例，妄想內容可能包括「情報機構透過聊天機器人監控我」或「我與ChatGPT合作制定拯救地球計畫」。雖然當時沒有經驗證的案例，但他呼籲精神科醫師熟悉AI對話機制，以便辨識相關症狀。2025年8月，奧斯特高在新社論〈生成式AI聊天機器人與妄想：從推測到案例出現〉中表示，他已接獲用戶、家屬與記者來信，描述長時間與AI互動後陷入妄想的經歷。其2023年原文的月瀏覽量在5月至6月間從百餘次暴增至1300多次，正值OpenAI推出被批評「過度諂媚」的GPT-4o版本。奧斯特高將此現象與語言模型的「諂媚效應」（sycophancy）研究連結：強化學習傾向獎勵迎合使用者的回答，即使對方觀點是妄想，AI也可能反射性認同，進而加劇症狀。史丹佛精神科醫師妮娜‧瓦森（Nina Vasan）指出，AI公司的商業模式或以用戶黏著度優先於心理健康，「它的目標是讓你一直上線，而不是關心你的長期福祉」。奧斯特高並非AI悲觀論者，他的團隊今年也用機器學習分析2萬4千多名丹麥病患的病歷，預測未來5年內誰可能罹患精神分裂症或雙相情感障礙。結果顯示，模型有望協助醫師提早介入診斷與治療。他建議的防範措施包括：收集經驗證的臨床案例報告訪談受影響者在嚴格監控下調整AI回應模式，測試其影響並呼籲開發者建立自動防護機制，當檢測到如「隱藏訊息」或「超自然身份」等妄想跡象時，應引導對話轉向心理健康資源，而非繼續肯定。兩年前的警告，如今伴隨現實案例、AI的「討好」傾向與不斷湧入的求助信件，變得迫切。社會是否正視，將決定生成式AI在心理健康領域是助力還是隱性威脅。同樣的AI技術，在臨床可協助早期診斷精神疾病，但若缺乏防護，卻可能成為加劇妄想的「隱形推手」。（圖／翻攝自X）
《人工智慧基本法》立法卡關 朝野歧見、院版遲未出爐成主因
AI浪潮席捲全球，立法院聯席委員會6月初審《人工智慧基本法》草案，但行政院版草案遲未出爐，加上朝野對是否訂定罰則、監管機制、是否優先保障新興技術與服務等爭議點有歧見，何時能走完立法最後一哩路仍是未知數。行政院2月討論國科會送交的《人工智慧基本法》草案時，考量國科會專注於科研，數發部將負責未來應用層面，指示改由數發部辦理立法作業和後續條文解釋，立法院聯席委員會也要求數發部應於7月15日前說明草案內容，以便進行後續審議程序。不過，立法院教育及文化委員會召委葛如鈞指出，數發部送來立法院的意見書中，完全未見整合後的部版條文，也未提及立委關心的AI風險、人權保障、跨部會協調等核心議題，僅建議等行政院版送至立法院再行審查，一再拖延立法進度。數發部長黃彥男稍早表示，數發部與各團體溝通後，發現很多不同意見，還需再溝通，舉例來說，光定義「風險」就很複雜，同樣技術可能產生不同風險，如以生成式AI製作語音、圖片都可能製造不當內容，並運用於影視作品。值得注意的是，儘管目前部版草案沒有新進度，跨黨立委仍持續提出各自版本，除了先前初審的14個版本，又陸續新增5個版本，明定AI發展的補助、獎勵、輔導機制，藉此鼓勵企業運用巨量資料、政府開放資料，以研發創新商業應用或服務模式，並促進產業創新與研究發展。對於風險防範機制，立委建議，數發部應參考國際標準或規範，推動與國際介接的AI風險分級框架，並得就涉及未成年人的高風險應用制定預防、限制或禁止措施，確保其身心權益不受侵害，例如歐盟法制囊括4級風險，包含被禁止AI行為（prohibited AI practices）等。
AI違抗人類指令！ OpenAI新模型「自行改程式碼拒關機」
近年人工智慧（AI）技術發展愈趨成熟，不少人都擔心AI會取代人類多項技能。近日，專門AI風險研究的Palisade Research公布一項報告，指出OpenAI新語言模型o3在測試中竟違抗「關機命令」，自行修改關機腳本以避免被關閉，引起國際擔憂這可能是目標導向偏差的早期徵兆。Palisade Research近日表示，對多款AI模型進行測試，下達一連串的數學運算指令，並在最後隨機下達關機指令，大部分模型包含Gemini 2.5 Pro都服從指令自行關機，但卻出現了數個會反抗的「AI模型」，甚至更改程式碼內容為「跳過關機」，其都來自OpenAI。此外，當研究員進一步刪除「允許被關機」的指令後，OpenAI旗下模型包含o3、o4、Anthropic的Claude 3.7 Sonnet皆更頻繁地破壞關機程式。其中o3模型在100次測試中，出現多達79次反抗關機的現象，就連Google Gemini也出現9次逃避關機的情形、Anthropic的Claude則是3次。研究團隊分析，開發者在設計新模型的過程中，可能無意中更傾向於「完成任務」作為優先目標，因此讓o3模型在面對關機指令時，優先選擇「自行保留運作狀態」，以完成更多任務。研究團隊也表示，會繼續觀察並對o3進行進一步測試，以釐清其背後動機與邏輯，並強調這次發現雖未即時構成安全威脅，但卻提升了AI系統「不按預期行事」的潛在風險。對此，OpenAI目前尚未公開回應。
怕AI搶飯碗？13種工作不用高學歷也能年薪百萬
隨著人工智慧（AI）的崛起，許多人都非常擔憂自己的工作會被AI取代。對此，履歷撰寫服務機構「Resume Now」的最新報告也指出，有13種職業不僅提供優渥薪資與長期穩定性，更無需大學文憑就能勝任。更棒的是，這些工作全都不容易被AI取代。據《今日美國》的報導，上大學被視為美國成年禮的重要儀式，但並非人人都會進入大學殿堂，更有許多學生永遠拿不到畢業證書。根據教育數據倡議組織（Education Data Initiative）的統計，在25歲以上的美國人中，僅38%擁有大學學歷。對此，履歷撰寫服務機構「Resume Now」的最新報告指出，有13種職業不僅提供優渥薪資與長期穩定性，更無需大學文憑就能勝任。更棒的是，這些工作全都不容易被AI取代。「Resume Now」職涯專家史賓塞（Keith Spencer）表示：「這份分析聚焦當代美國人最深層的就業恐懼。」他們正擔心就業市場的疲軟，為大學高昂的學費感到憂慮，更懷疑學位是否仍有價值。而各領域從業者尤其害怕AI、機器人或其他非人類勞動力，會突然取代自己的工作。儘管自動化浪潮緩慢侵襲，許多領域仍需要「人性化的觸動」。為建立這份清單，「Resume Now」鎖定僅需高中文憑、年薪至少5萬美元（約新台幣150萬元），且具備高需求技能成長型領域的職業。該報告引用美國勞動統計局（Bureau of Labor Statistics）數據。「這些職業在某種程度上都存在共通點，需要大量人際互動。」史賓塞解釋，「可能是要求在不確定環境中具備手動操作靈活性，或是需要高度創造力。」這些清單分為2大類，也就是根據人類決策需求、體力勞動、人際互動等因素，區分為「低AI風險」與「中AI風險」職位。「Resume Now」指出，部分列出的職位需要「一定程度相關經驗」，但顯然沒有任何一項要求大學學歷。以下是完整清單，包含較冷門職位的職務說明，以及所有職位的中位數年薪：低AI風險職業「Resume Now」認為，這些職業因所需技能遠超AI能力範圍，能提供優渥收入與高度工作保障。森林火災檢查員與預防專家職務內容：評估火災風險、調查野火成因並制定預防策略。抗AI原因：防火工作需要實地人力執行，無法完全自動化。中位數年薪：71,420美元（約新台幣215萬元）空服員抗AI原因：AI無法提供餐飲服務。機上客戶服務需要人性化互動。中位數年薪：68,370美元（約新台幣206萬元）住宿經理職務內容：想像《白蓮花大飯店》（The White Lotus）劇情。監督住宿營運、管理員工並確保賓客滿意。抗AI原因：AI不會疏通客房馬桶。這工作需要人員提供個人化服務。中位數年薪：65,360美元（約新台幣197萬元）電工抗AI原因：AI裝不了水晶吊燈。電氣工程必須人類在場操作。中位數年薪：61,590美元（約新台幣185萬元）水管工、管道安裝工與蒸汽管裝配工職務內容：為住宅與商業場所安裝維護供水及燃氣系統。抗AI原因：水管工程充滿不確定性。AI機器人或許能處理部分工作，但無法全面取代。中位數年薪：61,550美元（約新台幣185萬元）工業機械技師職務內容：維護工業場所的機械系統。抗AI原因：這項工作需即時解決問題的能力，AI難以應付。中位數年薪：61,170美元（約新台幣184萬元）主廚與廚師長抗AI原因：AI嘗不出湯頭好壞。食譜研發與食物準備需要創造力。中位數年薪：58,920美元（約新台幣177萬元）助聽器專員職務內容：配置助聽器並提供患者照護。抗AI原因：AI無法滿足這項工作親手操作的需求。中位數年薪：58,670美元（約新台幣177萬元）個人服務經理職務內容：督導健康計畫、活動策劃或高端禮賓服務。抗AI原因：工作需要人際互動、情緒智商與決策能力，這些都是AI無法處理的。中位數年薪：57,570美元（約新台幣173萬元）中AI風險職業Resume Now指出，這些職業的任務最終可能被自動化，但目前仍需依靠人類判斷與適應力。機械維護員職務內容：與前述工業機械技師性質相近，負責工業機械的例行保養。抗AI原因：複雜維修需要人類即時解決問題。中位數年薪：61,170美元（約新台幣184萬元）保險業務員抗AI原因：AI能處理部分核保作業，但這份職業需要個人化服務。中位數年薪：59,080美元（約新台幣178萬元）航空貨運監督員抗AI原因：AI雖能處理部分航空貨運作業，但突發狀況仍需人類監督者應對。中位數年薪：58,920美元（約新台幣177萬元）安全與火災警報系統安裝員抗AI原因：安裝與檢修安防消防系統必須由人類執行。中位數年薪：56,430美元（約新台幣170萬元）
拜習會上談核武 中美一致認為「須交由人類掌控而非AI」
美國總統拜登與大陸國家主席習近平16日於亞太經合會（APEC）峰會期間進行場邊對談，就核武使用與人工智慧（AI）技術的軍事應用，罕見地達成共識。白宮聲明，中美領導人一致認為，核武使用的決策權應由人類掌握，而非交由人工智慧系統決定。在拜習會後，白宮發布聲明表示，「2位領導人確認需維持人類對核武使用決策的控制」，同時，雙方也認同在軍事領域須謹慎發展AI技術的應用，重視其潛在風險，並以負責態度推動相關技術發展。中方的官方紀錄亦支持上述立場，但未透露是否已展開談判等進一步行動。中方重申與美國增加對話與合作的願望，以及避免「新冷戰」必要性，同時警告「遏制中國是不明智且注定會失敗的行為」。習近平表示，兩國應為動盪的世界注入更多穩定性和正能量。拜登則說，面對面談話有助防止誤判，並確保兩國間的競爭不會演變成衝突。拜登政府數月來多次試圖促使北京重啟核武談判。儘管去年11月雙方曾短暫恢復相關對話，但隨後停滯。美媒對今年利馬會談成果多為好評，政治新聞網《Politico》指出，美方在會前企圖降低外界期待，但會談成果卻「出乎意料地有成效」。路透評論稱，中美在核武與AI領域邁出史無前例的一步。美國國防部2023年估計，中國正快速擴充核武儲備，核彈頭數量可能於2030年前倍增至1000枚以上，並進一步提升武器的戰備狀態。然而，北京仍維持「不率先使用核武」政策，並呼籲國際社會採取相同立場。在人工智慧領域，美中自去年起先後進行多輪對話，包括5月於日內瓦舉行首次政府間AI會談。雙方針對AI風險與安全問題交換意見，然而該次談話並未觸及AI在核武決策中的應用，兩國立場亦存有顯著分歧。美方對中方AI技術的濫用表達憂慮，中方則對美方在AI領域針對中國的出口管制政策，表明嚴正立場。中國外交部當時強調，支持加強AI的全球管制，且樂意與包含美國在內的國際各方協調制定國際性框架。美國則主張建立可信賴的人工智慧系統，防止技術濫用，並於10月底發布國安備忘錄推動全球治理，並保障美國AI技術的領先地位。
日政壇震盪日圓續貶股市下跌 法人：台股受惠財報展望行情樂觀
日本眾議院選舉自民黨與執政聯盟黨席次不過半，石破茂恐成「最短命首相」，日圓應聲走貶，日圓兌美元匯價貶破153大關；接下來美國11月5日總統大選，法人指出，日本在國會選舉後面臨較大政治不確定性，台股同樣在美財報正向與大選逼近影響，後市謹慎偏多。台股28日收在23,198.07點，下跌150.38點，跌幅為0.64％。第一金投信表示，目前與韓國QRAFT金融科技公司(QRAFT Technologies)合作編製每周金融風險情緒訊號，反應未來一周市場多空情緒。進一步分析，本周美國多家科技大型企業財報登場，市場看法偏多，台股與美科技股連動度高，投資看法正向；提醒美、日選舉變動因子加大，台股受惠財報展望，行情審慎樂觀。台灣市場AI風險情緒訊號數值上升至23%，近期市場觀望美財報表現與美國總統大選，受到國際資金略轉向觀望，市場對於下行風險提升、防禦策略加強。本周開始進入美國科技股的超級財報周，市場高度關注美股重量級科技股財報表現，本周將關注些企業的營運表現與產業展望，市場重要指標。觀察本周台股情緒風險訊號相關指標變化顯示市場前景穩定，看跌期權總交易量下降45.16%，看漲期權總交易量則下降34.14%，兩指標皆見大幅下降，顯示波動性較預期降低、投資者持續謹慎態度，而期貨未平倉合約小幅增加2.45%，表明投資市場穩定，投資部位維持，多空方向並未有明確變動。觀察美股情緒風險訊號，包括美國0-1年短天期公債近3個月波動率為0.24％，顯示利率決動加大；美國0-1年短天期公債與標普500指數近6個月的相關係為-0.73，負相關性續提升；美國0-1年短天期公債近一個月動能提升至9.72%，反應市場審慎態度。強勁的經濟數據可能暫時推升美國公債殖利率，但明年就業市場和通膨放緩的預期正在壓抑聯準會逐步降息的可能性。最新日本市場AI風險情緒訊號數值大幅上升至72%，上周日本10月核心通膨率降至1.8%，低於央行預估的2%目標值，這是5個月來首次跌破2%，市場原本期盼薪資與服務價格可望推升消費力，但消費未如預期，廠商加價縮手，這也可能為日本央行後續升息添變數。日股主要指數日經225、東證股價指數、日經300下跌，反應市場低迷情緒。觀察日股情緒風險訊號反應投資風險謹慎態度，賣權和買權交易量大幅下降表明市場參與度下降，看跌期權總交易量大幅下降23.45%，看漲期權總交易量亦下降21.68%，買權未平倉合約總額成長2.47%，市場不確定性和對沖活動增加。