深度偽造
」 AI 詐騙 調查局 人工智慧 深度偽造
Google使用YouTube影片訓練AI工具 創作者氣炸：沒給額外補償
隨著人工智慧（AI）發展，人們對於AI的需求逐步上升，而Google近年來多次被爆利用部分YouTube影片訓練Gemini、Veo人工智慧工具，讓不少創作者擔心品牌形象、收入因此受影響。 根據《洛杉磯時報》（Los Angeles Times）報導，在YouTube擁有135萬訂閱的查理（Charlie Chang），時常在頻道談論有關「錢」的主題，而他正管理50多個YouTube頻道及其他網站，年收入達300萬至400萬美元；針對Google訓練AI一事，他直言「恐懼是存在的，我仍在持續經營、創立頻道，但我也在做準備，以防頻道變得不再受關注。」報導指出，Google正藉由YouTube影片當作資料庫，訓練包括文字轉影片工具Veo等AI工具，而截至今年4月，YouTube的總影片數量已超過200億個。然而，就有不少創作者透露，他們無法自行決定影片是否會被AI使用，且Google並不會給予任何額外補償。YouTube前員工格雷斯（Kathleen Grace）表示，有些人正在使用AI製作創作者的深度偽造（deepfake）版本，並冒充他們向粉絲發送訊息；另有創作者表示，這種行為已嚴重影響他們的收入及品牌形象。對此，YouTube發言人馬隆（Jack Malon）強調，AI工具能讓影片製作更有效率，YouTube已推出辨識與移除冒用內容的機制，創作者可要求刪除YouTube上的AI生成內容，「只有創作者成功，YouTube才能成功」。一些法律專家認為，創作者選擇同意YouTube相關服務條款，並不代表他們確實同意授權YouTube、Google將內容拿去訓練AI，「（創作者）在訴訟中能以此進行爭論」。
白宮「AI行動計劃」出爐！川普簽3行政命令 槓上版權法與加州監管
美國總統川普（Donald Trump）於美東時間23日在啟動白宮的「AI行動計劃」（AI Action Plan）時，針對版權執法與州級AI監管措施提出批評，強調美國必須主導AI產業發展。他在華盛頓由「All-In Podcast」與「Hill and Valley Forum」舉辦的「贏得AI競賽」（Winning the AI Race）峰會上直言：「當你讀過或研究過的每1篇文章、書籍都得付費，不可能打造成功的AI計劃。這根本不可行，中國可沒這麼做。」綜合POLITICO、Deadline.com的報導，雖然川普的言論呼應了科技業對「合理使用」訓練數據的立場，然而，政府官員指出，川普上述發言只是即興演出，因為白宮長達28頁的《人工智慧行動計畫》根本沒有涉及版權問題，所以這個問題應該交由法院來裁決。此外，川普還在峰會上簽署3項行政命令，包括：加速聯邦許可與基礎建設審查、擴大AI技術出口，以及禁止採購「帶有黨派偏見」的AI系統。據悉，輝達（Nvidia）執行長黃仁勳（Jensen Huang）、超微（AMD）執行長蘇姿丰（Lisa Su）等產業領袖均與會支持。川普在會中特別抨擊各州監管碎片化的問題：「我們需要單一聯邦標準凌駕各州，不能讓加州這類地方拖累創新。」計劃中更指示管理與預算辦公室（OMB）限制對實施「阻礙性法規」州份的撥款，並要求聯邦通信委員會（FCC）審查州法是否干預《1934年通訊法》（Communications Act of 1934）的職權。這場演說同步標誌白宮發布的「AI行動計劃」正式啟動，該計劃聚焦建設數據中心等基礎設施，並消除監管障礙，與前任拜登政府強調「AI安全優先」的路線形成對比。文件還建議修訂聯邦採購規則，要求政府僅與能確保系統「客觀無意識形態偏見」的大型語言模型開發商合作，同時刪除美國國家標準與技術研究院（NIST）框架中關於虛假信息與氣候變化的內容。「AI必須反映真相而非社會工程，」計劃寫道。值得注意的是，儘管提及深度偽造（deepfake）風險並援引共和黨參議員克魯茲（Ted Cruz）推動的《刪除法案》（Take It Down Act，旨在應對非自願發布的私密影像，或利用人工智慧製作的深度偽造內容在網站和社交媒體上的傳播），全文卻對版權爭議輕描淡寫，而這正引發迪士尼（Disney）、NBC環球（NBCUniversal）等媒體巨頭對AI公司的一連串訴訟。針對參議員霍利（Josh Hawley）與布魯蒙索（Richard Blumenthal）提出「須取得內容授權」的立法草案，川普明確反對：「當知識進入這台龐大智能機器，不可能每次都要談判付費。當然不能抄襲，但學習文章後，AI必須能自由運用這些知識。」科技業主張「合理使用」的立場獲總統背書，儘管OpenAI已與新聞集團（News Corp.）、美聯社（AP）等簽署授權協議。儘管川普的AI行動計劃未如拜登時期強調安全管控，但仍列出國家安全與隱私風險對策，要求建立「全球最大AI科學數據庫」保護公民自由。對於州級監管，文件採取折衷立場：既反對「浪費聯邦資金的繁瑣法規」，也允許各州可以制定「不妨礙創新的謹慎法律」。對此，加州州長紐森（Gavin Newsom）辦公室則反擊，指川普計劃「威脅削減打擊AI兒童色情內容的州份資金」，更暗諷這位2028年總統大選的潛在對手，與淫魔富豪艾普斯坦（Jeffrey Epstein）的親密關係。
金融詐騙危機！ OpenAI執行長示警除「這驗證方法」AI都能仿
美國聯準會22日於華盛頓特區舉行會議，OpenAI 執行長奧特曼（Sam Altman）對在座銀行高管和監管機構表示，人工智慧 (AI) 技術日益成熟，他對金融機構在應對AI所引發的炸騙問題上感到擔憂，許多金融機構仍使用如聲音辨識等不安全的身份驗證方式。奧特曼表示，AI已經完全擊敗了目前大多數的身份驗證方式，除了密碼以外。他進一步指出，許多現代的身份驗證方法，如自拍或語音識別，可能無法抵擋AI的攻擊。隨著這些技術的進步，金融詐騙危機可能即將來臨。OpenAI所開發的ChatGPT，該產品在 2022 年底推出後迅速普及生成式人工智慧，監管機構警告公眾要提防濫用AI的詐騙者，這些詐騙者可能會危及消費者的財產和身份。美國財政部的金融犯罪執法網絡（FinCEN）去年示警，越來越多的金融機構報告懷疑有人使用深度偽造媒體，特別是使用虛假的身份證明文件來繞過身份驗證和認證方法。奧特曼表示，通過語音通話進行的金融詐騙行為，像是冒充某人的孩子或父母要求匯款，將會出現新的形式。他預測，未來可能會出現無法與現實區分的視訊通話詐騙。他強調，民眾需要學會如何驗證請求，以避免成為詐騙的受害者。
多國動畫工會發表聯合宣言 示警Al嚴重威脅創作產業
世界多國的動畫工會及組織近日針對人工智慧的使用發出行動呼籲，指出這項技術對動畫工藝、產業以及從業人員造成破壞性影響。這個由超過20個組織及工會組成的聯盟近日發表聯合宣言，要求監管機構與立法者制定保護工作者及其權益的法規，同時呼籲製作人、節目統籌與產業高層維護動畫創作文化，優先保障人類工作者及其創作成果。該聯盟指出，過去幾年動畫產業遭受嚴重衝擊是不爭的事實。串流經濟模式已被證實難以獲利，疫情期間的過度支出更導致串流泡沫無可避免地破裂。當初被虛假承諾招募的工作者，如今正承受大規模裁員、外包加劇、併購導致工作室倒閉以及預算持續縮減的惡果。這種衝擊波及多個影視娛樂產業，影響動畫、音樂、視覺特效與遊戲產業的從業者。生成式AI在動畫領域的快速擴張，源自業界誤認其能解決上述困境。在這些產業工作，本就是一場不斷向極少數決策者證明經濟價值的苦戰，而對那些人而言，生成式AI提供的方案好得令人難以置信，只需簡單模糊的描述，這台近乎魔法的機器就能產出文字與圖像。然而，該份宣言認為，生成式AI既非工具，亦不高效，更不廉價。它本質上是台有缺陷、具破壞性且運作成本高昂的複製機器。其運作不僅直接建基於受版權保護的訓練素材，更汲取了這些作品蘊含的地域人文價值觀與文化規範。這項技術對創作創新與更替構成迫在眉睫的威脅，將人類創作特有的豐富性與多樣性，替換成由控制者與使用者偏見塑造的「創造力」。它正積極將創作者逐出各自領域，不僅導致無可挽回的知識與人才流失，更直接促成藝術創作過程與思維的全面私有化。生成式AI是項以摧毀藝術家而非支持其為目標的技術。聯盟示警，「排除人類參與」是其藝術產出的特性而非缺陷，「它根本不是工具，我們無法使用生成式AI，只能透過協商勉強讓它執行指令。這項技術帶給全球數百萬藉創作維生者的，唯有失業與生計斷絕的危機。」遺憾的是，影視產業並非這項有害技術發展的唯一受害者。聯盟警告，同樣的技術正被用於煽動公眾分歧、混淆視聽與製造不信任，其影響超越國際安全層面，更涉及偽造犯罪證據與新聞、深度偽造色情內容等新型性騷擾及隱私侵害。此外，訓練與運行生成式AI模型所需的運算力消耗驚人電力與水資源，直接衝擊城市供水系統並破壞當地生態。這種無節制的發展與盲目的科技樂觀主義帶來嚴峻環境後果，包括運算需求暴增、碳足跡擴大、用電模式劇變與自然資源加速耗竭，更伴隨著對人權的漠視。因此，宣言指出，各國亟需建立AI倫理與公平使用的保護框架，「對此我們援引國際勞工組織（ILO）研究簡報提出的『3C原則』（合理補償、作品使用控制權、知情同意），同時呼籲各國與國際社會制定政策，透過技能培訓推動勞動力轉型，並運用社會保障體系協助受AI影響的工作者。」以下為3C原則：合理補償（Compensation）：表演者與創作者應就其作品（包括但不限於插畫、動畫、文本、聲音演出、肖像或圖像）於AI生成內容中的使用獲得公平報酬。作品使用控制權（Controls）：作家、音樂人、電影工作者、視覺藝術家等創作者必須能主導其作品、身份與創意成果如何被AI系統使用、改編或重製。此項控制權確保創作者的智慧財產權、勞動與名譽受尊重，並獲得合理認可與報酬。為實現這點，必須讓創作者充分理解AI（特別是生成式AI）的運作本質，同時建立集體協商機制以爭取相關勞動權益。知情同意（Consent）：要在技術創新與文化創意產業永續發展間取得合理平衡，必須確保唯有獲得著作權人（充分知情）同意後，方能將其受保護作品用於AI訓練。聯盟也因此呼籲監管機構、立法者與各國政府為文化藝術及其價值奮戰，制定並實施保護工作者與相關權益的法規。並建議製作人、節目統籌、工作室主管與製作團隊理解並守護創作文化，將工作者與人類創作成果列為優先考量。同時號召全球創意工作者團結一致：支持人類創作、公開反對AI取代、增進相關認知並與同業組建工會，「共同捍衛我們的藝術文化、工作成果與生存權利。」簽署該份宣言的組織包括：比利時動畫工會（ABRACA）、愛爾蘭動畫工會（AWI）、西班牙電玩工會（CSVI）、法國編劇工會（La Guilde française des scénaristes）、法國動畫／視效工會（SNTPCT）、國際音樂家聯合會（FIM）、美國動畫工會(The Animation Guild）、法國動畫工會（SPIAC-CGT）、荷蘭插畫漫畫動畫工會（Kunstenbond）。除發表聲明之外，該聯盟還邀請所有將參加下週安錫國際動畫影展（Annecy Festival）的動畫從業者、學生、支持者以及新聞媒體參與公開論壇。
小心AI詐騙！18億Gmail用戶收「紅色警戒」 FBI示警：個資恐外洩
詐騙手法日新月異，近日詐騙集團以AI技術為核心工具，進行一次大型網路騙局，大量攻擊18億Gmail用戶，寄出「紅色警報信」，讓被害者誤以為帳戶遭遇攻擊。FBI也示警，提醒民眾注意騙局，以防止帳戶被入侵及相關秘密資料流出。根據外媒《每日郵報》的報導，此次騙局經過AI生成深度偽造自動電話及惡意電子郵件，藉此讓被害者誤以為帳戶遭遇攻擊。用戶先是接到對方自称來自Google的電話，被告知帳戶發生可疑活動，並被提醒將收到含有簡單步驟以處理問題的郵件。電子郵件內含一個看似與Google完全相同的虛假網站連結，讓用戶輸入帳號和密碼。網路安全專家表示，這套計略的最終目的在於讓騙局人員獲取恢復碼，並騙取用戶實際的Gmail帳戶控制權。受到攻擊的不僅是Gmail帳戶，與該平台相關的各種服務也都面臨機密騙局的危險。FBI已發出警告，指出此種更進階段的網路騙局可能導致惡劣的經濟損失、名譽威脅及敏感資料外流。Malwarebytes安全研究員表示，這類騙局完全能用每一個人都可購買的AI工具做出，成本低至一次僅需約5美元，且一份研究顯示，自製深偽照片或影片只需要不到十分鐘。為了防護Gmail及相關帳戶，Malwarebytes提出下列措施，包括勿點擊任何意外收到的電子郵件連結或下載附件；若不確定網站真實性，勿輸入個人資料；使用密碼管理器以在可信網站上自動填充應用；一定要監控帳戶，查看是否有未授權的登入次數。FBI警告，如果接到自稱是金融機構或基金企業的電話，應該立即掛斷，且不要提供任何個人資訊。若懷疑遭遇騙局，請以實際機構的實認聯絡資料進行詢問。
詐騙案多政府遭批束手無策 打詐中心駁：成效顯著
有媒體今（11）日報導，國人受詐財損金額高，政府束手無策一事，行政院打詐指揮中心表示，經統計112年6月至113年11月，政府防詐宣導資訊觸及率達1億9,044萬人次；攔阻1,771萬餘通境外竄改來電詐騙、1,237萬餘則惡意簡訊；金融臨櫃攔阻詐騙案件數達近2萬件，攔阻金額達140億餘元；偵破電信網路詐欺集團3,930件，查扣不法犯罪所得逾250億餘元，打詐成效顯著，絕無報導所稱政府束手無策一事。打詐指揮中心表示，隨著科技發展及通訊軟體普及，傳統電話詐騙方式已逐漸演化成為利用網路之釣魚網站、假投資平台、深度偽造等方式迅速蔓延，而股市的持續興盛，也讓許多不法分子利用假冒投資顧問名義吸引民眾投入資金，致詐騙手段變得更加複雜且隱蔽。打詐中心指出，有鑑於此，新內閣上任後即宣示政府打詐決心，行政院除推動完成「詐欺犯罪危害防制條例」及配套三法立法工作，行政院亦同步推動研修「新世代打擊詐欺策略行動綱領」2.0版，新增「防詐」面向，由數位發展部擔任統籌機關，注重數位經濟產業治理，並以「運用AI人工智慧、深化跨境合作、監管關鍵產業、加強被害保護」為重點，設立「強化防詐意識、減少發生數、降低財損數」3項目標，以延續跨部會合作機制，抑制詐欺犯罪。打詐指揮中心表示，今（114）年度特別編列打詐經費73億元，期結合跨部會、跨機關的力量，逐步推動各項打擊詐騙措施，其中主要係強化運用科技辦理網路詐騙偵查，輔助傳統辦案人力，以對抗詐騙集團利用網路的新型詐騙。打詐指揮中心強調，若無以上政府各部門強力執行各項打詐作為，詐欺被害案件數與財損數恐將更高。而面對詐欺犯罪的嚴峻挑戰，政府將持續跨部會共同研議各項防制措施，「不打更詐，越詐越打」盡全力守護民眾財產安全，也期待朝野攜手合作，中央與地方協同作戰。
電商用「AI換臉」帶貨！假冒劉德華聲音製造流量 專家：已違法
大陸不肖電商業者利用AI技術，深度偽造了像是明星或是名醫的臉部和聲音進行直播帶貨，甚至成功賣出1200多條蛋白棒產品，還有人為了流量，用「AI模仿劉德華的聲音」據當地專家表示，用「AI假冒名人」進行帶貨的行為涉嫌違法。AI深度偽造假冒名人的事件不斷發生。（圖／翻攝自大陸央視）AI深度偽造假冒名人的事件不斷發生。（圖／翻攝自大陸央視）根據大陸《央視》報導，今年以來，AI深度偽造假冒名人的事件不斷發生，還有人用小米創辦人雷軍的聲音和臉，惡搞出許多影片，令雷軍相當無奈。據雷軍表示，「自己也挺困擾，也挺不舒服的，在這裡希望大家不要再玩了，這個事情不太好，不過還是覺得AI是很好的技術，也非常實用」。遭平台下架的AI假冒名人帶貨帳號。（圖／翻攝自微博）報導引述專家看法，目前AI模仿技術成熟，可輕鬆複製臉和聲音，不過AI假冒名人，進行帶貨的行為涉嫌違法，一旦消費者信以為真，購買了產品，可以要求賣家退一賠三。《央視》強調，未經授權使用他人形象的行為，均屬違法行為，短影音平台也應該擔負主體責任，有義務防範AI假冒名人影片，在自己的平台上大量傳播。針對大陸網路直播行銷行為亂象，浙江省政府也發布了《浙江省網路直播行銷行為規範指引》，以目錄清單式列明30條「常講常新」的經營者合規要求，並為消費者提供直播購物的「防套路手冊」。針對AI數位人可能導致公眾混淆誤認，《指引》要求，使用應用深度合成服務的AI數位人可能導致公眾混淆或者誤認的，應當在合理位置、區域進行持續、顯著標識，與自然人名義或形象進行明顯區分，不得採用技術手段刪除、篡改、隱匿區分AI數位人標識。
網路流傳柯建銘深偽影片 林岱樺提修法下架抖音
立法院民進黨團柯建銘總召遭深偽變造，在假影片中指「對民進黨失望」。立法委員林岱樺今（23日）表示，中國大陸社交平台「抖音」（國際版為TikTok），出現多起深度偽造影片，她已連署提案修法，以《反滲透法》為基礎，要求抖音比照歐美等國要求，必須依照我國政府指示接受落地監管，否則就依法下架。此法案已獲得立委李坤城、李柏毅、林宜瑾、黃捷等人連署，預計近期就會付委審查。林岱樺表示，有心人士透過抖音軟體，編制攻台影片洗腦謝龍介、或用偽造柯建銘、王義川等立委發言，企圖操弄我國內政，基於民主防衛與國家安全原則，已提案增修反滲透法，要求數位平台比照歐美等國要求，配合落地監管。「如果抖音繼續成為詐騙、統戰幫兇，那就請抖音滾出台灣。」林岱樺強調，在這次的「抖音下架法案」已明訂，如果抖音不配合資料落地與資本落地，政府可依《反滲透法》將其下架。林岱樺說，法案中說明，抖音及其國際版TikTok，長期透過演算法與操作機制，有侵害國家安全、個人隱私與民主政治之虞；如經主管機關認定，若抖音等數位平台有危害國家安全、社會安定或民主體制之虞者，應配合政府指示，將營運主體及資料庫設置於中華民國境內，納入資通安全監管體系與司法調查範圍。林岱樺指出，認知作戰已透過抖音等平台逐漸演化，例如透過深偽影片發布不實訊息，再收買網紅、公關公司大量散播，美國上訴法院也認為，對抖音的禁令並沒有違反美國憲法對言論自由的保護，由於中國大陸已對美國造成國安威脅，禁令只是一種對外國勢力的反制。
AI深度偽造詐騙漸增 中山波麗士攜手光劍大師合拍影片教識詐
隨著時代演進，科技日新月異，近年AI換臉「深度偽造」（深偽）的詐騙案已逐漸出現，台北市中山警分局近日與網紅光劍大師「馬可多本部」合作錄製反詐騙宣導影片，盼讓民眾清楚了解AI詐騙手法以及防範因應之道。中山警分局長陳金城表示，如今只需數十秒的音頻、畫面，就能用AI以假亂真，生成人臉搭配表情動作，甚至臉部互換，合成模仿相似的情緒基調和動作影像，並盜用名人、財經專家的影像，掛保證要民眾加入投資群組的深偽詐騙。陳金城指出，為了因應AI詐騙興起，警方藉由多元宣導的方式，讓識詐能分齡、分層，邀請網紅光劍大師「馬可多本部」一同參，加強宣導「眼見未必為憑」、「耳聽亦非為證」等識詐工作，讓民眾建立並強化防詐意識及觀念，達成「識詐、堵詐、阻詐、懲詐」四大方向，守護民眾的財產安全，共同維護地方治安。 中山警分局呼籲，若民眾接獲來電，聲稱換電話號碼、要求加LINE、FACEBOOK借錢，請提高警覺，務必先進行查證，遇到疑似詐騙的情況，請先撥打165反詐騙專線諮詢，謹記「一聽、二掛、三查證」反詐三步驟，避免讓自己的血汗錢白白被騙走，全民防詐一起來，一同加入打詐行列。
劉嘉玲也搞詐騙？ 女遭P圖項鍊騙取7000元
刑事局12日表示，南部地區近期有女子於臉書廣告看到香港女星劉嘉玲佩掛佛像護身項鍊的圖片，她認同明星虔誠向佛，於是花費將近新台幣7000元向該商家購買護身手環，但收到商品後，感覺手環做工粗糙，於是上網搜尋，才發現該女星實際佩戴玉珮項鍊，該賣家的廣告圖片係盜圖後再深度變造，目前該名女子已要求退款，並向警方報案檢舉詐欺犯罪。劉嘉玲照片遭詐騙集團偽造項鍊細節，於臉書販售詐騙得逞。（圖／警方提供）股神巴菲特5月4日於旗下波克夏．海瑟威公司（Berkshire Hathaway）年度股東大會，對人工智慧（AI）發出警語，再次將AI比喻為核武，警告大家世界已經將精靈從瓶子裡放出來，如果使用不當，將對社會造成毀滅性後果。同時他也舉出近期看到「巴菲特深度偽造」影音，巴菲特擔憂自己的臉孔及聲音輕易被AI複製、仿造，就連他的妻子及孩子都很難確定真偽，並打趣說「我可能被騙到把錢匯給自己」。AI發展儼然已成為近年不可忽視之當紅科技，但若AI技術遭到有心人士不法濫用，勢必將嚴重影響現行世界的穩定與衡平。刑事局預防科指出，依據警察機關受理民眾案件紀錄，目前尚未有犯嫌利用「AI深度偽造影像」進行詐騙的報案紀錄，但變造圖像或是聲音的詐騙案例已開始出現。刑事局表示，AI科技確實為生活帶來革命性的便利，但也使得非法手段透過AI變得更為簡易且逼真；AI時代中「眼見不一定為憑」，民眾若遇到影音電話要求匯款或詢問個資等，都可以試著「1.與親友約定通關密語、2.要求對方在臉部前揮揮手或擺擺頭、3.直接打給對方查證」或是謹記防詐3步驟「1.聽、2.掛、3.查證」，如有任何疑問亦可隨時撥打110或165反詐騙諮詢專線洽詢。
遭深偽合成色情影片 義大利女總理提告求償10萬歐元
義大利總理梅洛尼（Giorgia Meloni）日前遭2名男子以深度偽造技術，將她的臉合成色情影片，因此憤而提告，求償10萬歐元（約新台幣347萬元）。梅洛尼將於7月2日出庭，她的律師表示，賠償金將全數捐給家庭暴力受害者基金。根據CNN報導，40歲男子和其73歲父親利用深度偽造技術，把梅洛尼的臉合成到色情影片的人物上製作成影片，再將影片發布到美國的色情網站上。據了解，40歲男子和其73歲父親除了面臨民事訴訟，還得面臨誹謗的刑事指控。當時正值梅洛尼以義大利兄弟黨領袖身分競選總理，而梅洛尼2022年以壓倒性勝利當選總理。針對影片，梅洛尼忍無可忍，決定提告，向2名男子求償10萬歐元（約新台幣347萬元）。起訴書指出，這些影片、圖片在網路上流傳數個月，至少有數百萬人觀看過，至今還有很多影像在網路上流傳。梅洛尼律師表示，梅洛尼將把最後獲得的賠償金全數捐給家庭暴力受害者基金。律師指出，梅洛尼希望為那些遭受偽造色情的其他受害者樹立榜樣，勇敢站出來。
綠委緋聞1／羅致政遭疑為性愛片主角 調查局鑑定：影片非深偽造假
競選連任的民進黨新北市7選區立法委員羅致政、遭媒體爆料疑為性愛片男主角，相關影片一度在網路瘋傳，羅致政否認自己是男主角，指控影片是深偽造假，且為境外網軍介選抹黑的伎倆，不過據了解，新北市調查處已掌握鑑定結果，認定相關影片不是深偽造假，由於民進黨總統候選人賴清德曾為此事替羅致政喊冤，且目前距離總統及立委大選只剩下不到一周時間，勢必對選情造成一定影響。羅致政1964年出生，畢業於政治大學外交系，獲美國加州大學洛杉磯分校政治學博士學位，返台後擔任東吳大學政治系系主任、副教授，曾任民進黨發言人、蔡英文競選新北市市長時的政策部主任兼發言人、民進黨政策會執行長、國際事務部主任等要職。2011年羅致政獲民進黨提名、參選新北市板橋東區立委，不幸敗北。2016年羅致政捲土重來，放下學者身段，持續和基層搏感情成功當選。2020年競選連任成功，為該選區首位連任成功的立委。羅致政曾11度榮獲公民監督國會聯盟評鑑優秀立委，堪稱綠營政治明星，羅的太太是知名歌手陳亮吟。黎智英來台成立的《壹傳媒》2017年7月爆料，指羅致政在5天內2度與辦公室副主任上摩鐵，羅致政隔天出面說明，表示已向家人完整說明事件始末，並已得到信任與諒解，家人沒有原不原諒，就是信任他，信任他沒有做這件事。但性愛影片疑雲仍不時纏著他，後來羅在2020年立委選舉連任成功，顯示許多選民相信他的清白。調查局使用多工具、多模型分析爭議影片，搭配人為觀察與查證，綜合研判影片是否偽造。（圖／項程鎮攝）然而某國外情色網站2024年1月1日上傳多部性愛影片，隔天《毅傳媒》改名的《壹傳媒》刊登新聞，指上述性愛片主角疑似羅致政，羅氣急敗壞，2024年1月2日深夜向新北市調查處提告並完成筆錄，1月3日轉交新北地檢署，由調查局負責鑑定。新北市調處1月3日曾表示，影片的真偽分析大概耗時約1天，結果最快當天就能出爐，待完成後將一併移送新北地檢署繼續偵辦，至於是否公布影片鑑定結果，則需看檢方決定。另外，調查局曾召開記者會指出，已加強發掘疑似使用深度偽造技術之爭議影片，並使用多工具、多模型分析爭議影片，搭配人為觀察與查證，輔以該局深度偽造影片檢測流程進行分析，綜合研判影片偽造之可能性，以速辦速移原則進行偵辦，適時公布結果。調查局強調，一旦發現不法或接獲報案，將在48小時內「速辦速移」到各地檢署，如果事證明確，速度還會更快，有心人士如想利用深偽技術干擾選舉，調查局一定會嚴辦、速辦到底。只是本案爆發至少一星期，檢調都未對外公布結果，使得相關謠言滿天飛，既不利當事人選情，也讓外界質疑檢調辦案能量，有關機關應盡速對外說明，化解民眾疑慮。民進黨總統候選人、副總統賴清德，曾指羅致政是深偽影片受害者，不過調查局鑑定影片非假造。（圖／報系資料照）
歐盟超嚴法令 Pornhub、XVideos等3大成人網站列納管
歐盟正在對大型線上平台實施全面的新規則，以打擊色情網站Pornhub、Stripchat和XVideos。歐盟委員會指出，已將這些網站添加到「超大型線上平台」（VLOP）清單中，這一分類要求這些網站遵守更嚴格的標準，包括年齡驗證、內容審核和透明度。根據CNN報導，歐盟委員會聲明表示，經過調查，發現這3個平台在歐盟的平均每月用戶數至少為4500萬，這是成為VLOP的門檻。Pornhub聲明回應，截至7月底，回溯過去半年，其在歐盟的月平均用戶數為3300萬。Stripchat無回應，至於XVideos則暫時聯繫不上。除了2月17日之前適用於幾乎所有線上平台的一般義務外，這些網站還有4個月的時間來準備VLOP的具體規則，其中包括年齡驗證工具來防止未成年人存取其內容，並在懷疑實際或可能的刑事犯罪「涉及對人的生命或安全的威脅」時，通知執法當局，包括兒童性虐待。被列入VLOP清單後，這3個網站將被要求採取新措施，防止未經參與者許可共享的性內容，以及所謂的「深度偽造」色情內容的傳播。此外，Pornhub、Stripchat和XVideos需要安排外部審計，以檢查其是否遵守8月頒布的新法律規定的所有義務。歐盟委員會強調，這些網站每6個月就必須發布「關於內容審核決策和風險管理的透明度報告」，違反《數位服務法》的公司可能會被處以最高相當於其全球年收入6%的罰款。
加薩走廊浴血棄嬰照是假的！ AI生成偽造影像大打資訊戰
自從巴勒斯坦激進組織哈瑪斯與以色列發生衝突後，社群網站上上就出現許多加薩走廊悲慘現況的照片，其中更有一張滿身鮮血的棄嬰照片引起許多人的關注。但目前有消息指出，其實當中一些照片，包含那張滿身鮮血的棄嬰照，其實都是用AI生成技術創造出來的「假照片」。根據《美聯社》報導指出，其實仔細觀察這些照片後，都可以在照片上發現一些詭異的端倪，像是手指的角度十分詭異、眼睛閃爍著不自然的光芒，這些加薩走廊現況的照片中，其實有部分照片都是透過AI生成技術產生的虛假照片「但圖像所激發的網友憤怒卻是貨真價實的」。自從以色列開始對哈瑪斯掌管的加薩走廊發動攻擊後，社群網站上就出現大量加薩走廊「悽慘畫面」的照片，其中不乏有些十分誇張「大屠殺等級」的照片。這些照片的說明文字中，都要求著以色列要為「虛假的傷亡」或「從未實施過的暴行」來負責。報導中也明確提到，當AI人工智慧技術越來越進步，且目前的法令監管仍十分稀缺的情況下，這也讓AI人工智慧成為一種具有強大潛力的武器，甚至之後有可能因此影響到一些衝突、選舉、或是重大事件。主打遏止虛假資訊的科技公司CREOpoint，其公司內部就為了以色列與哈瑪斯之間的衝突創建了一個新資料庫，資料庫中收集到「海量」有關加薩走廊當地的「深度贗品」，其中包含了照片、影片、音檔，數量之大也讓該公司的人感覺到吃驚。事實上，在衝突發生初期，就有一張嬰兒在殘骸中哭泣的照片迅速在網路上傳播，而這後來也被證實是AI人工智慧生成的假照片。而一些像是遭到以色列飛彈襲擊的畫面、坦克開過建築物摧毀的社區畫面、人們在廢墟中搜尋倖存者的畫面，很多時候都是AI製造而成的。報導中也提到，很多時候，這些AI生成的畫面會以嬰兒、兒童、身體的部位來引起網友的情緒反應，在衝突發生之際，以色列與哈瑪斯雙方都互控對方攻擊嬰幼兒，而在這時候，透過AI偽造出來的嬰兒受傷畫面就被當作「證據」來使用。該公司執行長戈登斯坦（Jean-Claude Goldenstein）認為，接下來使用AI生成出來的假畫面來打資訊戰的可能性會越來越高，整個情況甚至有可能越來越惡劣。專職追蹤戰爭假消息的非營利組織「網路仇恨對抗中心」（Center for Countering Digital Hate）執行長阿邁德（Imran Ahmed）就表示「不論是深度偽造的嬰兒圖像，還是來自其他衝突的真實嬰兒照片，對觀看者的情感影響是相同的」、「圖像越是令人厭惡，網友記住、分享的可能性就越大，從而不知不覺地進一步傳播假訊息。」
賴清德在社群平台談藍白合？ 調查局呼籲勿亂傳深偽影片
藍白合不合近日成為社會關注焦點，調查局發現，社群影音平臺出現疑似有各總統候選人之深偽影片，其中有關熱蒐「賴清德回應藍白合」之深偽影片，內容為副總統賴清德強調：藍白兩個都是適任的國家領導人，無論誰正誰副，就可以是成為對的一組等語。調查局強調，已立案並報請彰化地檢署指揮偵辦，積極溯源追查偽造來源。深度偽造(Deepfake)技術日趨成熟，且各式深偽影片廣泛流竄於網路各社群平台，調查局在社群影音平臺發現「賴清德回應藍白合」之深偽影片，內容如下:「我要特別強調，不管藍或白，都是臺灣的主流民意，所推選出來的候選人，非但能夠守護國家的安全，也有辦法提出完整國政藍圖，兩個都是適任的國家領導人，所以兩個對的人，無論誰正誰副，就可以是成為對的一組」。調查局指出，上開影片係不明帳號透過剪輯及變造方式，將近日總統候選人賴清德接受新聞媒體採訪影像與聲音，置換成針對時事議題所發表之立場與看法，並將變造影片上傳至影音社群平臺，向不特定群眾轉傳散布，意圖影響選民判斷及投票意願。經調查局技術檢測發現，該深偽影片聲音模糊有雜訊，影像部分亦不真實自然，再經鑑識軟體分析影像及聲音後，該影片遭惡意變造合成判斷指數 高達 98.1%，具深偽技術痕跡。調查局強調，該深偽影片若持續遭大量轉傳散布，恐使國民眾誤信，進而影響113年總統及立委二合一選舉公平性，調查局已立案、並報請彰化地檢署檢察官指揮偵辦，積極溯源追查偽造來源。調查局提醒民眾，各式深偽影片廣泛流竄各社群平台，調查局正積極蒐證調查，國人如意圖使候選人當選或不當選而散布、播送候選人之深度偽造影音，將觸犯《總統副總統選舉罷免法》第90條、或《公職人員選舉罷免法》第 104條，民眾務必提高警覺，小心查證，切勿任意轉傳散布，以免誤蹈法網。
拜登簽署新政令控管AI 要求企業共享人工智慧安全測試結果
由於AI人工智慧發展迅速，這也讓許多國家政府開始提心吊膽。目前除了歐盟已經立法要開始控管AI人工智慧的發展外，美國總統拜登也在30日簽署一份行政命令，計畫對AI的研發、應用進行控管與規範，期望以此減少對消費者、勞動階層、少數群體甚至在國家安全上構成風險。根據《Financial Times》報導指出，拜登所簽署的這份行政命令，是美國政府截至目前為止對AI規範最為廣泛的措施，涵蓋了國家安全、競爭和消費者隱私等多個方面。當中甚至動員到政府許多機構，其中包含商務、能源和國土安全部門。拜登表示「為了實現AI的潛力並避免風險，我們需要管理這項技術，別無他法」。而白宮副幕僚長里德（Bruce Reed）也表示「拜登總統正在推出全球任何政府在AI安全、安全和信任方面所採取的最強烈的行動。這是一項積極戰略的下一步，旨在全面利用AI的好處並減輕風險。」近日計畫前往英國倫敦的美國副總統哈里斯（Kamala Harris）則表示「我們打算採取的國內行動將成為國際行動的一個榜樣，”她承諾與其他國家合作，“運用現有的國際規則和標準，以促進全球秩序和穩定，並在必要時建立支持額外規則和標準，以滿足當前的需求」。報導中指出，美國政府將會使用《國防生產法》來規範AI，這會讓一些涉及國家安全、經濟安全或公共衛生造成嚴重風險的企業，在訓練這些系統時通知政府並分享其安全測試結果。而商務部則必須要進行方針指南的制定，同時要規範AI生成的內容要明確標記，以此來打擊詐欺、虛構，其中也包含深度偽造。該命令還涉及了如何解決隱私風險，命令中要求國會通過數位隱私立法，尋求、評估機構如何收集和使用「商業可用訊息」。同時還要求採取應對措施來遏制AI對工人、病患造成的損害，並解決住房、醫療保健和司法領域的「算法歧視」。而報導中也提到，就目前為止，一些爭奪AI領域巨頭地位的公司，其實更偏向保守的訓練模型。而一名白宮官員表示，即便行政命令具有法律效應，但拜登先前就曾表示，必須要在AI人工智慧領域中訂立相關明確的法令，以此來規範AI人工智慧的發展。
「深度偽造」假訊息干擾大選？ 調查局長：48小時內嚴辦速辦
二合一大選將屆，調查局為防範有心人士利用「深度偽造」(Deepfake）技術，影響選舉結果，今天下午在法務部召開記者會，調查局長王俊立強調，一旦發現不法或接獲報案，將在48小時內「速辦速移」到各地檢署，如果事證明確，速度還會更快，他也特別警告有心人士，如想利用深偽技術干擾選舉，調查局一定會嚴辦、速辦到底。調查局指出，2017年「深度偽造」(Deepfake）技術問世，取名自「深度學習」(Deeplearning）和「偽造」 (Fake ），代表結合電腦視覺與深度學習的技術，得供電腦對多媒體進行人工智慧 (Artificial Intelligence，AI）學習，製作出高度逼真的虛假影音，近來深度偽造技術日趨成熟、製作門檻降低及成品的高擬真性，也淪為有心人士的犯罪工具，因此立法院今年初曾增修《刑法》及《犯罪被害人權益保障法》相關條文，最重可判有期徒刑7年。面臨即將到來的總統及立委二合一選舉，立法院今年6月公布修正版的《總統副總統選舉罷免法》第90條、及《公職人員選轝罷免法》第104 條，未來意圖使候選人當選或不當選而散布、播送候選人之深度偽造影音，最重處7年以下有期徒刑。調查局已加強發掘疑似使用深度偽造技術之爭議影片，並使用多工具、多模型分析爭議影片，搭配人為觀察與查證，輔以該局深度偽造影片檢測流程進行分析，綜合研判影片偽造之可能性，以速辦速移原則進行偵辦，適時公布結果。另外，調查局為加強調查能量，亦加強與友軍單位及社群平臺合作，查處國人在地協力對我國進行認知作戰案件，積極阻斷假訊息傳播源頭。對於涉嫌違法案件，將報請六都檢察署之「AI 生成、或深度偽造（Deepfake ）假訊息案件處理中心」指揮偵辦，達到「立即澄清」、「迅速下架」、「溯源追查主嫌」的目標，保護選舉公平性及維護社會穩定性。調查局使用多工具、多模型分析爭議影片，搭配人為觀察與查證，綜合研判影片是否偽造。（圖／項程鎮攝）
詐團創投資群組到處騙 金研院、國際洗防單位也遭冒名
詐騙集團無所不在、假冒投資群組到處騙人，金融智庫台灣金融研訓院也中彈，詐團還冒用金研院長黃崇哲的口氣說，「做了深入的產業分析報告...」，是要為股市投資人定錨個股的價值！台灣金融研訓院粉專被詐騙集團入侵，院方緊急公布提醒民眾。（圖／金研院臉書）台灣金融研訓院對此烏龍事性，除了緊急在官方臉書打上防詐提醒的警訊，提醒粉絲不要隨便點擊投資社團連結，也透過科技業追蹤IP，要求詐團下架。警政署165防騙網已公布「千萬別加好友」的詐騙LINE ID，包含各種詐騙手法所使用的帳號，也接收民眾申報所發現的詐騙LINE ID，165反詐騙諮詢專線會立即公告。另一部份，來自刑事警察局的呼籲，近期出現許多深度偽造（#Deepfake）技術的詐騙，不肖分子把人們的臉孔和聲音合成到完全捏造的場景中，特別是政治人物的虛假影像和音訊如假似真，已近乎妨礙社會視聽，製造出混亂治安的假訊息。部份有提供中文資訊的國際洗錢防制單位，也出現被詐騙AI軟體入侵，每每趁著深晚民眾休息後，以AI程度一一跳入網頁或開放社群，設定的誘人騙術內容竟是「本社群已到人數上限，請在社群關閉前，更改加入並點擊新群組XXXX 」，原版主起先只是將該貼文帳號踢除，但不久後或隔日必然再出現，近乎已成為病毒木馬程式！
柯文哲58秒音檔批賴清德訪美 調查局：深偽可能性極高
先前部分媒體收到一則58秒音檔，聲稱是民眾黨總統候選人柯文哲的內部會議錄音檔，其中更提到內湖社宅、BTA、賴清德去美國面試等，法務部調查局昨（25）日表示，音檔深度偽造的可能性極高。民眾黨發言人李頂立早前澄清，音檔的聲音並非柯文哲，內容也都不是民眾黨過去內部會議的對談內容，完全是惡質抹黑行為、誤導大眾，會採取相關反應措施，目前不確定是誰散布訊息以及是誰變造音檔，希望這次選戰能夠回歸乾淨、公正、透明，而這也是現在民意所趨。民眾黨隨後也前往台北市市調處中山站進行筆錄正式檢舉。此外，柯文哲競選辦公室發言人陳智菡當時也回應，這很明顯不是柯文哲的聲音，內部會議也從未有相關討論內容，有心人士將此音檔廣發給媒體，試圖以假亂真，帶風向混淆視聽、誤導媒體與輿論，目前正在追查音檔來源。據法務部調查局發布新聞稿指出，經專家以深偽檢測工具軟體「Reality Defender」鑑別後，驗證、分析檢舉所提出的錄音檔內容是否經過AI模型竄改，及是否有人類無法察覺的變造痕跡，最終判定錄音檔內容具深度偽造的可能性極高，已報請台北地檢署檢察官指揮偵辦，積極調查中。調查局強調，明年大選在即，將全力貫徹政府維護選舉公平、公正的決心，加強查察及蒐證，如發現任何企圖以假訊息妨害選舉，將迅速溯源追查，並將判別結果對外揭露，如涉有不法，定依法究辦。
各國管理AI看法大不同 聯合國示警「恐威脅全球和平安全」
聯合國安理會18日首次就「人工智慧（AI）對國際和平與安全的潛在威脅」議題舉行高級別公開會，聯合國祕書長古特瑞斯（Antonio Guterres）在會上警告，人工智慧恐對全球和平安全帶來風險，要求所有會員國緊急設置護欄、加以掌控。但各大理事國在會上對於管理AI的看法上大有不同，美國警告不要利用AI來審查或鎮壓人民；中國反對利用AI謀求軍事霸權、破壞他國主權和領土完整；俄國則認為應由科學專業人員開會討論，而非在安理會討論。主持本次會議的聯合國安理會輪值主席國的英國外交大臣柯維立（James Cleverly）表示，AI將從根本上改變人類生活的各方面。我們迫切需要塑造全球治理的變革性技術，因為AI無國界，儘管AI可以幫助應對氣候變化和促進經濟發展，但這項技術助長了虛假資訊，並可能幫助國家和非國家人員尋求武器。古特瑞斯表示，「AI應該彌合我們的分歧，而不是讓我們分開。如果AI主要成為發動網絡攻擊、生成深度偽造品或傳播虛假資訊和仇恨言論的武器，它將對全球和平與安全產生非常嚴重的後果。看社交媒體就知道了，旨在加強人際關係的工具和平台，現在被用來破壞選舉、傳播陰謀論、煽動仇恨和暴力。」古特瑞斯警告，AI故障恐釀成嚴重破壞，尤其是在對AI與核武器、生物技術、神經技術和機器人技術之間的相互作用上需高度警惕。儘管AI也能用於辨認暴力模式或監測停火，但若被恐怖分子或懷有惡意的政府所用，所造成的死亡和破壞將達可怕程度。古特瑞斯呼籲所有成員國應制定具法律約束力的協議，以在2026年底前「禁止在無人為監督下、運行致命性自主武器系統」。並仿效國際原子能總署或國際民航組織，建立一個新的聯合國機構，監管AI使用。美國駐聯合國副代表羅倫提斯（Jeffrey DeLaurentis）表示，各國還需要在AI和其他新興技術領域開展合作，以應對AI威脅人權的風險。任何成員國都不應使用AI來審查、約束、鎮壓或剝奪人民的權力。中國常駐聯合國代表張軍則表示，AI是「雙刃劍」，要避免成為「脫韁的野馬」，並要讓「開發中國家」平等獲取和利用AI技術。反對各種形式的「小院高牆」、「脫鉤斷鏈」。特斯拉執行長馬斯克早在6月時就呼籲對AI嚴格監管，因為在創造AI時不加小心，就可能會造成災難性的後果。