聲音生成
」
那不是我！冒牌股神教投資 波克夏：別信巴菲特AI深偽影片
詐騙百百種，「股神」華倫巴菲特（Warren Buffett）對以人工智慧（AI）生成影片或是觀看相關影片的人強調，「奧瑪哈先知」只有一個。巴菲特的波克夏公司（Berkshire Hathaway）6日警告，指近期在YouTube上流傳多支影片，使用AI生成的巴菲特影像，並配上他從未講過的評論。根據路透報導，這位95歲、擔任波克夏執行長的知名投資人，以敏銳的市場洞察力及「奧瑪哈先知」（Oracle of Omaha）的稱號聞名，近來成為AI冒充者的目標。波克夏表示，這些影片在畫面上成功模仿巴菲特的外貌，但談話的聲音都顯得平板、一般，明顯不是他的聲音。波克夏發出新聞稿以「那不是我」為題，特別提及「華倫・巴菲特：50 歲以上人人必看的首要投資秘訣」（Warren Buffett: The #1 Investment Tip For Everyone Over 50 (MUST WATCH)）這支影片，其中內容假冒巴菲特說話，並提供投資建議。美國聯邦調查局（FBI）今年5月有報告提到，惡意人士利用AI生成的語音通話與文字訊息，冒充美國高層官員，企圖取得政府員工的個人資料。深偽（deepfake）技術與AI聲音生成工具的興起，使製作偽造、逼真的公眾人物影像，變得更加容易。波克夏表示：「對巴菲特先生不太熟悉的人，可能會誤以為這些影片是真的，進而被內容誤導。巴菲特先生擔心，這類詐騙影片正如病毒般蔓延。」
遭AI影片偽冒痛批民進黨 高嘉瑜赴警局提告
網路流傳一段民進黨前立委高嘉瑜的影片，她在片中稱「對民進黨沒什麼好感」、「這個爛黨真糟糕，希望民進黨快點倒台」等話。高嘉瑜今（15日）赴內湖分局提告妨害名譽以自清，怒批這支用的AI深偽製成的影片已嚴重影響聲譽，並呼籲政府必須要採取行動，遏止對岸越來越猛烈的認知作戰。高嘉瑜表示，近日網路及社群瘋傳，由中國大陸源頭大量散佈，透過AI深偽仿聲技術造假製作的她批判時政不實影片。高嘉瑜，說該造假影片來源自中國抖音，畫面上有「三只狼工作室」，影片用AI模仿聲音生成，以假亂真，雖然嘴形完全對不上，但這樣的深偽變造影片以後只會越來越真、越來越多，她藉由提告呼籲，台灣必須要採取行動遏止中國越來越猛烈的認知作戰 ，避免造成更大的國安問題。「影片用低級惡劣的內容分化、攻擊民進黨、打擊賴政府，已嚴重影響高嘉瑜及民進黨聲譽，讓許多支持者混淆，甚至信以為真」，高嘉瑜說，台灣長期飽受此等認知作戰手法惡意攻擊、分化，中國大陸製造假影片，台灣內部竟還有不肖人士配合傳播作為中國的協力者，想藉高嘉瑜攻擊民進黨、賴政府，如此囂張不法行徑令人深惡痛絕。高嘉瑜提醒，中國大陸造假、認知作戰的成敗關鍵正在於國人是否能明辨真偽，當國人能不被中國製作的假影片欺騙、蒙蔽，則認知作戰就無用武之地。所以時時提高警覺、明辨真偽、懂得查證，不以訛傳訛、拒絕分享轉傳，即可避免成為中國認知作戰的幫兇。
10分鐘被騙近2000萬 陸科技公司老闆遭「AI詐騙」…警揭：全國都在爆發
革命性的科技出現，往往會帶來革命性犯罪。中國大陸一名科技公司法人代表，近日就在與「友人」不到10分鐘的視訊通話裡被騙走人民幣430萬（約新台幣1876萬），直到事後向本人提及此事，才驚覺遭詐騙集團使用AI生成的虛擬友人詐騙。據《中國基金報》報導，該名福州市某科技公司的郭姓代表，4月20日突然收到疑似好友的微信視訊通話請求，對方在接通後向他借430萬投資保證金，還需要公對公帳戶，並聲稱已把銀行轉帳單截圖等資料傳給郭男，郭男不疑有他，立即把錢匯給對方，整個過程不到10分鐘。郭男轉帳後傳訊對方「已辦妥」，卻換來好友本人大大的「?」，短暫確認後驚覺被詐騙。郭男事後表示，「我當時確認臉和聲音都是他，才會放鬆警戒」，負責偵辦的包頭市電信網路犯罪偵查局，雖攔截其中330萬，但仍有93萬（約新台幣405萬）的金額流出。警方除持續追查，也呼籲民眾別輕易提供人臉、指紋等個人生物訊息，不應過度公開個人動圖與影片，以及轉帳前多方確認，避免詐騙。而郭男正是被歹徒用AI換臉、聲音生成方式詐騙，且換臉、變音與變造語音訊息等AI詐騙，近期不只在中國全境上演，成功率甚至近乎100％。