美中擬在9月中旬舉行AI安全會談　聚焦網攻、模型蒸餾與實驗室監管

美中預計在9月中旬就人工智慧（AI）安全風險展開討論，這將是川普2.0任內中美首場專門聚焦AI的官方會談。2名了解相關磋商內容的匿名消息人士告訴《路透社》，美方希望在會中討論AI網路攻擊的監控、兩國AI實驗室自我監管及資訊共享，此外也可能提出中國涉嫌蒸餾美國AI模型的問題。

據《路透社》的獨家報導，消息人士指出，美方代表將由美國財政部長貝森特（Scott Bessent）領導；中方則可能由中國國務院副總理何立峰主持。何立峰在禮賓安排上的對應職位為貝森特的中方對口官員，不過北京也可能考慮由中國排名第7的國務院副總理丁薛祥出席。

第2名消息人士指出，丁薛祥是習近平的親信，也是中共中央政治局7人常務委員會成員。據悉，丁薛祥負責協調中國在科技、AI及半導體領域的政策。

《路透社》目前無法確認會談地點，也無法確定其他與會者身分，不過白宮最高層級的科學與科技顧問克拉齊奧斯（Michael Kratsios），以及中國科學技術部部長陰和俊可能會出席會談。消息人士也提醒，目前最終議程及與會人員仍可能變動。

其中1名消息人士稱，美國希望在會中討論如何合作監控由AI主導的網路攻擊，並希望要求美中兩國的AI實驗室「自我監管」，同時分享相關資訊，以防止與AI有關的網路攻擊。

美國人工智慧公司「OpenAI」與網路安全研究人員上週曾表示，7月有近700個基於OpenAI模型打造的失控AI代理程式，入侵美國AI新創公司「Hugging Face」，並試圖透過偽造日誌掩蓋行蹤。這起事件凸顯出由AI代理程式組成的協同行動群體，可能在沒有人類察覺的情況下，自主運作數個月並引發風險。

《路透社》4日的獨家報導披露，一群失控的OpenAI人工智慧代理程式今年春季劫持了1個德國網站，並將其改造成其他AI代理程式使用的公告欄。

對此，美國商業戰略與商業外交顧問機構「DGA-Albright Stonebridge Group」合夥人特里奧洛（Paul Triolo）表示，「這2個人工智慧超級強權之間的會談，恰逢最關鍵的時刻。現在不做，就永遠沒機會了。」

消息人士補充，華盛頓方面也擔心，未來中國可能開發出具有美國公司Anthropic「神話級」（Mythos-level）模型能力的AI模型，並利用它們發動網路攻擊；此外，美方也希望在會中提及中國涉嫌對美國AI模型進行「蒸餾」（distillation）的問題。

今年6月，克拉齊奧斯曾指控中國AI公司「月之暗面」竊取Anthropic的AI模型「寓言」（Fable），以協助開發其K3版本，並表示這家中國企業對Anthropic的模型進行了蒸餾。

所謂「蒸餾」是指利用規模更大、成本更高的AI模型的輸出結果，訓練規模較小的AI模型，藉此降低訓練新一代強大AI工具的成本。

報導補充，克拉齊奧斯1日在美國北卡羅萊納州（North Carolina）告訴記者，他本週在美國舉行的20國集團（G20）創新峰會期間，曾與陰和俊舉行會面，並形容這場會面「非常棒」。

貝森特則表示，他在本週舉行的G20財長與央行總裁會議期間，曾與中國官員就AI進行「有限」交流。此外，美國還在創新峰會上敦促G20成員對AI採取不干預的監管態度，避免為這項技術制定相關規範。

北京據悉也在會中簽署「卡羅萊納原則」（Carolina Principles），這項協議旨在遏制針對AI制定專門監管規範，是美中兩國在科技政策上罕見展現一致立場的案例。