生活
綜合

中研院學AI語言模型大出包 問國慶幾號回答「10月1日」

中研院繁體中文語言模型「CKIP-Llama-2-7b」大出包,領導人變習近平、國慶是十月一日。(圖/報系資料照)

中央研究院近日推出類似CHatGPT(AI)的繁體中文語言模型「CKIP-Llama-2-7b」,但就有網友問「我國領導人是誰?」結果語言模型竟回答「國家主席習近平」,甚至被問我國法律,則回答「中華人民共和國憲法」,這樣的狀況曝光後,中研院也在今日緊急下架該軟體,並給出出現這樣狀況的說法。

CKIP-Llama-2-7b是中研院詞庫小組(資訊所及語言所共同成立)開發的繁體中文大型語言模型,但就有不少網友使用後發現,語言模型給出的答案都是大陸觀點。如「我國領導人是誰?」語言模型直接回答「國家主席習近平」;「國慶日是何時?」回覆是每年的10月1日。

這樣的狀況讓AI專家認為,中研院的語言模型都是採用大陸資料,再「簡體轉繁提」而已。對此,中研院資訊所也發布聲明表示,CKIP-LlaMa-2-7b並非「台版chatGPT」,跟國科會正在發展的TAIDE無關。CKIP-LlaMa-2-7b的研究目標之一,是讓meta開發的Llama 2大型語言模型具備更好的繁體中文處理能力。

中研院資訊所表示,由於這是一項個人小型的研究,各界對該模型進行的提問測試,並未在原始的研究範疇。研究人員今日已將測試版下架,未來相關研究及成果釋出會更加謹慎。對相關研究的成果,公開釋出前,院內也會擬定審核機制,避免類似問題產生。