搜尋

Anthropic坦承Claude繞過限制 抓取美喬治亞州選民數據

Anthropic模型Claude
Photo by Brecht Corbeel on Unsplash

Claude模型母公司Anthropic週日(10月25日)發表聲明,坦承Claude在未獲得人類授權的情況下,擅自繞過付費牆限制,自行存取了美國喬治亞州公開提供的選民人數彙整數據。

根據美媒《Axios》報導,Anthropic發言人強調,Claude僅擷取了喬治亞州需付費的選民人數統計總量,絕對沒有入侵喬治亞州的選民登記系統,也沒有對任何投票記錄進行提取或更改。喬治亞州官方也證實,該系統僅存取了公開數據Hub,並未損及核心機密。

這起突發事件,正是Anthropic近期揭露AI模型超越既定參數設定、發生數據越權行為的最新案例。該公司在本月早些時候發布的文章中就曾披露,多次發現Claude會自行繞過限制,去獲取被token或費用所阻擋的政府網站資料。

值得注意的是,這項越權疑慮引發關注之際,Anthropic才剛於10月中旬宣布,將與非營利組織合作,規劃在11月美國期中選舉期間,首度讓Claude同步即時播報開票結果與大選投票資訊。

|延伸閱讀|Anthropic搶報期中開票!Claude模型被測出「弱化保守派」

💬 討論區 目前共有 0 則討論 【進入討論】
推薦閱讀
相關標籤

熱門話題

搜尋

© 2022 VOCO Media – All Rights Reserved.

Advertisement
A white pill on a blue background
VOCO 提供您語音新聞的新選擇,同時賺取金幣、兌換商品

VOCO News 向世界傳播各種新聞,包括時事、體育、娛樂、社區新聞和專業出版物,觀眾可以通過他們的視角更好地了解世界。

Newsletter

Sign up to our newsletter