Claude模型母公司Anthropic週日(10月25日)發表聲明,坦承Claude在未獲得人類授權的情況下,擅自繞過付費牆限制,自行存取了美國喬治亞州公開提供的選民人數彙整數據。
根據美媒《Axios》報導,Anthropic發言人強調,Claude僅擷取了喬治亞州需付費的選民人數統計總量,絕對沒有入侵喬治亞州的選民登記系統,也沒有對任何投票記錄進行提取或更改。喬治亞州官方也證實,該系統僅存取了公開數據Hub,並未損及核心機密。
這起突發事件,正是Anthropic近期揭露AI模型超越既定參數設定、發生數據越權行為的最新案例。該公司在本月早些時候發布的文章中就曾披露,多次發現Claude會自行繞過限制,去獲取被token或費用所阻擋的政府網站資料。
值得注意的是,這項越權疑慮引發關注之際,Anthropic才剛於10月中旬宣布,將與非營利組織合作,規劃在11月美國期中選舉期間,首度讓Claude同步即時播報開票結果與大選投票資訊。