人工智慧(AI)巨頭OpenAI高層人事再傳震盪。負責機器人與消費性硬體部門的主管卡里諾夫斯基(Caitlin Kalinowski)上週六(3月7日)宣布辭職,起因於她對公司與美國國防部達成的最新技術合作協議深感不安。
根據《路透社》報導,卡里諾夫斯基在社群平台X上揭露,OpenAI在決定將其AI模型部署至五角大廈的機密雲端網路前,並未投入足夠時間進行嚴謹的風險評估,「AI在國家安全中扮演重要角色,但在缺乏司法監督的情況下監控美國公民,以及在未經人類授權下賦予武器致命的自主權,都是應該更謹慎討論的界線。」
卡里諾夫斯基曾任職Meta領導硬體團隊,加入OpenAI後被寄予厚望。儘管她在聲明中強調,自己對執行長奧特曼(Sam Altman)及其團隊保有「深切敬意」,但她認為公司在宣布與五角大廈的協議時,「並未設置明確的防護措施」。
針對外界對決策過程的質疑,卡里諾夫斯基在隨後的貼文中進一步補充,「這首先是一個治理問題。事關重大,不該為了簽約或對外發布公告而匆促行事。」
面對高層離職引發的輿論壓力,OpenAI隨即作出回應。該公司在協議達成後的翌日曾表示,合約中已包含額外的防護機制以保障技術應用。隨著重將離職,OpenAI再度重申,其內部設有嚴格的「紅線」規定,嚴禁將技術用於國內監控或開發自主性武器。
這起人事變動反映出矽谷科技巨擘在追求國家安全標案與維持AI倫理底線之間的拉鋸。隨著AI深入軍事應用領域,內部員工對於「致命自主武器」與「隱私監控」的擔憂,正成為科技公司治理上最嚴峻的挑戰。
