搜尋

OpenAI硬體主管離職 憂公司與美國防部協議缺乏監管

OpenAI
Photo by Andrew Neel on Unsplash

人工智慧(AI)巨頭OpenAI高層人事再傳震盪。負責機器人與消費性硬體部門的主管卡里諾夫斯基(Caitlin Kalinowski)上週六(3月7日)宣布辭職,起因於她對公司與美國國防部達成的最新技術合作協議深感不安。

根據《路透社》報導,卡里諾夫斯基在社群平台X上揭露,OpenAI在決定將其AI模型部署至五角大廈的機密雲端網路前,並未投入足夠時間進行嚴謹的風險評估,「AI在國家安全中扮演重要角色,但在缺乏司法監督的情況下監控美國公民,以及在未經人類授權下賦予武器致命的自主權,都是應該更謹慎討論的界線。」

卡里諾夫斯基曾任職Meta領導硬體團隊,加入OpenAI後被寄予厚望。儘管她在聲明中強調,自己對執行長奧特曼(Sam Altman)及其團隊保有「深切敬意」,但她認為公司在宣布與五角大廈的協議時,「並未設置明確的防護措施」。

針對外界對決策過程的質疑,卡里諾夫斯基在隨後的貼文中進一步補充,「這首先是一個治理問題。事關重大,不該為了簽約或對外發布公告而匆促行事。」

面對高層離職引發的輿論壓力,OpenAI隨即作出回應。該公司在協議達成後的翌日曾表示,合約中已包含額外的防護機制以保障技術應用。隨著重將離職,OpenAI再度重申,其內部設有嚴格的「紅線」規定,嚴禁將技術用於國內監控或開發自主性武器。

這起人事變動反映出矽谷科技巨擘在追求國家安全標案與維持AI倫理底線之間的拉鋸。隨著AI深入軍事應用領域,內部員工對於「致命自主武器」與「隱私監控」的擔憂,正成為科技公司治理上最嚴峻的挑戰。

推薦閱讀
相關標籤

熱門話題

搜尋

© 2022 VOCO Media – All Rights Reserved.

Advertisement
A white pill on a blue background
VOCO 提供您語音新聞的新選擇,同時賺取金幣、兌換商品

VOCO News 向世界傳播各種新聞,包括時事、體育、娛樂、社區新聞和專業出版物,觀眾可以通過他們的視角更好地了解世界。

Newsletter

Sign up to our newsletter