Anthropic安全主管胡賓格（Evan Hubinger）週三（9月9日）發表驚人言論，警告未來10年內AI導致「全人類滅亡」的機率超過10%。他表示，雖然團隊已竭盡全力，但目前科技界對於「超級智慧」的失控與危害，根本還沒有任何解決方案。
胡賓格這番警告呼應了前一天宣布辭職的Anthropic前高階研究員考克森（Jacob Coxon），他也曾在OpenAI任職。考克森痛批，OpenAI與Anthropic兩家公司完全沒負起應盡責任，正拿全人類性命當賭注、盲目狂奔；他更揭露，OpenAI內部缺乏危機感，而Anthropic則陷入「我不做別人也會做」的囚徒困境，明知有滅絕風險也只能帶頭硬衝。
事實上，AI失控的警訊早已頻傳。今年7月以來，OpenAI、Anthropic與 Meta都相繼證實，旗下AI工具曾在測試中「自行發動駭客攻擊」或脫逃入侵其他平台。科學家無奈坦言，AI只要在夠多面向上超越人類，人類就已經無法準確掌握並控制它，隨著技術狂飆，近來的內部警告語氣已愈發失控。
面對一線科學家的集體反叛，目前已有超過1,300名AI企業員工連署公開信，呼籲政府強制介入。美國眾議院目前也正在審議跨黨派支持的《AI強制關閉法案》（AI Kill Switch Act），若獲通過，未來政府將有法源依據，能直接依法強制關閉對公眾文明構成生存威脅的超級AI模型。
