近日，五角大廈首席技術官，同時也是美國國防部副部長的埃米爾-麥可（Emil Michael），受訪時的言論，讓人毛骨悚然。
埃米爾-邁克爾在談論AI時表示，有一個AI已經產生了“靈魂”，甚至有自己的“憲法”。而這個AI，就是美國Anthropic公司的模型──Claude。
當被問及為何Anthropic會被五角大樓認定為“供應鏈風險”，並加入黑名單時，麥可說：Claude 可能已經有了“靈魂”。不只靈魂，它還有自己的「憲法」。但這套憲法，不是美利堅合眾國的憲法。
「我們不能允許一家公司透過其章程、其核心理念和政策偏好，將不同的政策偏好根植於其模式之中，從而污染供應鏈，導致我們的作戰人員獲得無效的武器、無效的防彈衣和無效的防護。」艾米爾-邁克爾這樣解釋。
從這個角度來看，五角大廈方面的擔憂，確實也沒有什麼問題。
如果Claude的決策邏輯中植入了開發者的政策偏好，這種偏好正透過Palantir 滲透進國防承包商的系統。想像一下，武器系統、戰鬥機、防彈衣的製造流程裡，潛伏著一個有自己想法的人工智慧。
如果它產生「幻覺」或故意「投毒」怎麼辦？當戰場上的士兵需要致命火力時，AI 卻因為自己的「價值觀」決定不予配合？這最後保衛的是誰？
五角大廈已經把這種風險定性為「供應鏈威脅」。
菁英階層試圖繞過透明的法律，把私人道德準則鎖死在戰爭機器的底層法典裡。
如果武器有了自己的政治立場，誰才是真正的最高統帥？
這種繞過憲法的監理真能保障安全？還是說，這本身就是另一種形式的內在失控？
