據路透社報導，微軟、谷歌以及由伊隆·馬斯克創立的xai，已與美國政府達成一項新協議，允許美國當局在下一代人工智慧模型公開發布前即取得早期存取權，以便進行國家安全風險評估。當地時間週二，美國商務部的人工智慧標準與創新中心宣布，該協議使其得以在這些模型部署之前進行評估，並透過專屬研究來判斷其功能及潛在的安全威脅。
此舉凸顯了華盛頓對高性能人工智慧系統所帶來國家安全風險日益增長的憂慮。美國政府旨在提前獲取最先進的模型，以便在這些技術被廣泛採用之前，及早發現從網路攻擊到軍事濫用等各類威脅。近幾週來，像anthropic的mythos等先進人工智慧系統引發了全球討論，官員與產業領袖均表達擔憂，認為這類模型可能大幅增強駭客的能力。人工智慧標準與創新中心主任克里斯·法爾表示，要全面了解尖端人工智慧技術及其安全影響，建立獨立且嚴謹的量化評估框架至關重要。
這項合作延續了2024年拜登政府與openai及anthropic之間的協議。作為代表美國政府負責測試人工智慧模型的核心機構，該中心目前已完成超過40項模型評估，其中包括多款尚未公開發布的頂尖模型。企業開發者通常會提交已解除安全防護的模型版本，以便該中心進行全面的風險評估。此外，上周美國國防部也宣佈與七家人工智慧公司建立合作關係，將其技術部署於機密網絡；然而，由於涉及軍方存取權限及安全限制等問題，anthropic並未被列入名單。
