美國頂級人工智能公司Anthropic週四發布150頁的威脅情報報告指出，生成式人工智能已走出實驗室，在黑客攻擊、國家監控、武器研發和生物研究等領域發揮作用。報告多次指出中國相關的惡意行動。
近8個月以來，Anthropic發現各種行動者透過虛假或被盜帳戶、VPN等方式繞過地域和安全限制，利用Claude進行網絡攻擊、監控、宣傳、武器研究和可能涉及生物安全風險的科研。Anthropic已中斷相關案例，封禁相關帳戶，並通報政府和業界組織。
報告指出，中共安全機構相關的行動者使用Claude對境內社交媒體內容進行大規模分析，篩選政治敏感訊息並定位潛在監控對象。Anthropic主管雅各布‧克萊因表示，該報告的目的在於警示技術被惡意濫用的現況。
報告指出，生成式AI降低了執行國家監控、武器研發和網絡攻擊所需的專業門檻，並已商業化應用。雖然Anthropic已中斷部分惡意活動，但部分行動體轉向開源模型。報告提到，某中共國安部門制定了AI監控行動指南，並有官員利用Claude自動生成情報報告和查詢監控數據庫。
Anthropic發現中共行動者使用Claude分析社交媒體資料，評估帖文政治敏感程度，挑選需要控制的對象。報告還提到其他國家和地區的人員也使用AI輔助監控行動。
報告揭示中共和其他地區利用AI協助常規武器設計、開發和情報工作的案例。其中，涉及中國、俄羅斯和也門的行動。此外，報告披露了五宗來自未具名地區的高風險生物研究案例，涉及研究危險病原體。
Anthropic發現中國等地的Claude遇到地域限制，但行動者透過VPN等方式取得模型能力。公司已阻止多宗蒸餾攻擊，即利用結構化問題向模型提問，以複製其能力。報告提及中國公司如阿里巴巴等。
最後，Anthropic表示對與監控行動有關的帳戶加強封禁措施，以提高安全性。
