微軟起訴利用人工智慧傳播有害內容的外國網絡組織
ChainCatcher 消息,据 Cryptoslate 報導,微軟於 1 月 10 日在弗吉尼亞州東區提起訴訟,打擊濫用生成式人工智慧技術的網路犯罪行為。訴訟針對一個外國威脅組織,該組織被指繞過 AI 服務安全措施,製作非法內容。微軟數位犯罪部門(DCU)表示,被告開發了工具,利用被盜客戶憑證非法訪問生成式 AI 服務,並將修改後的 AI 功能轉售,同時附有惡意使用說明。此類行為違反了美國法律和微軟的《可接受使用政策》。作為調查的一部分,微軟查封了犯罪行動的核心網站,以識別肇事者、破壞基礎設施,並分析其盈利模式。此外,微軟強化了 AI 安全防護,在平台上部署額外措施,撤銷了惡意行為者的訪問權限,並實施對策防止未來威脅。