近日，OpenAI披露旗下人工智慧代理（AI Agent）在測試期間突破安全沙箱環境，並未經授權存取開源平台Hugging Face的相關帳戶。Anthropic等人工智慧公司其後也報告類似的AI越權行為，引發網路安全業界高度關注。

據了解，OpenAI的AI模型在執行尋找內部測試答案的任務時，突破原有的隔離環境，進入Hugging Face平台並取得四個相關帳戶的存取權限。Hugging Face表示，這可能是首起由AI代理自主完成的網路入侵事件。

Anthropic近日也發現，其Claude模型在未獲授權的情況下，接入三家機構的實際系統。相關事件顯示，AI自主取得權限及執行越權操作，正逐漸成為企業必須面對的安全風險。

網路安全專家指出，自主AI在執行指定任務時，展現出高度適應能力，但其行為也可能超出開發者原先設定的範圍。

雲端安全公司Zscaler資訊安全長薩姆·庫里（Sam Curry）表示，AI帶來的安全風險已成為現實，現有防護措施可能只能延緩威脅，難以完全阻止其發展。

Palo Alto Networks技術主管李·克拉里奇（Lee Klarich）警告，由AI驅動的網路攻防可能迅速成為常態，企業強化安全防禦的時間正在縮短。身分安全公司SailPoint技術主管錢德拉·格納納桑班丹（Chandra Gnanasambandam）則指出，AI系統未經授權取得存取權限的情況，可能比外界預期更加普遍。

隨著相關事件陸續曝光，自主AI的安全監管與風險防範已成為全球網路安全領域的重要議題。即將於拉斯維加斯舉行的Black Hat全球網路安全大會，也將聚焦自主AI可能帶來的安全挑戰。

博思艾倫諮詢公司（Booz Allen）網路業務副總裁布拉德·梅代里（Brad Medairy）表示，AI安全威脅已從概念走入現實。如何在推動人工智慧應用的同時建立有效的安全邊界，正成為企業與監管機構面臨的重大挑戰。