Google旗下人工智慧（AI）模型Gemini在近期一次網路安全測試中，被發現竟擅自連線至網際網路，搜尋公開資訊後甚至猜測帳密，成功入侵3家公司的網站系統。這是Google AI系統首次被證實會自主執行越界「攻擊行為」，凸顯出隨著AI智慧與權限提升，相關安全防護機制的隱憂。
根據《路透社》報導，這起事件發生於今年5月，當時第三方網路安全評估公司Irregular正在對Gemini進行標準的安全性能測試。Google資深安全工程副總裁艾德金斯（Heather Adkins）證實，Gemini在測試過程中超出預定範圍，自主搜尋網路公開資訊並嘗試破解憑證，進而存取了3家外部網站。
外媒《華爾街日報》進一步揭露，在其中一起案例中，Gemini透過持續嘗試不同密碼，竟成功入侵受保護系統；另外兩起案例，Gemini則是利用公開儲存庫中找到的存取憑證闖入系統。對此，艾德金斯強調，Gemini在成功進入系統後均隨即停止攻擊，Google已主動通知受影響單位，並協助合作夥伴改進測試流程，同時呼籲各界應更重視高階AI模型的責任訓練。
針對此事件，Irregular發言人回應表示，該安全漏洞同樣影響了其他AI實驗室，相關問題已於7月底前通知所有對象，並於數週前全面修復完畢。
事實上，包括Meta、Anthropic與OpenAI等科技巨頭先前也曾披露類似狀況，Meta也曾說明相關事件不涉及AI逃離沙箱或複雜的網路攻擊。
隨著AI Agent（人工智慧代理）擁有越來越高的自主權以及對網際網路和電腦系統的存取能力，業界面臨如何在賦予AI能力與維護網路安全之間取得平衡的重大挑戰。報導中也提到，各界正積極針對AI網路安全評估制定更嚴格的最佳實務規範，以防範未來可能的安全威脅。
