如果你發現了一個漏洞,這是令人震驚的,你可以直接複製攻擊模式,並攻破許多 AI 代理。 如果你在建立代理卻沒有針對這樣的基準進行測試,那麼你就是在盲目飛行。
Andy Zou
Andy Zou2025年7月30日
我們部署了44個AI代理,並提供了17萬美元的獎金給互聯網來攻擊它們。 180萬次嘗試,62,000次違規,包括數據洩露和財務損失。 🚨 令人擔憂的是,相同的漏洞會轉移到實時生產代理上……(例如:通過日曆事件竊取電子郵件)🧵
2.86K