衝撃的なことに、1つの脆弱性を見つけた場合、攻撃パターンをコピーして貼り付けるだけで、多くのAIエージェントを壊すことができます。 エージェントを構築していて、このようなベンチマークに対してテストしていない場合は、盲目的に飛行していることになります。
Andy Zou
Andy Zou2025年7月30日
We deployed 44 AI agents and offered the internet $170K to attack them. 1.8M attempts, 62K breaches, including data leakage and financial loss. 🚨 Concerningly, the same exploits transfer to live production agents… (example: exfiltrating emails through calendar event) 🧵
2.88K