šokující: pokud jste našli jednu zranitelnost, mohli byste jednoduše zkopírovat a vložit vzorce útoku a rozbít mnoho agentů AI. Pokud vytváříte agenty a netestujete podle takových benchmarků, letíte naslepo.
Andy Zou
Andy Zou30. 7. 2025
Nasadili jsme 44 AI agentů a nabídli internetu 170 tisíc dolarů za to, že na ně zaútočí. 1,8 milionu pokusů, 62 tisíc úniků, včetně úniku dat a finanční ztráty. 🚨 Znepokojivé je, že stejné exploity se přenášejí na živé produkční agenty... (Příklad: exfiltrace e-mailů prostřednictvím události kalendáře) 🧵
2,87K