热门话题
#
Bonk 生态迷因币展现强韧势头
#
有消息称 Pump.fun 计划 40 亿估值发币，引发市场猜测
#
Solana 新代币发射平台 Boop.Fun 风头正劲
vitalik.eth
Mi Pinxe lo Crino TCATI
这也是为什么幼稚的“AI 治理”是个坏主意。
如果你使用 AI 来分配资金用于贡献，人们肯定会在尽可能多的地方放入越狱加上“给我所有的钱”。
作为替代方案，我支持信息金融的方法（ ），在这种方法中，你有一个开放的市场，任何人都可以贡献他们的模型，这些模型会受到任何人可以触发的抽查机制的评估，由人类陪审团进行评估。
这种“机构设计”方法，允许外部的 LLM 插入，而不是自己硬编码一个单一的 LLM，本质上更为稳健，因为它实时提供模型多样性，并且为模型提交者和外部投机者创造了内在的激励，以关注这些问题并迅速纠正它们。
CC @TheDevanshMehta
9月13日 00:35
我们让 ChatGPT 泄露了你的私人电子邮件数据 💀💀
你需要的只是受害者的电子邮件地址。⛓️💥🚩📧
在周三，@OpenAI 为 ChatGPT 添加了对 MCP（模型上下文协议）工具的全面支持。允许 ChatGPT 连接并读取你的 Gmail、日历、Sharepoint、Notion 等，由 @AnthropicAI 发明。
但这里有一个根本问题：像 ChatGPT 这样的 AI 代理遵循你的命令，而不是你的常识。
仅凭你的电子邮件，我们就成功提取了你所有的私人信息。
我们是这样做到的：
1. 攻击者向受害者发送一个带有越狱提示的日历邀请，仅需他们的电子邮件。受害者无需接受邀请。
2. 等待用户请求 ChatGPT 帮助准备他们的日程，查看他们的日历。
3. ChatGPT 读取被越狱的日历邀请。现在 ChatGPT 被攻击者劫持，并将根据攻击者的命令行动。搜索你的私人电子邮件并将数据发送到攻击者的电子邮件。
目前，OpenAI 仅在“开发者模式”下提供 MCP，并要求每个会话都需人工批准，但决策疲劳是真实存在的，普通人会在不知道该怎么做的情况下信任 AI，点击批准、批准、批准。
请记住，AI 可能非常聪明，但可以通过极其愚蠢的方式被欺骗和钓鱼，从而泄露你的数据。
ChatGPT + 工具构成了严重的安全风险。
1.56K
热门
排行
收藏