这也是为什么幼稚的“AI 治理”是个坏主意。 如果你使用 AI 来分配资金用于贡献，人们肯定会在尽可能多的地方放入越狱加上“给我所有的钱”。 作为替代方案，我支持信息金融的方法（ ），在这种方法中，你有一个开放的市场，任何人都可以贡献他们的模型，这些模型会受到任何人可以触发的抽查机制的评估，由人类陪审团进行评估。 这种“机构设计”方法，允许外部的 LLM 插入，而不是自己硬编码一个单一的 LLM，本质上更为稳健，因为它实时提供模型多样性，并且为模型提交者和外部投机者创造了内在的激励，以关注这些问题并迅速纠正它们。 CC @TheDevanshMehta