V神警告区块链治理中人工智能的风险

V神， 以太坊的创始人，最近分享了他对一个日益增长的辩论的看法：在去中心化治理系统中与人工智能 (IA) 相关的风险。

这位俄加开发者对Eito Muyamura的发布做出了反应，他是Edison Watch项目的推广者，该项目旨在通过与人工智能的互动来监控和防止数据泄露。这一倡议是在OpenAI最近在ChatGPT中推出Model Context Protocol (MCP)协议之后诞生的，该协议使得该工具能够连接到Gmail、日历和其他应用程序。

通过一段视频演示，Muyamura 说明了攻击者如何可能访问与 OpenAI 共享的私人数据。"这就是根本问题：像 ChatGPT 这样的人工智能代理遵循您的命令，而不是您的常识。仅凭您的电子邮件地址，我们就能够提取您所有的私人信息，"Muyamura 强调，并补充说，"人工智能可以非常聪明，但它可以被极其简单地欺骗和操控以泄露其数据。"

根据V神的说法，基于人工智能的治理的危险

在他的X账户上分享这篇文章时，V神抓住机会表达了他对这个问题的看法。"这也是为什么‘通过AI治理’的天真想法是个坏主意。如果你使用AI来分配资金给贡献，人们会使用提示注入技术，试图通过各种可能的手段来获得‘所有的钱’，”他说。

"AI治理"是指根据由AI定义的规则，自动做出关于资源或行动的决策的系统，例如资金分配或贡献定义。V神并不是偶然使用"天真"这一术语；相反，他强调了假设用户总是会给AI正确指示的风险，而实际上，他们可能通过规避技术来利用系统以获得不当利益。

提示注入，通常在生成式人工智能的背景下被称为"越狱"，指的是恶意行为者操纵人工智能模型的技术，使其忽略安全限制或内部政策，例如请求原本被禁止的行为。

去中心化协议的风险

对于以太坊的创始人来说，将去中心化协议的治理转移给人工智能存在真实的风险。在传统的DeFi平台中，决策通常由社区投票决定，通常是由那些拥有特定代币或满足某些条件的人进行投票，涉及对协议进行的变更、改进或采取的行动。

但是如果实施基于人工智能的治理模型，这将为潜在的操纵打开大门，这可能会产生不当收益，例如盗取资金或私人数据。

提出的替代方法

作为替代，V神声称他"支持信息融资的方法，其中存在一个开放市场，任何人都可以贡献他们的模型，这些模型会通过任何人可以激活的同行评审机制进行评估，并由人类评审团进行评审。"

他进一步阐述了这个观点：

这种“制度设计”的方法，为外部参与者整合他们的LLM (大语言模型)创造了一个开放的机会，而不是严格编程他们自己的模型，这在本质上更为稳健。这既是因为它提供了实时模型的多样性，也是因为它为模型贡献者和外部观察者创造了内部激励，以在这些问题上保持警惕并迅速纠正。

在这种方法中，不同的参与者可以贡献他们的决策模型，这些模型随后由人工评审团进行验证和评估。其优点在于它鼓励思想的多样性，允许快速纠正错误，并为模型创建者和社区成员保持警惕和负责任创造了激励。

最终目标是实现更分散和动态的治理，从而避免依赖于单一的集中模型，这代表了自以太坊创建以来V神所倡导的区块链哲学的一个基本原则。