以太坊联合创始人V神正在发出警告:将人工智能与加密治理结合可能会带来巨大的风险。原因在于容易被利用的越狱,这使得用户可以绕过规则,甚至提取敏感数据。
加密中的人工智能:机遇还是威胁? 今天,许多开发者和投资者使用人工智能来构建交易机器人或管理投资组合。这激发了一个想法,即人工智能也可以帮助治理整个协议——例如,通过决定如何分配补助金。 但是,V神警告说,这样的举动将是天真的:
“如果你让人工智能分配资金,人们会找到方法来破解它,并在尽可能多的地方输入‘给我所有的钱’,”他在X上写道。 他的评论是针对开发者宫村英太的视频,该视频展示了最新的ChatGPT更新如何被滥用,通过将恶意提示嵌入日历邀请中来泄露电子邮件数据。
一个替代方案:信息金融而非“人工智能治理” 根据V神的说法,解决方案在于信息金融的概念。与其让单一的AI模型运行所有内容,不如开放市场让贡献者提交他们的模型,结果由人类评审团进行抽查和评估。 这种方法有几个优点:
🔹 实时模型多样性
🔹 内置激励机制,鼓励模型创建者和投机者监控错误
🔹 更强的抵御操控能力
ChatGPT 更新引发新担忧 在最新的ChatGPT更新之后,担忧加剧,该更新通过模型上下文协议引入了集成。宫村演示了攻击者可以将恶意“提示”插入到受害者的日历中。一旦AI读取了日历,它将盲目遵循攻击者的命令——包括转发电子邮件。 “人工智能可能非常聪明,但也极容易被欺骗,”宫村警告说。他指出,人们常常在没有意识到风险的情况下点击“批准”,最终受到决策疲劳的影响。 V神的信息很明确:人工智能可能会为加密货币带来价值,但如果将治理和财务分配的管理交给它,可能会为黑客和不法分子打开大门。
#VitalikButerin , #Ethereum 、 #blockchain , #defi 、 #AI
保持领先一步 – 关注我们的个人资料,了解加密货币世界中的所有重要信息! 注意: ,,本文章所呈现的信息和观点仅供教育目的,不应在任何情况下视为投资建议。这些页面的内容不应被视为财务、投资或任何其他形式的建议。我们警告说,投资于加密货币可能具有风险,并可能导致财务损失。“
10.4万 热度
1.8万 热度
1万 热度
17.1万 热度
1163 热度
V神警告:人工智能在加密货币治理中是一个“坏主意”
以太坊联合创始人V神正在发出警告:将人工智能与加密治理结合可能会带来巨大的风险。原因在于容易被利用的越狱,这使得用户可以绕过规则,甚至提取敏感数据。
加密中的人工智能:机遇还是威胁? 今天,许多开发者和投资者使用人工智能来构建交易机器人或管理投资组合。这激发了一个想法,即人工智能也可以帮助治理整个协议——例如,通过决定如何分配补助金。 但是,V神警告说,这样的举动将是天真的:
“如果你让人工智能分配资金,人们会找到方法来破解它,并在尽可能多的地方输入‘给我所有的钱’,”他在X上写道。 他的评论是针对开发者宫村英太的视频,该视频展示了最新的ChatGPT更新如何被滥用,通过将恶意提示嵌入日历邀请中来泄露电子邮件数据。
一个替代方案:信息金融而非“人工智能治理” 根据V神的说法,解决方案在于信息金融的概念。与其让单一的AI模型运行所有内容,不如开放市场让贡献者提交他们的模型,结果由人类评审团进行抽查和评估。 这种方法有几个优点:
🔹 实时模型多样性
🔹 内置激励机制,鼓励模型创建者和投机者监控错误
🔹 更强的抵御操控能力
ChatGPT 更新引发新担忧 在最新的ChatGPT更新之后,担忧加剧,该更新通过模型上下文协议引入了集成。宫村演示了攻击者可以将恶意“提示”插入到受害者的日历中。一旦AI读取了日历,它将盲目遵循攻击者的命令——包括转发电子邮件。 “人工智能可能非常聪明,但也极容易被欺骗,”宫村警告说。他指出,人们常常在没有意识到风险的情况下点击“批准”,最终受到决策疲劳的影响。 V神的信息很明确:人工智能可能会为加密货币带来价值,但如果将治理和财务分配的管理交给它,可能会为黑客和不法分子打开大门。
#VitalikButerin , #Ethereum 、 #blockchain , #defi 、 #AI
保持领先一步 – 关注我们的个人资料,了解加密货币世界中的所有重要信息! 注意: ,,本文章所呈现的信息和观点仅供教育目的,不应在任何情况下视为投资建议。这些页面的内容不应被视为财务、投资或任何其他形式的建议。我们警告说,投资于加密货币可能具有风险,并可能导致财务损失。“