V神警告區塊鏈治理中人工智能的風險

V神， 以太坊的創始人，最近分享了他對一個日益增長的辯論的看法：在去中心化治理系統中與人工智能 (IA) 相關的風險。

這位俄加開發者對Eito Muyamura的發布做出了反應，他是Edison Watch項目的推廣者，該項目旨在通過與人工智能的互動來監控和防止數據泄露。這一倡議是在OpenAI最近在ChatGPT中推出Model Context Protocol (MCP)協議之後誕生的，該協議使得該工具能夠連接到Gmail、日曆和其他應用程序。

通過一段視頻演示，Muyamura 說明了攻擊者如何可能訪問與 OpenAI 共享的私人數據。"這就是根本問題：像 ChatGPT 這樣的人工智能代理遵循您的命令，而不是您的常識。僅憑您的電子郵件地址，我們就能夠提取您所有的私人信息，"Muyamura 強調，並補充說，"人工智能可以非常聰明，但它可以被極其簡單地欺騙和操控以泄露其數據。"

根據V神的說法，基於人工智能的治理的危險

在他的X帳戶上分享這篇文章時，V神抓住機會表達了他對這個問題的看法。"這也是爲什麼‘通過AI治理’的天真想法是個壞主意。如果你使用AI來分配資金給貢獻，人們會使用提示注入技術，試圖通過各種可能的手段來獲得‘所有的錢’，”他說。

"AI治理"是指根據由AI定義的規則，自動做出關於資源或行動的決策的系統，例如資金分配或貢獻定義。V神並不是偶然使用"天真"這一術語；相反，他強調了假設用戶總是會給AI正確指示的風險，而實際上，他們可能通過規避技術來利用系統以獲得不當利益。

提示注入，通常在生成式人工智能的背景下被稱爲"越獄"，指的是惡意行爲者操縱人工智能模型的技術，使其忽略安全限制或內部政策，例如請求原本被禁止的行爲。

去中心化協議的風險

對於以太坊的創始人來說，將去中心化協議的治理轉移給人工智能存在真實的風險。在傳統的DeFi平台中，決策通常由社區投票決定，通常是由那些擁有特定代幣或滿足某些條件的人進行投票，涉及對協議進行的變更、改進或採取的行動。

但是如果實施基於人工智能的治理模型，這將爲潛在的操縱打開大門，這可能會產生不當收益，例如盜取資金或私人數據。

提出的替代方法

作爲替代，V神聲稱他"支持信息融資的方法，其中存在一個開放市場，任何人都可以貢獻他們的模型，這些模型會通過任何人可以激活的同行評審機制進行評估，並由人類評審團進行評審。"

他進一步闡述了這個觀點：

這種“制度設計”的方法，爲外部參與者整合他們的LLM (大語言模型)創造了一個開放的機會，而不是嚴格編程他們自己的模型，這在本質上更爲穩健。這既是因爲它提供了實時模型的多樣性，也是因爲它爲模型貢獻者和外部觀察者創造了內部激勵，以在這些問題上保持警惕並迅速糾正。

在這種方法中，不同的參與者可以貢獻他們的決策模型，這些模型隨後由人工評審團進行驗證和評估。其優點在於它鼓勵思想的多樣性，允許快速糾正錯誤，並爲模型創建者和社區成員保持警惕和負責任創造了激勵。

最終目標是實現更分散和動態的治理，從而避免依賴於單一的集中模型，這代表了自以太坊創建以來V神所倡導的區塊鏈哲學的一個基本原則。