Vitalik Buterin cảnh báo về những rủi ro của IA trong việc quản lý blockchain

Vitalik Buterin, người sáng lập Ethereum, gần đây đã chia sẻ những suy nghĩ của mình về một cuộc tranh luận ngày càng gia tăng: những rủi ro liên quan đến trí tuệ nhân tạo (IA) trong các hệ thống quản trị phi tập trung.

Nhà phát triển người Nga-Canada đã phản ứng trước một bài đăng của Eito Muyamura, người quảng bá dự án Edison Watch, một giải pháp được thiết kế để giám sát và ngăn chặn rò rỉ dữ liệu thông qua các tương tác với AI. Sáng kiến này được ra đời sau khi OpenAI giới thiệu giao thức Model Context Protocol (MCP) trong ChatGPT, cho phép công cụ kết nối với Gmail, các lịch và các ứng dụng khác.

Thông qua một video trình diễn, Muyamura đã minh họa cách mà những kẻ tấn công có thể tiếp cận dữ liệu riêng tư được chia sẻ với OpenAI. "Đây là vấn đề cơ bản: các tác nhân AI như ChatGPT thực hiện theo lệnh của bạn, không phải theo lý trí của bạn. Chỉ với địa chỉ email của bạn, chúng tôi có khả năng trích xuất tất cả thông tin riêng tư của bạn", Muyamura nhấn mạnh, đồng thời cho biết rằng "AI có thể cực kỳ thông minh, nhưng nó có thể bị lừa và thao túng một cách vô cùng đơn giản để tiết lộ dữ liệu của nó."

Những nguy hiểm của việc quản trị dựa trên AI theo Buterin

Bằng cách chia sẻ bài đăng này trên tài khoản X của mình, Buterin đã tận dụng cơ hội để bày tỏ quan điểm của mình về vấn đề. "Đó cũng là lý do tại sao 'quản trị bởi AI' ngây thơ là một ý tưởng tồi. Nếu bạn sử dụng AI để phân bổ quỹ cho các đóng góp, mọi người sẽ sử dụng các kỹ thuật prompt injection và cố gắng đạt được 'tất cả tiền' bằng mọi cách có thể," ông nói.

"Quản trị bằng IA" đề cập đến các hệ thống đưa ra quyết định tự động liên quan đến tài nguyên hoặc hành động, chẳng hạn như phân bổ quỹ hoặc xác định đóng góp, dựa trên các quy tắc do IA xác định. Buterin không sử dụng thuật ngữ "naïve" một cách ngẫu nhiên; ông nhấn mạnh nguy cơ giả định rằng người dùng sẽ luôn đưa ra những chỉ dẫn đúng đắn cho IA, trong khi trên thực tế, họ có thể lợi dụng hệ thống thông qua các kỹ thuật lách luật để đạt được lợi ích không chính đáng.

Prompt injection, thường được gọi là "jailbreaking" trong bối cảnh của AI sinh tạo, chỉ những kỹ thuật mà các tác nhân xấu sử dụng để thao túng một mô hình AI nhằm khiến nó bỏ qua các hạn chế về an ninh hoặc các chính sách nội bộ, chẳng hạn như yêu cầu thực hiện các hành động mà lẽ ra sẽ bị cấm.

Các rủi ro cho các giao thức phi tập trung

Đối với người sáng lập Ethereum, việc chuyển giao quyền quản lý các giao thức phi tập trung cho AI là một rủi ro thực sự. Trong các nền tảng DeFi truyền thống, các quyết định thường được đưa ra thông qua bỏ phiếu cộng đồng, thường do những người sở hữu một token cụ thể hoặc đáp ứng một số tiêu chí nhất định, và liên quan đến các thay đổi, cải tiến hoặc hành động cần thực hiện trong giao thức.

Nhưng nếu một mô hình quản trị dựa trên AI được triển khai, điều này sẽ mở ra cánh cửa cho những thao túng tiềm năng có thể tạo ra lợi ích không chính đáng, như việc đánh cắp tiền hoặc dữ liệu cá nhân.

Phương pháp thay thế được đề xuất

Như một sự thay thế, Buterin khẳng định rằng ông "hỗ trợ phương pháp tài trợ thông tin, trong đó tồn tại một thị trường mở nơi bất kỳ ai cũng có thể đóng góp với các mô hình của mình, các mô hình này sẽ được đưa ra một cơ chế đánh giá ngang hàng có thể được kích hoạt bởi bất kỳ ai và đánh giá bởi một ban giám khảo con người."

Ông phát triển thêm ý tưởng này:

Cách tiếp cận "thiết kế thể chế" này, tạo cơ hội mở cho các tác nhân bên ngoài tích hợp các LLM (mô hình ngôn ngữ lớn) của họ thay vì lập trình cứng nhắc các mô hình của riêng họ, về bản chất là mạnh mẽ hơn. Điều này không chỉ vì nó cung cấp sự đa dạng mô hình theo thời gian thực mà còn vì nó tạo ra các động lực nội bộ cho các nhà đóng góp mô hình và các quan sát viên bên ngoài phải cảnh giác với những vấn đề này và sửa chữa chúng một cách nhanh chóng.

Trong cách tiếp cận này, các tham gia viên khác nhau có thể đóng góp với các mô hình quyết định của họ, sau đó được kiểm tra và đánh giá bởi một ban giám khảo con người. Lợi ích là nó khuyến khích sự đa dạng của các ý tưởng, cho phép sửa lỗi nhanh chóng và tạo động lực cho các nhà sáng tạo mô hình và các thành viên trong cộng đồng duy trì sự cảnh giác và trách nhiệm.

Mục tiêu cuối cùng là đạt được một sự quản trị phân phối và năng động hơn, do đó tránh sự phụ thuộc vào một mô hình tập trung duy nhất, điều này đại diện cho một nguyên tắc cơ bản của triết lý blockchain mà Buterin đã bảo vệ kể từ khi tạo ra Ethereum.