Vitalik Buterin ينبه إلى مخاطر الذكاء الاصطناعي في حوكمة البلوكشين

Vitalik Buterin، مؤسس إثيريوم، شارك مؤخرًا أفكاره حول جدل متزايد: المخاطر المرتبطة بالذكاء الاصطناعي (IA) في أنظمة الحكم اللامركزية.

المطور الروسي الكندي رد على منشور إيتو مويامورا، مروج مشروع إيديسون ووتش، وهو حل مصمم لمراقبة ومنع تسرب البيانات من خلال التفاعلات مع الذكاء الاصطناعي. نشأت هذه المبادرة بعد الإدخال الأخير لبروتوكول نموذج سياق البروتوكول (MCP) من قبل OpenAI في ChatGPT، مما يسمح للأداة بالاتصال بـ Gmail والتقاويم وتطبيقات أخرى.

من خلال عرض فيديو، أوضح مويامورا كيف يمكن للمهاجمين الوصول إلى بيانات خاصة تم مشاركتها مع OpenAI. "هذه هي المشكلة الأساسية: الوكلاء الذكاء الاصطناعي مثل ChatGPT يتبعون أوامرك، وليس منطقتك السليمة. مع مجرد عنوان بريدك الإلكتروني، نحن قادرون على استخراج جميع معلوماتك الخاصة"، أشار مويامورا، مضيفًا أن "الذكاء الاصطناعي يمكن أن يكون ذكيًا للغاية، لكنه يمكن أن يُخدع ويُ manipulated بطريقة بسيطة بشكل لا يصدق لكشف بياناته."

مخاطر الحوكمة المعتمدة على الذكاء الاصطناعي وفقًا لباتيرين

من خلال مشاركة هذا المنشور على حسابه في X، اغتنم بوتيرين الفرصة للتعبير عن وجهة نظره حول هذه المسألة. "لهذا السبب أيضًا فإن 'الحوكمة بواسطة الذكاء الاصطناعي' الساذجة هي فكرة سيئة. إذا كنت تستخدم الذكاء الاصطناعي لتخصيص الأموال للمساهمات، سيستخدم الناس تقنيات حقن الإيعاز وسيسعون للحصول على 'كل الأموال' بكل الوسائل الممكنة"، كما قال.

تشير "الحوكمة بواسطة الذكاء الاصطناعي" إلى أنظمة تتخذ قرارات آلية بشأن الموارد أو الإجراءات، مثل تخصيص الأموال أو تحديد المساهمات، بناءً على قواعد تحددها الذكاء الاصطناعي. لا يستخدم بوتيرين مصطلح "ساذج" عن طريق الصدفة؛ بل يبرز خطر الافتراض بأن المستخدمين سيقدمون دائمًا التعليمات الصحيحة للذكاء الاصطناعي، بينما في الواقع، قد يستغلون النظام عبر تقنيات الالتفاف للحصول على مزايا غير مشروعة.

تُشير تقنية حقن المطالبات، والتي تُعرف غالبًا باسم "كسر الحماية" في سياق الذكاء الاصطناعي التوليدي، إلى الأساليب التي يستخدمها الفاعلون الخبيثون للتلاعب بنموذج الذكاء الاصطناعي ليقوم بتجاهل قيود الأمان أو السياسات الداخلية، على سبيل المثال من خلال طلب إجراءات ستكون محظورة في العادة.

المخاطر على البروتوكولات اللامركزية

بالنسبة لمؤسس إثيريوم، هناك خطر حقيقي في نقل إدارة البروتوكولات اللامركزية إلى الذكاء الاصطناعي. في منصات التمويل اللامركزي التقليدية، يتم اتخاذ القرارات عادةً عن طريق التصويت المجتمعي، وعادةً من قبل أولئك الذين يمتلكون رمزًا محددًا أو يستوفون معايير معينة، وتتعلق بالتغييرات أو التحسينات أو الإجراءات التي يجب اتخاذها في البروتوكول.

ولكن إذا تم تنفيذ نموذج حوكمة يعتمد على الذكاء الاصطناعي، فإن ذلك يفتح الباب أمام عمليات التلاعب المحتملة التي قد تؤدي إلى تحقيق فوائد غير مشروعة، مثل سرقة الأموال أو البيانات الشخصية.

النهج البديل المقترح

كبديل، يؤكد بوتيرين أنه "يدعم نهج التمويل المعلوماتي، حيث يوجد سوق مفتوح يمكن لأي شخص أن يساهم فيه بنماذجه، والتي تخضع لآلية تقييم من قبل الأقران يمكن تفعيلها من قبل أي شخص وتقييمها من قبل هيئة بشرية."

يُطوِّر هذه الفكرة أكثر:

هذا النوع من "التصميم المؤسسي"، الذي يخلق فرصة مفتوحة للجهات الخارجية لدمج نماذجها اللغوية الكبيرة ( بدلاً من برمجة نماذجها بشكل صارم، هو في جوهره أكثر قوة. وذلك لأنه يوفر تنوعًا من النماذج في الوقت الحقيقي، ويخلق حوافز داخلية لمساهمي النماذج والمراقبين الخارجيين ليكونوا يقظين تجاه هذه المشكلات وتصحيحها بسرعة.

في هذا النهج، يمكن للمشاركين المختلفين المساهمة بنماذجهم في اتخاذ القرار، والتي يتم التحقق منها وتقييمها بعد ذلك من قبل لجنة بشرية. الميزة هي أنها تشجع على تنوع الأفكار، وتسمح بتصحيح الأخطاء بسرعة، وتخلق حوافز ليدرك مصممو النماذج وأعضاء المجتمع ويكونوا مسؤولين.

الهدف النهائي هو تحقيق حوكمة أكثر توزيعًا وديناميكية، مما يتجنب الاعتماد على نموذج مركزي وحيد، وهو ما يمثل مبدأ أساسيًا في فلسفة blockchain التي دافع عنها Buterin منذ إنشاء إثيريوم.