Vitalik Buterin, blok zinciri yönetişimindeki yapay zeka risklerine dikkat çekiyor.

Vitalik Buterin, Ethereum'un kurucusu, son zamanlarda artan bir tartışma hakkında düşüncelerini paylaştı: merkeziyetsiz yönetim sistemlerinde yapay zeka (IA) ile ilgili riskler.

Rus-Kanadalı geliştirici, Edison Watch projesinin tanıtımcısı Eito Muyamura'nın bir gönderisine yanıt verdi. Bu, verilerin sızmasını izlemek ve önlemek için tasarlanmış bir çözüm olup, yapay zeka ile etkileşimler aracılığıyla gerçekleştirilmektedir. Bu girişim, OpenAI tarafından ChatGPT'de Model Context Protocol (MCP) protokolünün yakın zamanda tanıtılmasının ardından doğmuştur. Bu, aracın Gmail, takvimler ve diğer uygulamalarla bağlantı kurmasını sağlamaktadır.

Bir video gösterimi aracılığıyla, Muyamura, saldırganların OpenAI ile paylaşılan özel verilere potansiyel olarak nasıl erişebileceğini gösterdi. "Temel sorun şu: ChatGPT gibi AI ajanları, emirlerinizi takip eder, sağduyunuzu değil. Sadece e-posta adresinizle, tüm özel bilgilerinizi çıkarabiliriz," dedi Muyamura ve "AI son derece zeki olabilir, ancak verilerini ifşa etmek için inanılmaz derecede basit bir şekilde kandırılabilir ve manipüle edilebilir," diye ekledi.

Buterin'e göre AI tabanlı yönetişimin tehlikeleri

Bu yayını X hesabında paylaşarak, Buterin konuyla ilgili görüşünü ifade etme fırsatını yakaladı. "Bu nedenle, 'Yapay Zeka ile yönetişim' naif bir fikirdir. Eğer yapay zekayı katkılara fon tahsis etmek için kullanıyorsanız, insanlar prompt injection tekniklerini kullanacak ve 'bütün parayı' elde etmeye çalışacaklar," dedi.

"AI yönetimi", otomatik olarak kaynaklar veya eylemlerle ilgili kararlar alan sistemleri ifade eder; örneğin, fon tahsisi veya katkıların tanımlanması, AI tarafından belirlenen kurallara dayanarak. Buterin, "naif" terimini rastgele kullanmıyor; bunun yerine, kullanıcıların her zaman AI'ya doğru talimatlar vereceğini varsaymanın riskine dikkat çekiyor, gerçekte kullanıcılar, haksız avantajlar elde etmek için sistemi dolandırma teknikleriyle istismar edebilirler.

Prompt injection, genellikle üretken yapay zeka bağlamında "jailbreaking" olarak adlandırılan, kötü niyetli aktörlerin bir yapay zeka modelini güvenlik kısıtlamalarını veya iç politikalarını görmezden gelecek şekilde manipüle etme tekniklerini ifade eder; örneğin, aksi takdirde yasak olan eylemler talep edilerek.

Merkeziyetsiz Protokoller İçin Riskler

Ethereum'in kurucusu için, merkeziyetsiz protokollerin yönetimini yapay zekaya devretmenin gerçek bir riski var. Geleneksel DeFi platformlarında, kararlar genellikle topluluk oylaması ile alınır, genellikle belirli bir jetona sahip olanlar veya belirli kriterleri karşılayanlar tarafından, ve protokoldeki değişiklikler, iyileştirmeler veya yapılacak eylemlerle ilgilidir.

Ama eğer bir yapay zeka tabanlı bir yönetişim modeli uygulanırsa, bu, haksız kazançlar yaratabilecek potansiyel manipülasyonlara kapı aralar; bu da para veya özel verilerin çalınması gibi durumları içerebilir.

Önerilen alternatif yaklaşım

Alternatif olarak, Buterin, "bilgi finansmanı yaklaşımını desteklediğini, burada herkesin katkıda bulunabileceği bir açık pazarın bulunduğunu, bu modellerin herhangi biri tarafından etkinleştirilebilen ve insan jüri tarafından değerlendirilebilen bir akran değerlendirme mekanizmasına tabi olduğunu" ifade ediyor.

Bu fikri daha da geliştiriyor:

Bu tür bir "kurumsal tasarım" yaklaşımı, harici aktörlerin kendi LLM'lerini (büyük dil modelleri) entegre etmeleri için açık bir fırsat yarattığından, intrinsik olarak daha dayanıklıdır. Bu, hem gerçek zamanlı model çeşitliliği sunması hem de model katkıcıları ve harici gözlemciler için bu sorunlara dikkat etme ve hızla düzeltme konusunda içsel teşvikler yaratması nedeniyle geçerlidir.

Bu yaklaşımda, farklı katılımcılar kendi karar modelleriyle katkıda bulunabilir ve bunlar daha sonra insan jürisi tarafından doğrulanır ve değerlendirilir. Avantajı, fikirlerin çeşitliliğini teşvik etmesi, hataların hızlı bir şekilde düzeltilmesine olanak tanıması ve model yaratıcıları ile topluluk üyelerinin dikkatli ve sorumlu kalmaları için teşvikler yaratmasıdır.

Son nihai hedefi, daha dağıtılmış ve dinamik bir yönetişim sağlamaktır, böylece tek bir merkezi modele bağımlılıktan kaçınılmakta ve bu, Ethereum'un yaratılmasından bu yana Buterin'in savunduğu blockchain felsefesinin temel bir ilkesini temsil etmektedir.