Vitalik Buterin alerta sobre os riscos da IA na governança blockchain

Vitalik Buterin, fundador da Ethereum, recentemente compartilhou seus pensamentos sobre um debate crescente: os riscos associados à inteligência artificial (IA) nos sistemas de governança descentralizada.

O desenvolvedor russo-canadense reagiu a uma publicação de Eito Muyamura, promotor do projeto Edison Watch, uma solução concebida para monitorizar e prevenir vazamentos de dados através das interações com a IA. Esta iniciativa nasceu após a introdução recente do protocolo Model Context Protocol (MCP) pela OpenAI no ChatGPT, permitindo que a ferramenta se conecte ao Gmail, aos calendários e a outras aplicações.

Através de uma demonstração em vídeo, Muyamura ilustrou como atacantes podem potencialmente acessar dados privados compartilhados com a OpenAI. "Aqui está o problema fundamental: agentes de IA como o ChatGPT seguem suas ordens, não o seu bom senso. Com apenas o seu endereço de e-mail, somos capazes de extrair todas as suas informações privadas", destacou Muyamura, acrescentando que "a IA pode ser extremamente inteligente, mas pode ser enganada e manipulada de forma incrivelmente simples para divulgar seus dados."

Os perigos da governança baseada em IA segundo Buterin

Ao compartilhar esta publicação em sua conta X, Buterin aproveitou a oportunidade para expressar seu ponto de vista sobre a questão. "É também por isso que a 'governança por IA' ingênua é uma má ideia. Se você usar IA para alocar fundos para contribuições, as pessoas vão usar técnicas de prompt injection e tentar obter 'todo o dinheiro' por todos os meios possíveis", disse ele.

A "governança por IA" refere-se a sistemas que tomam decisões automatizadas sobre recursos ou ações, por exemplo, a alocação de fundos ou a definição de contribuições, com base em regras definidas pela IA. Buterin não usa o termo "ingénuo" por acaso; ele ressalta o risco de supor que os usuários darão sempre as instruções corretas à IA, enquanto na realidade, eles podem explorar o sistema através de técnicas de contorno para obter vantagens indevidas.

A injeção de prompt, muitas vezes chamada de "jailbreaking" no contexto das IAs generativas, refere-se às técnicas pelas quais atores mal-intencionados manipulam um modelo de IA para que ele ignore as restrições de segurança ou as políticas internas, por exemplo, ao solicitar ações que de outra forma seriam proibidas.

Os riscos para os protocolos descentralizados

Para o fundador da Ethereum, existe um risco real em transferir a governança dos protocolos descentralizados para a IA. Nas plataformas DeFi tradicionais, as decisões são geralmente tomadas por votação comunitária, geralmente por aqueles que possuem um token específico ou atendem a certos critérios, e dizem respeito a mudanças, melhorias ou ações a serem realizadas no protocolo.

Mas se um modelo de governança baseado em IA for implementado, isso abre a porta para manipulações potenciais que podem gerar ganhos indevidos, como o roubo de dinheiro ou de dados privados.

A abordagem alternativa proposta

Como alternativa, Buterin afirma que "apoia a abordagem de financiamento informacional, na qual existe um mercado aberto onde qualquer um pode contribuir com seus modelos, os quais estão sujeitos a um mecanismo de avaliação por pares que pode ser ativado por qualquer um e avaliado por um júri humano."

Ele desenvolve ainda mais esta ideia:

Este tipo de abordagem de "design institucional", que cria uma oportunidade aberta para que atores externos integrem seus LLM (grandes modelos de linguagem) em vez de programar rigidamente os seus, é intrinsecamente mais robusta. Isto tanto porque oferece uma diversidade de modelos em tempo real quanto porque cria incentivos internos para os contribuidores de modelos e os observadores externos serem vigilantes em relação a esses problemas e corrigi-los rapidamente.

Nesta abordagem, diferentes participantes podem contribuir com seus modelos de decisão, que são então verificados e avaliados por um júri humano. A vantagem é que ela incentiva a diversidade de ideias, permite uma correção rápida de erros e cria incentivos para que os criadores de modelos e os membros da comunidade permaneçam vigilantes e responsáveis.

O objetivo final é alcançar uma governança mais distribuída e dinâmica, evitando assim a dependência de um único modelo centralizado, o que representa um princípio fundamental da filosofia blockchain defendida por Buterin desde a criação do Ethereum.