d/acc: Обзор и перспективы через год

Год назад я написал статью о технологическом оптимизме, в которой изложил свой общий энтузиазм по поводу технологий и огромных преимуществ, которые они могут принести, а также выразил осторожное отношение к некоторым конкретным вопросам, особенно касающимся проблем суперумного искусственного интеллекта. Если эта технология будет построена неправильно, она может привести к разрушительным рискам или к тому, что человечество необратимо потеряет власть.

Одной из ключевых идей, которые я изложил в той статье, является децентрализованная, демократическая и дифференцированная оборонительная акселерация. Это означает ускорение технологического развития, но с выборочным вниманием к тем технологиям, которые могут укрепить нашу обороноспособность, а не разрушить её, и стремление к распределению власти, а не к концентрации власти в руках немногих элит, которые будут решать, что правильно, а что нет, от лица всех. Оборонительная модель должна напоминать демократическую Швейцарию и исторический почти анархистский регион Зомия, а не феодальную модель с лордами и замками в средние века.

За прошедший год эти идеи и концепции значительно развились и созрели. Я поделился этими мыслями на платформе "80,000 часов" и получил множество отзывов, большинство из которых были положительными, но, конечно, были и некоторые критические.

Эта работа продолжается и дает реальные результаты: мы видим прогресс в области проверяемых открытых вакцин; осознание ценности здорового внутреннего воздуха постоянно растет; "сообщества заметок" продолжают играть активную роль; прогнозные рынки стали прорывным инструментом информации в этом году; доказательства с нулевыми знаниями (ZK-SNARKs) применяются в области правительственной идентификации и социальных медиа (и обеспечивают безопасность кошельков Ethereum через абстракцию аккаунтов); открытые инструменты визуализации находят применение в медицине и нейроинтерфейсах (BCI) и так далее.

Прошлой осенью мы провели наше первое важное мероприятие d/acc: "День исследования d/acc" (d/aDDy), которое прошло на Devcon. Мероприятие объединило выступающих из различных столпов d/acc (биология, физика, сеть, информационная защита и нейротехнологии) и продолжалось целый день. Люди, долгое время работающие в этих технологиях, начали больше узнавать о работе друг друга, в то время как внешние участники все больше осознавали более грандиозное видение: те же ценности, которые продвигают развитие Ethereum и криптовалют, могут быть распространены на более широкий мир.

Содержание и пределы d/acc

Представьте себе сцену 2042 года. Вы видите в новостях сообщение о том, что в вашем городе может произойти новая эпидемия. Такие сообщения стали привычными: люди часто чрезмерно реагируют на каждую мутацию болезней животных, в то время как в большинстве случаев эти мутации в конечном итоге не вызывают реального кризиса. Две предыдущие потенциальные эпидемии были успешно обнаружены и сдержаны на ранних стадиях благодаря мониторингу сточных вод и анализу открытых данных в социальных сетях. Однако на этот раз ситуация иная, прогнозные рынки показывают вероятность появления как минимум 10,000 случаев до 60%, что вызывает у вас беспокойство.

Только вчера была установлена генетическая последовательность вируса. Программное обеспечение вашегоPocket Air Tester немедленно обновилось, чтобы оно могло обнаруживать новый вирус (как при тестировании на воздух, так и после 15 минут воздействия в помещении). В то же время ожидается, что открытые инструкции и код для создания вакцины с использованием оборудования, доступного в любой современной медицинской учреждении по всему миру, будут опубликованы в течение нескольких недель. В настоящее время большинство людей не предприняли никаких действий, полагаясь в основном на широко применяемые меры фильтрации воздуха и вентиляции для обеспечения своей безопасности.

Поскольку у вас есть проблемы с иммунной системой, вы действуете более осторожно: используемая вами открытая локальная версия персонального ассистента на базе искусственного интеллекта, помимо выполнения обычных задач, таких как навигация, рекомендации ресторанов и мероприятий, также учитывает данные о текущем качестве воздуха и углекислом газе, чтобы рекомендовать вам только самые безопасные места. Эти данные предоставляются тысячами участников и устройств, с использованием технологий ZK-SNARKs и дифференциальной конфиденциальности, что минимизирует риск утечки данных или их ненадлежащего использования для других целей.

Через два месяца пандемия чудесным образом исчезла: похоже, 60% людей следовали основным протоколам профилактики, то есть носили маски, когда прибор для тестирования воздуха подавал сигнал тревоги и показывал наличие вируса, а те, у кого тесты были положительными, оставались дома на самоизоляции. Именно эта мера была достаточной для того, чтобы еще больше снизить уровень передачи, который уже значительно уменьшился благодаря пассивной силовой фильтрации воздуха, до уровня ниже 1. Симуляция показала, что заболевание, которое могло бы быть в пять раз серьезнее, чем пандемия COVID-19 двадцать лет назад, сейчас не оказало серьезного влияния.

Мероприятие d/acc, проведенное Devcon, достигло крайне положительного результата, а именно концепция d/acc успешно объединила людей из разных областей и реально пробудила у них живой интерес к работе друг друга.

Провести мероприятие с "разнообразием" не так уж сложно, но заставить людей из разных слоев общества и с различными интересами действительно установить тесные связи – задача не из легких. Я до сих пор помню, как в средней и старшей школе меня заставляли смотреть длинные оперы, которые, по моему мнению, были скучными. Я хорошо понимал, что "должен" их ценить, потому что в противном случае меня бы считали безкультурным лентяем в области информатики, но я не смог на более глубоком уровне найти связь с содержанием оперы. Однако атмосфера мероприятия d/acc была совершенно иной: казалось, что людям действительно нравится узнавать о разных профессиях в различных сферах.

Если мы стремимся построить более светлое будущее, чем правление, замедление и разрушение, то нам обязательно нужно развивать такое широкое сотрудничество. d/acc в этом отношении, похоже, добился значительных успехов, и этого достаточно, чтобы подчеркнуть ценность этой идеи.

Основная идея d/acc проста и понятна: децентрализованная, демократическая и дифференцированная оборонительная акселерация. Создание технологий, которые могут склонить баланс атак и защиты в сторону обороны, при этом не полагаясь на передачу большей власти центральным властям в процессе реализации. Между этими двумя аспектами существует внутренняя тесная связь: любая децентрализованная, демократическая или свободная политическая структура обычно процветает, когда защита легко реализуема, и сталкивается с серьезными вызовами, когда защита встречает многочисленные трудности — в таких случаях более вероятным результатом является период хаоса, в котором все противостоят друг другу, в конечном итоге достигая состояния баланса, установленного сильнейшими.

Один из способов понять важность одновременной реализации децентрализации, защитности и ускорения заключается в сопоставлении с концепцией, возникающей при отказе от любого из этих трех аспектов.

Децентрализация ускоряется, но игнорируется часть "дифференцированной защиты"

По сути, это похоже на то, чтобы стать эффективным ускорителем (e/acc), но при этом стремиться к децентрализации. Многие люди выбирают этот путь, некоторые из них называют себя d/acc, но они полезно описывают свой акцент как "наступательный". Кроме того, есть много других, кто проявляет более умеренный интерес к "децентрализованному искусственному интеллекту" и подобным темам, но, на мой взгляд, их внимание к "защитному" аспекту явно недостаточно.

На мой взгляд, этот подход может помочь избежать риска диктатуры определенных групп над всем человечеством, но он не решает потенциальные структурные проблемы: в среде, благоприятной для нападений, всегда существует постоянный риск катастрофы, или кто-то может позиционировать себя как защитника и занять доминирующее положение на постоянной основе. Что касается искусственного интеллекта, он также не может должным образом решить риск ослабления власти человечества по сравнению с искусственным интеллектом.

Дифференцированная защита ускоряется, но игнорирует "децентрализацию и демократию"

Для достижения целей безопасности принятие централизованного контроля всегда привлекало определенную часть людей, и читатели, безусловно, знакомы с множеством таких примеров и их недостатками. В последнее время некоторые выражают обеспокоенность тем, что экстремальный централизованный контроль может быть единственным способом справиться с будущими экстремальными технологиями: например, представьте себе гипотетическую ситуацию, в которой "каждый носит 'метку свободы' — это более ограниченная версия носимых устройств мониторинга, подобная браслетам на лодыжке, которые используются в некоторых странах в качестве альтернативы тюремному заключению... зашифрованное видео и аудио постоянно загружаются и в реальном времени интерпретируются машинами". Однако централизованный контроль имеет свои пределы. Одна из форм относительно умеренного централизованного контроля, которая обычно игнорируется, но все же является вредной, проявляется в области биотехнологий (например, продукты питания, вакцины) в противодействии общественному контролю, а также в отсутствии вызова для таких действий благодаря закрытым стандартам.

Очевидные риски этого подхода заключаются в том, что сам центр часто становится источником риска. Мы уже стали свидетелями этого во время пандемии COVID-19, когда функциональные исследования, финансируемые несколькими ведущими мировыми правительствами, могли быть источником пандемии; централизованная эпистемология привела к тому, что Всемирная организация здравоохранения на протяжении многих лет отказывалась признавать, что коронавирус передается по воздуху, а обязательная социальная дистанция и обязательная вакцинация вызвали политическую реакцию, которая может продлиться десятилетия. Подобные ситуации с высокой вероятностью могут повториться в любых рисковых сценариях, связанных с искусственным интеллектом или другими рискованными технологиями. Напротив, децентрализованный подход будет более эффективно справляться с рисками, исходящими от самого центра.

Децентрализованная защита, но исключает ускорение

По сути, это попытка замедлить технологический прогресс или способствовать экономическому спаду.

Эта стратегия сталкивается с двойными вызовами. Во-первых, в целом технологический и экономический рост крайне полезен для человечества, и любое его замедление может привести к непредсказуемым последствиям. Во-вторых, в неавторитарном мире стагнация нестабильна: те, кто "обманывает" больше всего и может найти, казалось бы, разумные способы продолжать развитие, окажутся в выигрышном положении. Стратегия замедления может в определенных контекстах сработать: например, продукты питания в Европе более полезны, чем в США, это является примером; успехи в области ядерного нераспространения до сих пор также говорят об этом. Однако эти стратегии не могут работать вечно.

С помощью d/acc мы стремимся достичь следующих целей:

• В условиях растущей племенной тенденции в современном мире придерживаться принципов, а не просто слепо строить различные вещи — наоборот, мы ожидаем построить конкретные вещи, чтобы сделать мир более безопасным и прекрасным.
• Осознание экспоненциального технологического прогресса означает, что мир станет чрезвычайно необычным, и общий "след" человечества во Вселенной, безусловно, будет постоянно увеличиваться. Наша способность защищать уязвимых животных, растения и людей от вреда должна постоянно улучшаться, и единственным выходом является смелое движение вперед.
• Создавать технологии, которые действительно могут защитить нас, а не основываются на предположении "хороших людей (или хорошего ИИ), контролирующих все". Мы достигаем этой цели, создавая инструменты, которые по своей природе более эффективны для создания и защиты, чем для разрушения.

Другой взгляд на d/acc заключается в возвращении к рамкам движения пиратской партии в Европе в конце 2000-х годов: расширение прав и возможностей.

Наша цель состоит в том, чтобы построить мир, который сможет сохранить человеческую активность и реализовать негативную свободу, то есть избежать активного вмешательства других (будь то обычные граждане, правительства или суперумные роботы) в нашу способность формировать собственную судьбу, одновременно реализуя позитивную свободу, то есть гарантируя, что у нас есть знания и ресурсы для осуществления этой способности. Это перек呼应了