Революция ИИ: Мой личный скептицизм относительно технооптимизма Гейтса

Я только что прочитал чрезмерно восторженный манифест Билла Гейтса о ИИ, и, честно говоря, я и заинтригован, и глубоко обеспокоен. Гейтс утверждает, что он стал свидетелем двух революционных демонстраций технологий в своей жизни - графического интерфейса в 1980 году и выступления OpenAI на биологическом экзамене в прошлом году. Но позвольте мне сказать вам кое-что - я видел достаточно технологических гипов, чтобы знать, когда кто-то слишком увлечен своим собственным Kool-Aid.

Гейтс изображает ИИ как это магическое решение глобальной неравенства, но где критический анализ? Он небрежно упоминает, что "ИИ поможет сократить некоторые из самых худших неравенств в мире", не признавая того, как эти же технологии могут катастрофически расширить разрыв между имеющими и не имеющими.

Смотрите, я наблюдал, как новые технологии внедряются в реальный мир. Они не магически доходят до тех, кто в них больше всего нуждается - они идут туда, где есть деньги. Мир криптовалют научил нас этому болезненному уроку много раз.

Когда Гейтс говорит о том, что ИИ улучшает здравоохранение в бедных странах, я не могу не закатить глаза. Эти страны нуждаются в базовой инфраструктуре, обученных медицинских работниках и доступных лекарствах - а не в модных игрушках ИИ, разработанных в офисах Кремниевой долины, которые требуют огромных вычислительных ресурсов, которых они не могут себе позволить.

И не заставляйте меня начинать говорить об образовании. Гейтс ведет себя так, словно ИИ решит все проблемы, в то время как наши образовательные проблемы имеют глубоко структурный характер. Учителя недооплачиваются, школы недостаточно финансируются, и неравенство заложено в систему. Репетитор на базе ИИ это не исправит.

Самая раздражающая часть — это пренебрежительное отношение Гейтса к рискам ИИ. Он признает, что суперинтеллектуальный ИИ потенциально может уничтожить человечество, но рассматривает это как некую абстрактную будущую проблему, о которой нам не следует беспокоиться сейчас. Это крайне безответственно.

Я наблюдал из первых уст, как технологические продукты запускаются с минимальными мерами предосторожности, нанося реальный ущерб уязвимым сообществам. Мы уже видим галлюцинации ИИ, предвзятость и дезинформацию. Это не мелкие ошибки, которые можно исправить "менее чем за два года" - это фундаментальные проблемы с этими системами.

Гейтс говорит о том, что рыночные силы не способны создать ИИ, который поможет самым бедным, а затем наивно предполагает, что правительства и благотворительность спасут ситуацию. Он смотрел на состояние глобальной политики в последнее время? Большинство правительств едва могут согласовать базовые правила для социальных сетей, не говоря уже о координации сложного управления ИИ.

Революция ИИ может быть на подходе, но радужное видение Гейтса игнорирует запутанную реальность того, как технологии на самом деле влияют на общество. Нам нужно меньше техно-утопических манифестов и больше жестких вопросов о том, кому служат эти системы, кто контролирует их и кто расплачивается, когда они терпят неудачу.