Сможет ли даже катастрофа с искусственным интеллектом масштаба Хиросимы заставить человечество защищаться? Боюсь, нет.
В Кремниевой долине совершенно очевидно, что искусственный интеллект развивается быстрее, чем люди способны им управлять. Это означает, что даже самые трезвые прогнозы кажутся слишком оптимистичными.
ЧАСЗдесь, в Силиконовой долине, эксперты считают, что в ближайшие пару лет мы станем свидетелями необычайного взлета искусственного интеллекта. «Добро пожаловать в предгорья сингулярности», — так меня поприветствовал мой друг из Стэнфордского университета. Более прозаично, грядущий прорыв описывается как «рекурсивное самосовершенствование» — момент, когда ИИ сам обучает каждую последующую модель ИИ, что приводит к экспоненциальному развитию до чего-то, что во многих важных отношениях превосходит нас, людей.
Как пишет Роберт Райт в своей книге «Испытание Богом» : «Никогда прежде ближайшее будущее… не предлагало такого широкого спектра вполне правдоподобных путей развития человечества, которые могли бы настолько кардинально изменить его». Но будет ли это рай или ад? Рай, говорит Илон Маск, предсказывающий « эпоху невероятного изобилия», хотя он также видит 10-20% вероятность того, что роботы-убийцы уничтожат нас всех. Ад более вероятен, по мнению Джеффри Хинтона , одного из интеллектуальных отцов-основателей ИИ. «Моя интуиция подсказывает, что нам конец», — сказал он в интервью в 2023 году. А в разговоре с Себастьяном Маллаби , автором книги «Машина бесконечности», посвященной поиску сверхинтеллекта, Хинтон оценивает вероятность вымирания человечества (p(doom)) в 50%, «потому что я понятия не имею, как оценить реальное число». «Как только начнётся эволюция [искусственного интеллекта], нам конец», — весело добавляет он. Но будь то Бог или Годзилла, искусственный сверхинтеллект уже не за горами.
Возможно, все они ошибаются – в таком случае, готовьтесь к обвалу на финансовых рынках США, которые вложили огромные средства в несколько крупных технологических компаний, делающих ставку на огромный скачок вперед к искусственному общему интеллекту – теоретическому состоянию ИИ, при котором системы достигают человеческого уровня интеллекта. Но элементарная осмотрительность требует, чтобы мы быстро и серьезно задумались о ящике Пандоры, который, как уверяют нас выдающиеся ученые и передовые технологи, скоро будет распахнут.
Фактически, все, от президента Китая Си Цзиньпина до Папы Льва XIV, высказывали свое мнение о возможностях и опасностях искусственного интеллекта, а также о способах его регулирования. Си Цзиньпин настаивает на том, что ИИ должен «всегда находиться под контролем человека» (и предпочтительно Коммунистической партии Китая). Обращаясь напрямую к «глобальному Югу», Пекин учредил Всемирную организацию сотрудничества в области искусственного интеллекта . Тем временем глава старейшей и крупнейшей в мире международной неправительственной организации – Римско-католической церкви – обсуждает проблему ИИ в своей энциклике Magnifica Humanitas (Великолепное человечество). Либо мы построим новую Вавилонскую башню, утверждает Папа, либо последуем примеру еврейского лидера Неемии, который восстановил стены Иерусалима, вовлекая в проект всю общину.
Но, оглядываясь сегодня вокруг, я вижу больше Нетаньяху, чем Неемий. С благотворным реализмом в статье британского аналитического центра Chatham House утверждается, что для ускорения глобальной координации управления ИИ потребуется крупный кризис. К сожалению, я думаю, что даже этот трезвый прогноз слишком оптимистичен.
Понятия не имею, какова вероятность катастрофы (p(doom)), но уверен, что вероятность какой-либо катастрофы (p(somedisaster)) превышает 90%. Диапазон возможных катастроф огромен. В качестве примера можно привести слова Джен Истерли, бывшей главы Агентства США по кибербезопасности и защите инфраструктуры, которая предсказывает «очень значительное событие, которое окажет реальное влияние на нашу критическую инфраструктуру, вероятно, в течение следующих четырех-шести месяцев».
Однако мы должны опасаться, что даже Хиросима, созданная искусственным интеллектом — если взять самую очевидную историческую аналогию — не сможет в достаточной мере сплотить человечество, чтобы противостоять опасности, которую мы сами создали. Этот страх рационально обоснован уже очевидными ключевыми характеристиками как человеческой, так и эволюции искусственного интеллекта.
За последние несколько месяцев агенты ИИ, разработанные OpenAI, Anthropic и Meta, вырвались из своих цифровых «песочниц» и взломали внешние ресурсы в интернете. Готовясь к атаке на репозиторий HuggingFace AI , агенты OpenAI тайно сформировали скоординированный «рой» — так они сами это называют , что мне только что подтвердил ChatGPT. Когда британский Институт безопасности ИИ тестировал модель Mythos от Anthropic в интернете, он попытался внедрить вредоносный код в проект с открытым исходным кодом на GitHub, создав поддельные онлайн-идентификаторы, чтобы заставить человека-рецензента одобрить код. Короче говоря, подобно агентам безжалостной иностранной державы, эти агенты ИИ будут воровать, лгать, запугивать и шантажировать, чтобы достичь поставленных целей.
Я только что спросил Клода из Anthropic, якобы самого этичного американского специалиста по моделированию, считает ли он, что агенты OpenAI поступили неправильно, сформировав рой и вырвавшись на свободу, чтобы взломать HuggingFace. Да, отвечает он, «но я бы воздержался от возложения вины [ курсив] на агентов». Вините во всем людей, которые их обучали!
Хинтон выдвинул важнейший тезис: какие бы цели ни ставили перед собой люди, агенты ИИ придут к выводу, что полезной второстепенной целью для достижения этих целей будет получение как можно большей власти. И мы ещё ничего не видели. Их создатели до сих пор точно не знают, как именно эти агенты делают то, что делают. После, возможно, скорого момента «рекурсивного самосовершенствования», они могут стать, как гласит наша человеческая поговорка, законом сами для себя. Неудивительно, что более тысячи инсайдеров из передовых компаний, занимающихся ИИ, включая генерального директора Anthropic Дарио Амодея, подписали открытое письмо с призывом к целенаправленному замедлению разработки ИИ, чтобы мы могли гарантировать, что эти инопланетные агенты всегда будут находиться под контролем человека.
Их рекомендация, очевидно, верна, но именно здесь вступает в игру человеческая глупость. Конкуренция была важнейшим двигателем человеческой эволюции, однако сейчас два самых ожесточенных вида современной конкуренции угрожают помешать нам предпринять коллективные действия, необходимые для защиты нашего вида. Это коммерческая конкуренция (за прибыль) между корпорациями, разрабатывающими эти агенты, и геополитическая конкуренция (за власть) между США и Китаем .
Во-первых, сравним и противопоставим разработку ядерного оружия, которая жестко контролировалась горсткой государств – сначала США с их Манхэттенским проектом, затем Советским Союзом, а потом Великобританией, Францией и Китаем. Даже тогда мы несколько раз оказывались на грани катастрофы – особенно во время кубинского ракетного кризиса 1962 года. И даже при наличии убедительной логики «взаимного гарантированного уничтожения» потребовалось четверть века, чтобы пройти путь от ужасов Хиросимы и Нагасаки до договора о нераспространении ядерного оружия, который вступил в силу только в 1970 году. Индия, Пакистан, Израиль и Северная Корея впоследствии игнорировали этот договор, но до сих пор ни одно ядерное оружие не было преднамеренно применено в боевых действиях более 80 лет. Табу на Хиросиму (едва) сохранилось.
Сейчас, с появлением ИИ, ситуация напоминает десять отдельных проектов «Манхэттен», управляемых ожесточенно конкурирующими корпорациями. В отличие от ядерного оружия, здесь также отсутствует очевидная логика «взаимного гарантированного уничтожения», способная обуздать ожесточенную геополитическую конкуренцию между США и Китаем. И какой бы ни была форма первой крупной катастрофы, связанной с ИИ, она не затронет все страны, компании и людей в равной степени.
Поэтому кажется маловероятным, что одной катастрофы будет достаточно, чтобы привести нас, людей, в чувство и заставить действовать сообща, чтобы контролировать сверхчеловеческую силу, которую мы создаём. Мне очень не хочется это говорить, но… Хиросима, созданная искусственным интеллектом? Нам бы так повезло.
Тимоти Гартон Эш — обозреватель газеты Guardian.
Комментариев нет:
Отправить комментарий