Паника вокруг искусственного интеллекта — не новость.
В 1940-х годах журнал The Nation задавал вопросы об атомной бомбе, которые мы сегодня задаем искусственному интеллекту.
По мере того как в дискуссиях усиливались эти параллели, я часто вспоминал редакционную статью журнала Nation , опубликованную всего через несколько дней после того, как на Хиросиму была сброшена первая атомная бомба. В статье « Один мир или ни одного » тогдашний редактор журнала, Фреда Кирчвей, изложила свою убежденность в том, что если над бомбой не будет поставлен по-настоящему влиятельный международный руководящий орган, то конец человечества будет вопросом не «если», а « когда» . «Атомная бомба представляет собой революцию в науке — величайшую революцию, когда-либо совершенную», — писала Кирчвей. «Она требует сопоставимой революции в мышлении людей и в их способности к политической и социальной перестройке».
В 1946 году книга , также озаглавленная «Один мир или ни одного» , сборник эссе ведущих ученых и деятелей культуры, таких как Альберт Эйнштейн, Роберт Оппенгеймер, Уолтер Липпман и другие, предупреждающих о потенциально разрушительной силе этой технологии, стала бестселлером и впоследствии была экранизирована в виде одноименного ужасающего короткометражного фильма, который стоит посмотреть и сегодня.
За восемьдесят лет, прошедших после Хиросимы, с учетом нескольких слишком легко забываемых опасных ситуаций за это время , мало что было сделано для ослабления аргумента «Единый мир или ни одного». Сегодня, в условиях нарастающего хаоса глобального порядка, трудно утверждать, что аргумент Кирчвей оказался неверным. И, конечно же, если бы случилось худшее, вряд ли кто-то смог бы подтвердить, что она была права.
Как и многих других, меня поразили некоторые параллели между тем моментом и нынешним — ученые предупреждают о катастрофе, чиновники обещают процветание, а конкурирующие державы не желают сбавлять темпы, — и мне захотелось узнать, что пишут другие авторы в журнале The Nation в период широко распространенной неопределенности относительно того, сможет ли способность человечества к сотрудничеству угнаться за технологическими инновациями. Как выразился один из авторов журнала в 1945 году: «Главный вопрос, стоящий перед нами сегодня, заключается в том, сможем ли мы спастись от того, чтобы нас разнесло на куски».
Через несколько недель после Хиросимы в журнале вышла статья «Атом для всех» ирландского химика и физика Дж. Д. Бернала, внесшего важный научный вклад в высадку в Нормандии в 1944 году. «Люди быстро поняли, как сама атомная бомба косвенно изменила всё существование человека во Вселенной», — отметил Бернал. Было ясно, что применение бомбы помогло положить конец разрушительной войне, но гораздо менее ясно было, как именно проявятся предполагаемые положительные результаты применения этой технологии. Надежда населения на эту технологию оставалась слабой, даже несмотря на то, что официальные лица настаивали на её всеобщем освобождении и процветании. Причина этого, по мнению Бернала, заключалась в том, что «хотя у людей может быть мало опыта поведения атомов, у них есть значительный опыт поведения людей, как коллективно, так и индивидуально».
Бернал отметил, что в прошлом научные достижения всегда способствовали «уничтожению человечества», и эта история не сулит ничего хорошего «для благотворного использования этих более могущественных сил».
В противовес предложению президента Гарри С. Трумэна о том, что правительство США должно быть «попечителями этой новой силы», Бернал, член Коммунистической партии Великобритании, утверждал, что контроль над новыми технологиями должен осуществляться всем человечеством, а не только одним правительством или даже, как предлагал Кирчвей, консорциумом правительств. «Доброй воли недостаточно», — предупреждал ученый, — для руководства масштабными цивилизационными усилиями по освоению «концентрации энергии, в миллион раз превышающей любую из ранее существовавших».
К октябрю 1945 года поддержка журналом The Nation идеи мирового правительства как практического решения проблемы потенциально смертоносного оружия несколько ослабла. Когда на конференции по этому вопросу, состоявшейся в небольшом городке в Нью-Гэмпшире, прозвучал призыв к созданию мирового правительства, в редакционной статье The Nation эта идея была названа на данный момент неосуществимой, даже фантастической, не в последнюю очередь потому, что сброс атомной бомбы обострил растущую напряженность между Западом и Советским Союзом, тогда как ее ослабление было бы необходимо для международных усилий по использованию мощи бомбы. По обе стороны конфликта, отмечал The Nation , «непосредственные опасения по поводу возможного врага политически более сильны, чем более отдаленные опасения по поводу атомного уничтожения».
Аналогичная динамика наблюдается и сегодня, когда компании и правительства, стремительно движущиеся в будущее, где доминирует искусственный интеллект, заявляют, что без внешнего регулирования они не могут позволить себе замедлить темпы, в то время как другие продолжают двигаться вперед. Непосредственные опасения корпоративных и геополитических противников сильнее, чем сравнительно отдаленный страх перед тотальным уничтожением, вызванным искусственным интеллектом.
В ноябре 1945 года в журнале появилось короткое эссе, посвященное обзору нескольких недавно изданных книг, затрагивающих развитие атомной энергетики. Бенджамин Харроу, химик и научный писатель, отметил, что «никогда прежде так много прекрасных научных открытий не объединялось, чтобы достичь одной ошеломляющей кульминации». Возможности были поразительны, как в хорошем, так и в плохом смысле: «При каталитическом толчке в одном направлении это должно принести счастье человечеству, но при толчке в неправильном направлении это вполне может означать конец нашей планеты».
Прочитайте эти статьи, чтобы понять, как быстро аргументы перешли от амбициозных и обнадеживающих решений к узким и в конечном итоге временным. Наблюдая за нынешней гонкой за созданием все более совершенных моделей ИИ, стоит вспомнить, что стало с надеждами 1945 года. Международное сотрудничество, к которому призывали Кирхвей и Бернал, было поглощено в течение нескольких месяцев политикой холодной войны, которая не раз ставила мир на грань уничтожения. Даже тогда судьба мира оставалась в руках людей. Кто-то должен был отдать приказ, и в нескольких важных случаях кто-то отказался .
С появлением ИИ мы готовимся отказаться даже от последней крупицы контроля. Прекращение этих усилий по развитию сейчас потребовало бы колоссальных глобальных усилий, к которым призывали Кирхвей и другие в 1945 году. Увы, сегодня у нас еще больше опыта «поведения людей, как коллективного, так и индивидуального», как выразился марксистский ученый Дж. Д. Бернал в своем эссе « Нация после Хиросимы », и трудно питать большие надежды на то, что эта новая технология будет использована в благих целях.
Комментариев нет:
Отправить комментарий