Он предупреждал об опасностях искусственного интеллекта. Если бы только его отец прислушался.
Бен Райли случайно обнаружил, что его отец говорил неправду о своей болезни (раке).
Прошлым летом он сидел за кухонным столом в своем доме в Остине — светлом новостройке с белыми стенами и бетонными полами — когда решил заглянуть в личный кабинет отца в MyChart. Он рассеянно пролистывал страницы с результатами анализов и записями врачей на своем ноутбуке, пока одна фраза не привлекла его внимание.
«Я ясно дал понять, что чем дольше он будет откладывать лечение, тем меньше шансов на его успешное завершение», — написал врач. «Естественное течение его болезни — смерть и истощение».
Записка не имела смысла. Бен знал, что у его 75-летнего отца хронический лимфоцитарный лейкоз, разновидность рака белых кровяных клеток, который часто развивается медленно. Но его отец, Джо Райли, заверил семью, что начинать лечение не срочно. Он, конечно же, не передал предупреждение своего врача о том, что приближается опасный срок.
Бен, охваченный паникой, быстро пролистал еще несколько записей. Онколог рекомендовал лечение в течение 10 месяцев. С каждой страницей его мольбы становились все более отчаянными. Но Джо был убежден, что лекарства принесут больше вреда, чем пользы.
«Мы обсудили, что лечение может замедлить и, возможно, остановить прогрессирование его ХЛЛ, что даст ему больше времени, чтобы побыть с семьей, как он того желает», — говорилось в другой записке.
«Он ответил, что не планирует начинать лечение, даже если болезнь будет продолжать прогрессировать».
Бен прекрасно понимал, что не стоит спорить со своим отцом, нейробиологом на пенсии, который крайне негативно относился к любому, кто ставил под сомнение его интеллектуальные способности. Ему нужна была дополнительная информация, план, чтобы убедить Джо, который, по всей видимости, умирал от рака за тысячи километров от него, в Сиэтле.
Он с тревогой следил за личным кабинетом своего отца, пытаясь решить, что делать, когда появилось новое сообщение. Джо отправил своему онкологу результаты своих исследований с использованием ИИ, что, по всей видимости, являлось доказательством его решения отказаться от лечения.
Иисус Христос, подумал Бен. Он не упустил из виду мрачную иронию ситуации. Годом ранее он запустил информационный бюллетень, чтобы помочь людям принимать более взвешенные решения о том, когда и как использовать генеративный ИИ. Он писал о том, как эти инструменты ввергли людей в бредовые состояния и помогли подростку покончить с собой . Теперь же, похоже, ИИ сбил с пути истинного его собственного отца.
Он отправил своим двум братьям и сестрам сообщение: «Нам нужно поговорить».
49-летний Бен до недавнего времени не проявлял особого интереса к искусственному интеллекту. Ему эта технология казалась лишь материалом для научно-фантастических фильмов вроде «Она» и «Ex Machina».
Его больше интересовали люди. После недолгой работы на Уолл-стрит, а затем в качестве юриста в Министерстве юстиции Калифорнии, Бен прочитал книгу известного когнитивного ученого, которая заставила его изменить свою карьерную траекторию.
Он начал жадно читать на темы , которые могли бы помочь ему понять человеческий разум — нейробиологию, лингвистику, философию, антропологию — и считал себя «самоучкой в области когнитивной науки». В 2015 году он основал некоммерческую организацию, целью которой было обучение учителей когнитивной науке, чтобы они лучше понимали, как думают и учатся их ученики.
Однако появление генеративного искусственного интеллекта изменило его взгляд на эту технологию. Оно открыло окно в многие вопросы, которым он посвятил большую часть своей карьеры: что делает нас людьми? Что такое человеческое мышление?
Он решил запустить информационный бюллетень Cognitive Resonance, который будет использовать когнитивные науки, чтобы «объяснить искусственный интеллект обычному человеку».
Его отец был одним из первых подписчиков.
К тому моменту Джо уже хорошо разбирался в искусственном интеллекте. Для Бена это не было неожиданностью. Его отец всегда был одним из первых, кто осваивал новые технологии.
В то время как другие семьи еще слушали кассеты, в их доме был CD-проигрыватель. Во время поездок он и его братья и сестры сидели на заднем сиденье семейного Dodge Caravan и смотрели фильмы на самодельной развлекательной системе, которую Джо смастерил.
Дома у них был Commodore Amiga, громоздкий персональный компьютер, с которым Джо «обращался как с ребенком», — сказал Бен.
Так продолжалось до тех пор, пока однажды Бен не вернулся из школы и не обнаружил, что компьютера нет. Власти изъяли его после того, как Джо незаконно взломал телефонную сеть , чтобы подключиться к «электронной доске объявлений», предшественнице интернета. Бен вспоминал, что во время суда он отказался извиняться, упрямо настаивая на том, что «информация хочет быть свободной».
В конце 1970-х годов Джо был многообещающим молодым нейробиологом в Университете Стоуни-Брук. Но в середине тридцатых годов его внезапно поразила загадочная хроническая болезнь, которая в хорошие дни вызывала у него ощущение гриппа, а в плохие — чувство, будто его нервная система горит. Врачи предположили, что у него какой-то энцефалит, но мало чем могли помочь.
Не в силах больше справляться с требованиями своей работы, он начал жить на пособие по инвалидности и направил свою ненасытную любознательность на другие занятия: издание информационного бюллетеня о суфийской поэзии, тщательное исследование убийства Джона Ф. Кеннеди и изучение новых технологий.
Поэтому, когда генеративный искусственный интеллект начал набирать популярность, Джо начал экспериментировать. Это стало общим интересом для Бена и Джо.
Они спорили о том, смогут ли модели когда-нибудь стать по-настоящему разумными или как правительства будут обуздывать ИИ, и время от времени сталкивались во мнениях о рисках. Джо был скорее удивлен, чем обеспокоен, в то время как Бен был явно более скептичен: «Ты не так сильно беспокоишься об опасностях, которые здесь существуют, как я?» — спросил он отца в электронном письме в 2023 году. Джо, похоже, не был обеспокоен.
По словам младшего брата Бена, Джеймса Райли, он, казалось, находился в «постоянном диалоге» с искусственным интеллектом. Ему особенно нравилась Perplexity, поисковая система на базе ИИ, которая гордится тем, что ссылается на авторитетные источники и выдает ответы, которым « действительно можно доверять », по словам генерального директора компании (в декабре The New York Times подала в суд на Perplexity, обвинив компанию в нарушении авторских прав на новостной контент, связанный с системами ИИ. Компания отрицает эти обвинения).
Джо часто использовал функцию преобразования голоса в текст, чтобы бормотать вопросы в приложения с искусственным интеллектом на своем телефоне.
«Папа, это довольно сложный искусственный интеллект», — вспомнил Джеймс свои слова. Джо отмахнулся, сказав, что это ничем не отличается от Google.
Джо обратился в Perplexity за советом по поводу ипотеки. Он использовал это приложение, чтобы узнать расписание матчей бейсбольной команды Seattle Mariners. Он также попросил программу обобщить результаты научных исследований для своих любимых проектов.
Когда в 2024 году у него диагностировали рак, он тоже начал об этом спрашивать.
Его врач назвал это ситуацией из разряда «беда не приходит одна».
Джо только что закончил курс лучевой терапии по поводу рака легких на ранней стадии — диагноз которого ему поставили одновременно с лечением — когда у него резко обострились симптомы хронического лимфолейкоза: озноб, мышечные боли, истощение. Пора начинать лечение, сказал Джо доктор Эдди Марзбани, его онколог из Онкологического центра Фреда Хатча, на приеме в августе 2024 года.
Преимуществом было то, что у него были хорошие варианты. За последнее десятилетие новый класс «чудодейственных лекарств» настолько произвел революцию в лечении лимфомы, что некоторые исследователи были уверены, что лежащая в их основе наука однажды получит Нобелевскую премию.
При медикаментозном лечении он мог бы прожить несколько лет, если не десять, прежде чем хронический лимфоцитарный лейкоз проявился бы вновь.
Джо уважал своего врача, даже симпатизировал ему. Но десятилетия жизни с хроническим заболеванием заставили Джо скептически относиться к системе здравоохранения. Он хотел об этом подумать.
В следующий раз, когда доктор Марзбани увидел Джо, что-то, казалось, изменилось.
Он вернулся с убеждением, что у него развилась трансформация Рихтера — редкое осложнение, возникающее, когда относительно безобидный рак внезапно превращается в более агрессивный и опасный. Хуже того, он был убежден, что лечение, рекомендованное доктором Марзбани, усугубит трансформацию Рихтера и сократит ему жизнь.
Уверенность Джо в себе озадачила доктора Марзбани.
«У него действительно не было никаких признаков или симптомов этого», — сказал доктор Марзбани в интервью The New York Times. «Ничего в результатах его лабораторных исследований не указывало на это, ничего на основании данных компьютерной томографии».
Каждый визит к врачу, казалось, следовал предсказуемому циклу: Джо поднимал вопрос о показателе Рихтера, доктор Марзбани тщательно рассматривал все причины, по которым у него его нет, и Джо соглашался пойти домой и подумать об этом.
Доктор Марзбани перепробовал все возможные стратегии, чтобы переубедить Джо. Он предлагал разные варианты лечения. Он объяснил, что лекарства позволят ему проводить больше времени с семьей, чего, как он знал, Джо отчаянно хотел.
В конце концов, он указал на ошибку в логике Джо: без лечения большинство людей с болезнью Рихтера умирают в течение шести месяцев после постановки диагноза. «Если бы у тебя была болезнь Рихтера, когда ты мне сказал, что у тебя она есть, ты бы уже был мертв!» — умолял он.
Всё это, казалось, не имело никакого значения.
Хотя доктор Марзбани об этом не знал, Джо регулярно задавал вопросы о своем раке нескольким инструментам генеративного искусственного интеллекта, которые часто испытывают трудности с предоставлением точных медицинских рекомендаций . Он просил их перечислить ранние признаки болезни Рихтера, интерпретировать результаты анализов и объяснить сложные исследования, касающиеся лечения, рекомендованного его врачом. Он знал, что нельзя полностью доверять ИИ. Он часто читал научные статьи, на которые ссылались инструменты, и — насколько это было возможно без медицинского образования — пытался убедиться, что они соответствуют тому, что говорили инструменты.
Он ушел оттуда с таким чувством уверенности в своем понимании науки, что отказ от лечения казался очевидным выбором.
«Мой лечащий врач немного на меня зол», — написал Джо Бену примерно в то же время.
«Я усомнился в его первоначальном диагнозе и оказался прав», — добавил он, хотя это и не совсем так. «Кстати, что бы ни говорили об ИИ, удивительно, как многому можно научиться за неделю-две с помощью правильно подобранных программ на основе ИИ».
К лету 2025 года состояние Джо значительно ухудшилось. Он набрал 80 фунтов (около 36 кг) из-за стероидов, которые принимал для облегчения симптомов. Лимфатические узлы по всему телу опухли, в том числе один на шее, из-за которого ему было больно двигать головой. Количество лейкоцитов в его крови было в 10 раз выше, чем когда доктор Марзбани впервые начал рекомендовать лечение, что свидетельствовало о быстром распространении рака.
Время, отведенное Джо на лечение, быстро сокращалось. Чем слабее становился Джо, тем меньше вероятность того, что он будет переносить лекарства. Доктор Марзбани решил поговорить с ним об этом.
«Почему вы так считаете?» — вспоминал он свой вопрос, заданный Джо во время одной из встреч. — «Откуда это взялось?»
Джо прислал ему исследовательский отчет, который он создал с помощью программы Perplexity.
В течение нескольких недель после того, как Бен увидел этот отчет в медицинской карте своего отца, его беспокойство переросло в гнев. Он сказал, что чувствовал, будто они с отцом живут в разных реальностях, без «общего понимания того, что истинно, а что ложно».
После каждого визита к врачу Джо отправлял в семейный групповой чат сообщение с обновленной информацией о своем состоянии здоровья. Затем Бен проверял личный кабинет пациента, чтобы прочитать недостающие детали.
Бен позвонил в онкологический центр и умолял медсестру добавить больше информации в его медицинскую карту: «Я знаю, что вы ничего не можете сказать, — ответил он. — Но мы можем посмотреть его карту. Если нам нужно что-то узнать, мы это прочитаем».
Бен и его брат еще не договорились, как поговорить с отцом: Джеймс, работавший психологом, опасался, что конфронтация оттолкнет его. Бен же считал, что у них нет времени ни на что другое.
Они сошлись во мнении лишь в одном: Джо оказался ненадёжным рассказчиком. Теперь им нужно было услышать это напрямую: если их отец отказывается от лечения, сколько ему осталось жить?
Однажды жарким июльским утром Бен позвонил отцу и попросил его подписать отказ от претензий, который позволил бы доктору Марзбани поговорить с остальными членами семьи.
Когда Джо отказался, Бен почувствовал, как в нем закипает ярость. Он накричал на отца за то, что тот принимает решения, от которых зависит жизнь или смерть, основываясь на отчете «Замешательство», который может быть «наполнен галлюцинациями». Затем Бен повесил трубку.
Этот звонок лишь укрепил уверенность Джо.
«Доказательства совершенно очевидны», — написал Джо Бену вскоре после этого, прикрепив одну из статей, на которые ссылалась компания Perplexity в своем отчете, и саркастически добавив: «Вот эта „галлюцинация“».
Бен открыл газету, которая была переполнена медицинской терминологией.
«Я не собираюсь притворяться онкологом», — парировал он.
Вся эта затея показалась Бену нелепой. Он и его отец — два человека, никогда не учившиеся в медицинском вузе, — теперь спорили о исследованиях рака. При этом его отец игнорировал советы настоящего эксперта.
« Что я делаю?» — подумал он. «Вот для чего нужны врачи, врачи- люди ».
Затем он вспомнил предупреждения многих чат-ботов, призывавшие пользователей всегда перепроверять результаты. Он достал свой компьютер и в «праведном гневе» отправил электронные письма двум ведущим экспертам по болезни Рихтера, чьи исследования были процитированы в отчете, сгенерированном искусственным интеллектом.
«Приношу свои извинения за неожиданное электронное письмо, — написал он. — Но состояние моего отца быстро ухудшается, и я не знаю, как отреагировать на его интерпретацию обзора исследований в области онкологии, подготовленного с использованием ИИ».
Он прикрепил отчет к электронному письму, которое доктор Дэвид Бонд открыл несколько часов спустя из своего офиса в Огайо. На первый взгляд, это выглядело как хорошо составленный научный отчет.
Но чем внимательнее доктор Бонд читал, тем более нелогичным становилось все изложенное. В отчете содержались авторитетные утверждения и в качестве доказательств приводятся исследования, которые, по его мнению, «лишь косвенно связаны с темой». В нем упоминались проценты, которые, по-видимому, были полностью выдуманы. Краткое изложение исследования доктора Бонда было для него совершенно неузнаваемым.
В своем заявлении представитель Perplexity сообщил, что компания по-прежнему твердо привержена «повышению точности лучших в мире моделей искусственного интеллекта».
Доктор Бонд и другой автор исследования ответили в течение нескольких часов, призвав Джо прислушаться к своему онкологу. В тот же вечер Бен снова позвонил отцу и, вспомнив свои навыки юриста, изложил факты: три врача независимо друг от друга согласились, что отчет Perplexity ввел его в заблуждение.
«Ты действительно думаешь, что знаешь больше, чем они все, благодаря этому дурацкому отчету об ИИ?» — вспомнил Бен свой вопрос.
«Да», — твердо ответил Джо.
Бен начал сомневаться, возможно ли убедить кого-либо в несовершенстве искусственного интеллекта, на чем он во многом основывал свою новую карьеру. «Если я не смогу убедить своего отца, смогу ли я убедить кого-нибудь еще?»
В конце концов, именно ухудшение здоровья Джо подтолкнуло его к попытке лечения.
Его ноги распухли, кожа на них стала тонкой, как бумага, и покрылась язвами, расползавшимися по икрам. Иногда сидеть было так больно, что он хныкал и кричал.
Когда короткая прогулка между кроватью и коричневым креслом в гостиной стала слишком утомительной, он начал спать в кресле. Заботиться о себе стало практически невозможно: в раковине стояли кастрюли с чечевицей, приготовленной несколько дней назад, а по квартире роились плодовые мушки.
Когда ему нужно было выйти из дома на прием к врачу, он очень медленно поднимался по лестнице, морщась на каждой ступеньке.
К тому времени, когда Джо в сентябре прошел первый курс лечения от рака — более чем через год после того, как доктор Марзбани первоначально рекомендовал его, — раковым клеткам так долго позволяли распространяться бесконтрольно, что их уничтожение вызвало у него шок, заставив его сильно хрипеть и дрожать.
Несколько месяцев назад Джо, возможно, смог бы это выдержать. Но теперь он чувствовал себя слишком слабым. После нескольких инфузий он сказал своему врачу, что ему нужен перерыв.
Примерно через неделю Бен полетел навестить своего отца.
В тот визит они вообще не говорили об искусственном интеллекте. Вместо этого они сидели в его гостиной и спорили о квантовой механике. Бен протирал линолеумные столешницы и расставлял ловушки для мух. Пока он убирался, Джо спал в своем кресле.
Бен не разбудил его перед уходом. Он набросал прощальную записку на жёлтом стикере.
«Люблю тебя, папа! Спасибо за чудесный визит», — написал он. «Не лезь в открытый мусор, и мы победим мух! Поговорим, когда я вернусь».
За неделю до Рождества Бену позвонил извиняющийся полицейский. Он обнаружил Джо во время проверки его состояния. Хронический лимфоцитарный лейкоз был указан в качестве одной из официальных причин смерти.
Примерно через две недели после смерти Джо Бен вернулся в Остин, и на кухонном столе рядом с ним стоял пластиковый контейнер, полный книг, которые он вынес из квартиры своего отца. Неподалеку лежала открытка с соболезнованиями от доктора Марзбани: «Я очень уважал его и буду скучать по нашим дружеским беседам».
Бен испытывал особый пессимизм по поводу состояния ИИ. Ему и другим скептикам казалось, что они кричат в пустоту, призывая замедлиться и хорошенько подумать, в то время как остальной мир просто несётся вперёд. Он не только переживал смерть отца, но и прошедший год заставил его усомниться в том, не является ли его профессиональная цель — помогать людям принимать более взвешенные решения в отношении ИИ — бесполезной.
Он решил, что даже если это ничего не изменит, он всё равно напишет о смерти своего отца. Он хотел, чтобы стало известно, кем был Джо Райли и как искусственный интеллект причинил ему вред.
Он сел на свой красный лакированный барный стул и начал писать. Слова легко приходили к нему. Пока он печатал, он думал о смерти Адама Рейна — подростка, о котором он писал несколькими месяцами ранее, который обсуждал свои планы покончить с собой с ChatGPT, — и о шекспировской трагедии, которая сделала его персонажем подобной истории. Представитель Perplexity заявил, что компания «глубоко опечалена потерей мистера Райли».
Бен не пытался упростить произошедшее: «Я не хочу преувеличивать, — написал он . — Я не думаю, что искусственный интеллект убил моего отца».
В мире, где не существовало бы искусственного интеллекта, возможно, Джо — который по умолчанию скептически относился к врачам — всё равно отказался бы от лечения. Его тоже пришлось долго уговаривать попробовать лечение рака лёгких.
«Часть происходящего была связана с психологическими проблемами моего отца», — сказал Бен в интервью газете Times.
Но и ИИ не был совсем безвинен. Джо принимал решения, основываясь на неверной информации, облеченной в форму научной экспертизы. Это была такая дезинформация, которую обычному человеку было практически невозможно распознать, даже такому, как Джо, который, по всем признакам, был идеальным пользователем.
Он хорошо разбирался в технологиях, отличался изрядной долей скептицизма и имел доступ к врачу, который был заинтересован в его лечении.
А у него был сын, который отчаянно нуждался в передумании и был лучше подготовлен, чем большинство.
«Я всегда буду задаваться вопросом, не слишком ли поздно я приложил усилия», — написал Бен в своем эссе. «Конечно, я ничего не могу сделать, чтобы изменить прошлое. Но я, черт возьми, могу продолжать работать над повышением уровня сознания других».
За три месяца, прошедшие с момента публикации Беном того поста, четыре крупные технологические компании выпустили новые инструменты для потребителей в сфере здравоохранения, предлагая пользователям загружать свои медицинские записи и задавать искусственному интеллекту медицинские вопросы. Среди них была и компания Perplexity.
Тедди Розенблут — корреспондент газеты Times, освещающий новости здравоохранения, с особым акцентом на дезинформацию в медицинской сфере.
Комментариев нет:
Отправить комментарий