Дело в ИИ: Mythos заставил договариваться, или зачем Трамп в Китай едет
В преддверии визита президента США Дональда Трампа в Китай обе страны начали предварительные обсуждения о создании экстренного канала связи по вопросам искусственного интеллекта — как пишет Los Angeles Times, на фоне растущих опасений вокруг новой ИИ-модели Mythos от американской компании Anthropic. Вашингтон и Пекин, пишет издание, все серьезнее рассматривают риски, связанные с развитием наиболее мощных систем искусственного интеллекта.
Трамп посетит Китай с 13 по 15 мая. Ранее о том, что частью его саммита с председателем КНР Си Цзиньпина могут стать обсуждения вокруг опасений из-за ИИ, писал Reuters.
По данным Los Angeles Times, первые контакты между Вашингтоном и Пекином по теме ИИ начались еще в 2023 году во время встречи Си Цзиньпина и на тот момент возглавлявшего США Джо Байдена в калифорнийском Вудсайде. Тогда стороны договорились начать дипломатические консультации и обсудить создание своего рода «красного телефона» для экстренной связи по вопросам ИИ.
Предметные переговоры стартовали в 2024 году в Женеве, однако быстро столкнулись с взаимным недоверием. Американская сторона пыталась обсуждать риски потери контроля над ИИ-системами, тогда как китайская делегация сосредоточилась на критике экспортных ограничений США на поставки технологий и чипов.
«Они естественным образом воспринимают любые американские инициативы, связанные с ограничениями, как ловушку», — заявил газете бывший советник президента США по нацбезопасности Джейк Салливан.
Несмотря на разногласия, в ноябре 2024 года на саммите в Перу сторонам удалось достичь ограниченного соглашения: США и Китай договорились не передавать управление ядерным оружием системам искусственного интеллекта.
После прихода к власти Трампа диалог практически остановился. По словам Салливана, новая администрация изначально делала ставку прежде всего на технологическое превосходство США и не проявляла большого интереса к переговорам по регулированию ИИ.
Однако в последние недели ситуация изменилась. По информации LA Times, перед грядущим визитом Трампа в Китай представители двух стран начали тихие консультации о возможном возобновлении переговоров. Поводом стала модель Mythos, которую в американском правительстве и технологической индустрии рассматривают как потенциально крайне опасный инструмент для кибератак.
Издание пишет, что возможности Mythos вызвали тревогу как в Вашингтоне, так и в Пекине. По оценкам источников газеты, модель способна проникать в цифровые коммуникационные системы коммуникационные системы, включая государственные базы данных, финансовые структуры, а также медицинские сети, и использовать их уязвимости. В апреле Белый дом даже провел отдельные консультации с главой Anthropic Дарио Амодеи по поводу этой модели. А министр финансов Скотт Бессент предлагал рассмотреть возможность государственного анализа наиболее мощных ИИ-моделей перед их выпуском.
Однако сама идея усиления надзора вызвала резкую реакцию в Кремниевой долине. В ответ Белый дом был вынужден отдельно подчеркнуть, что любые проверки со стороны государства будут исключительно добровольными.
При этом Вашингтон продолжает рассматривать Пекин как главного стратегического конкурента в сфере искусственного интеллекта. Еще несколько лет назад США были уверены в существенном технологическом отрыве от Китая, однако теперь многие аналитики считают, что разрыв быстро сокращается. Кроме того, в США следят за обвинениями в адрес китайских компаний в копировании американских ИИ-разработок.
При этом внутри США нет единого мнения о необходимости переговоров с Китаем. Как отмечает LA Times, многие рассматривают развитие ИИ как гонку, в которой победитель получает решающее технологическое преимущество.
«Логика заключается в том, что это гонка, где победитель получает все», — заявил директор Wadhwani AI Center при Center for Strategic and International Studies Аалок Мехта.
По данным LA Times, крупнейшие американские компании — OpenAI, Google, Anthropic, Microsoft и Meta — сейчас конкурируют за создание так называемого AGI (artificial general intelligence), то есть ИИ, способного выполнять любые интеллектуальные задачи на уровне человека.
Китай, как пишет издание, придерживается другой стратегии. Пекин делает ставку не столько на создание универсального сверхинтеллекта, сколько на внедрение ИИ в отдельные отрасли экономики — промышленность, робототехнику и инфраструктуру.
Эксперты, опрошенные LA Times, считают, что потенциальные переговоры между США и Китаем по ИИ окажутся значительно сложнее соглашений по ядерному оружию времен холодной войны. Речь может идти не только о рисках для мировой финансовой системы, но и о возможности попадания мощных ИИ-инструментов в руки хакеров, террористов или разработчиков биологического оружия.
Кроме того, Вашингтону и Пекину в перспективе пришлось бы обсуждать использование ИИ в вооруженных силах — одну из самых чувствительных тем для двух крупнейших геополитических соперников мира.
