ИИ нас всех убьет: в США серьезная тревога из-за технологий. Опасения могут сплотить даже левых и правых
Искусственный интеллект (ИИ) может выйти из-под контроля, захватить реальные ресурсы и в конечном счете уничтожить человечество — такие предупреждения звучат уже не только от футурологов, но и от людей, которые сами создают самые мощные ИИ-системы. Опасения дошли и до Вашингтона, причем угроза неожиданно объединила непримиримых политических противников. Подробнее — в материале RTVI.
Во вторник на одном и том же мероприятии к ограничению ИИ одновременно призвали Берни Сандерс (формально независимый сенатор США от штата Вермонт, но по факту один из лидеров левого крыла Демократической партии) и Стив Бэннон, бывший советник президента США, республиканца Дональда Трампа. Организаторы представили Бэннона как одного из лидеров движения Трампа Make America Great Again (MAGA).
Бэннон и Сандерс выступали на конференции Pro-Human Assembly, организованной некоммерческой организацией Future of Life Institute. Как пишет New York Times (NYT), участникам раздавали шляпы со слоганом «Сохраним будущее за человеком», а на экранах подсчитывали количество людей, подписавших «Декларацию в защиту человеческого ИИ» (Pro-Human A.I. Declaration).
На конференции выступали со схожими тезисами, представители, казалось бы, полярных миров: республиканцы и демократы, артисты и родители подростков, покончивших жизнь самоубийством после общения с чат-ботами, евангелисты, мормоны и католики. Их объединяла тревога за то, что будущее могут контролировать не люди, а машины.
Сандерс, в частности, анонсировал, что на следующей неделе совместно с конгрессменом-демократом от Техаса Грегом Касаром внесет законопроект о полном запрете разработки искусственного суперинтеллекта (artificial superintelligence) — гипотетической формы ИИ, которая превзошла бы человека почти во всех когнитивных задачах.
Сразу после него на сцену вышел Бэннон и сказал, что Сандерс «очень хорошо» подытожил риски ИИ. Затем республиканец обвинил руководителей компаний, занимающихся разработкой искусственного интеллекта — по его словам, они пытаются использовать экономические и другие кризисы для собственного благополучия и доминирования на рынке.
«Мы не пессимисты. Но мы не собираемся давать этим ребятам карт-бланш», — сказал Бэннон и призвал к принятию президентского указа о замедлении разработки ИИ.
Он не единственный республиканец, который бьет тревогу из-за развития этих технологий. Ранее конгрессвумен Анна Паулина Луна, представляющая Флориду, написала в соцсетях, что «гонка за суперинтеллектом влечет за собой колоссальные последствия», и призвала созвать специальную сессию, посвященную регулированию ИИ.
В Кремниевой долине предупреждают
На прошлой неделе нашумело заявление разработчика ИИ Джейкоба Коксона, сотрудника Anthropic, раньше работавшего в OpenAI (обе компании — лидеры в этой сфере). Он обвинил Anthropic и OpenAI в безответственности и заявил, что они «играют с нашими жизнями». Коксон спрогнозировал скорое появление «сверхчеловеческих систем», которые смогут не только взломать что угодно, но и захватить реальную власть и ресурсы.
По его словам, разработчики ИИ «всерьез верят», что к концу текущего десятилетия искусственный интеллект может уничтожить человечество.
«Это не маркетинговый трюк. <…> Никакая другая человеческая деятельность не представляет такой опасности», — написал он в X (бывший Twitter).
Его уже бывший коллега Эван Хубингер, работающий в Anthropic, подтвердил, что разработчики «действительно искренне верят», что ИИ может уничтожить человечество. По его мнению, в ближайшие 10 лет этот риск превышает 10%.
«Я считаю, что Anthropic делает все возможное, но у нас пока нет плана по решению проблемы согласованности действий в отношении сверхразума, и мы явно не движемся в этом направлении», — добавил он.
Уже на текущей неделе уволился еще один разработчик ИИ — Билал Чугтай, работавший в Google DeepMind. Он также заявил, что его «крайне беспокоит траектория развития этой технологии». Чугтай призвал к «гораздо большей» прозрачности в разработке ИИ, чтобы гарантировать отсутствие «неприемлемого» уровня риска.
«Я искренне верю, что ИИ может убить нас всех и что у нас, возможно, заканчивается время, чтобы избежать этого, — написал он в X. — Вполне возможно, что в ближайшие несколько лет компаниям, занимающимся искусственным интеллектом, удастся создать сверхинтеллектуальные системы ИИ, которые значительно превзойдут человеческие возможности во всех областях».
Разработчик, однако, добавил, что безопасное развитие ИИ еще возможно, если если технологические компании откажутся от «маниакальной гонки» за созданием все более мощных систем.
К голосам разработчиков присоединились и пресловутые главы ИИ-компаний. В прошлую субботу генеральный директор Anthropic Дарио Амодеи опубликовал эссе, в котором заявил о необходимости замедлить темпы развития искусственного интеллекта и призвал к международному сотрудничеству в его разработке. Он заявил, что его компания в одностороннем порядке начнет привлекать сторонних экспертов для отслеживания возможных рисков. Вскоре с ним публично согласился генеральный директор OpenAI Сэм Альтман и пообещал последовать его примеру.
Основатель Microsoft Билл Гейтс также поддержал идею замедления ИИ. В интервью NDTV он заявил, что человечество пока не готово к последствиям стремительного прогресса в этой сфере.
«Искусственный интеллект — это уникальная технология, и я предостерегаю тех, кто думает, что управлять ее последствиями будет так же легко, как другими технологиями, включая <…> персональные компьютеры и интернет. Это совсем другое — это очень масштабное изменение», — сказал Билл Гейтс.
И даже Илон Маск на этой неделе в подкасте All-In заявил, что у сферы ИИ есть «проблемы с управлением», и предложил позволить крупным компаниям-разработчикам тестировать модели друг друга перед их выпуском.
В Белом доме не верят
В понедельник президент США Дональд Трамп раскритиковал эти опасения сразу в нескольких сообщениях на платформе Truth Social. Озвученные угрозы он назвал мистификацией, за которые якобы ответственны те же люди, которые ранее предупреждали об опасности климатических изменений. Глава Белого дома заявил о «больном заговоре» против ИИ и центров обработки данных, который, по его словам, принесет пользу Китаю.
Трамп также заявил, что у федерального правительства уже достаточно полномочий для регулирования ИИ, и добавил: «конспирологи, изменники, предатели и доносчики, БЕРЕГИТЕСЬ!» А конкретно Амодеи он обвинил в том, что тот притворяется «идеальным маленьким ангелом».
«Утверждение о том, что искусственный интеллект захватит мир, — это обман, как и глобальное потепление, при котором все бы уже вымерли, РОССИЯ, РОССИЯ, РОССИЯ, УКРАИНА, УКРАИНА, УКРАИНА, или обман с импичментом №1 , или обман с импичментом №2», — написано в одном из постов.
В ходе своего выступления на конференции Pro-Human Assembly Берни Сандерс не мог не проехаться по этим заявлениям Трампа.
«Несмотря на жизнь в так называемой демократии, общественность практически не принимала участия в революции искусственного интеллекта, которая преобразует мир. Конгресс, как под контролем демократов, так и республиканцев, бездействовал, и теперь у нас есть президент, чье невежество в этом вопросе поистине позорно», — сказал сенатор.
Газета New York Post, однако, сообщила со ссылкой на источники, что в Белом доме все же рассматривают возможность введения «ограниченных мер защиты» от рисков, связанных с ИИ. При этом о приостановке или существенном замедлении разработки технологии речи не идет: в администрации опасаются, что это поставит под угрозу национальную безопасность США.
По данным издания, Белый дом скорее склоняется к саморегулированию отрасли — например, введению кодекса поведения для ИИ-компаний. Администрация также может поддержать на федеральном уровне отдельные ограничения, подобные принятым в Техасе, в том числе требование к технологическим компаниям самостоятельно оплачивать потребляемые их дата-центрами электроэнергию и воду.
«Президент Трамп ясно дал понять, что хочет закрепить американское доминирование в сфере ИИ, и администрация намерена выполнить это обещание, одновременно обеспечивая безопасность американцев», — заявил изданию представитель Белого дома.
