Власти США блокируют доступ иностранцев к самому мощному ИИ от Anthropic
Правительство США распорядилось приостановить доступ к продвинутым моделям искусственного интеллекта (ИИ) Claude Fable 5 и Mythos 5 для всех иностранных граждан, находящихся на территории страны и за ее пределами, в том числе зарубежных сотрудников компании Anthropic, которая их производит. Как сообщила фирма в заявлении, причиной решения были названы проблемы с кибербезопасностью, угрожающие, по мнению властей, национальным интересам.
В Anthropic отметили, что в итоге временно отключили Claude Fable 5 и Mythos 5 для всех клиентов, чтобы выполнить требования. По информации корпорации, правительство предоставило «лишь устные доказательства» потенциального узконаправленного и нераспространенного метода взлома, который производится за счет запроса у модели проверки ее базового кода на ошибки.
В компании-разработчике изучили демонстрацию этого конкретного метода, который использовался для выявления небольшого количества ранее известных незначительных уязвимостей. Все они «относительно просты», по информации Anthropic, другие «общедоступные модели» также способны их обнаружить «без необходимости обхода системы».
«Мы не согласны с тем, что обнаружение потенциальной узкой лазейки в системе безопасности должно стать поводом для отзыва коммерческой модели, с которой работают сотни миллионов человек», — говорится в заявлении компании.
В Anthropic уточнили, что ни один поставщик ИИ-моделей не может гарантировать полное отсутствие так называемых джейлбрейков — обхода защитных механизмов моделей.
Более того, при выпуске Fable 5 в начале июня разработчики заявили, что в будущем могут быть найдены универсальные джейлбрейки. При этом за несколько недель перед запуском модели проводились совместные тесты на уязвимости с правительством США, Агентством по кибербезопасности Великобритании, несколькими частными сторонними организациями и внутренними командами.
Эти тесты, по словам представителей компании, показали, что средства защиты Fable значительно эффективнее, чем у любой из ранее использовавшихся моделей. Ни одному тестировщику в ходе проверок не удалось найти универсальный способ обхода защиты.
«Мы внедрили надежные меры защиты, которые значительно снижают вероятность неправомерного использования Fable для решения задач, связанных с кибербезопасностью. На самом деле наши меры защиты настолько надежны, что многие пользователи жалуются на их чрезмерную строгость», — подчеркнули в Anthropic.
В компании принесли извинения клиентам за произошедшее и заявили о работе над восстановлением доступа. Несмотря на то, что обе модели были созданы на одной и той же технической основе, широкой публике была представлена только Fable 5. Она накладывает гораздо более строгие ограничения на типы вопросов, которые могут задавать пользователи, особенно на вопросы, связанные с кибербезопасностью и биологией, подчеркивает NBC News.
Mythos 5, в свою очередь, была представлена без таких ограничений избранной группе доверенных партнеров, в том числе ключевым компаниям в сфере кибербезопасности и инфраструктуры, дополняет телеканал. Как писал ранее RTVI.US, возможности Mythos всерьез напугали не только США, но и Китай. ИИ способен взламывать государственные базы, финансовые системы и медицинские сети, выявляя их уязвимости.
Решение Anthropic приостановить доступ пользователей к платформам стало первым случаем, когда ведущая компания в сфере искусственного интеллекта отключила общедоступную модель из-за вмешательства федерального правительства, уточняет NBC News.
Действия американских властей в отношении Anthropic свидетельствуют об усилении стремления Вашингтона рассматривать передовые системы искусственного интеллекта как инструмент обеспечения национальной безопасности, пишет Axios. По информации издания, министр торговли США Говард Лютник направил письмо генеральному директору компании Дарио Амодею, в котором сообщил, что модели будут подлежать экспортному контролю.
Это уже второй случай, когда администрация Трампа принимает меры в отношении этой технологической компании, пишет The New York Times (NYT). Газета упомянула «напряженные переговоры» в марте нынешнего года о том, как искусственный интеллект от Anthropic может быть использован в военной и разведывательной сферах.
Пентагон заявил тогда, что считает корпорацию «неприемлемым источником риска», что не позволяет федеральным агентства пользоваться ее инструментами, отмечает издание.
