«Почти как конституция»: Трамп и техногиганты договорились о контроле за ИИ
Президент США Дональд Трамп и руководители крупнейших американских технологических компаний подписали добровольное соглашение о мерах безопасности при разработке искусственного интеллекта (ИИ). Документ предусматривает несколько уровней внутреннего и внешнего контроля за наиболее мощными ИИ-системами. Сам Трамп назвал договоренности «морально обязывающими» и сравнил их с конституцией.
Соглашение было достигнуто по итогам встречи президента с представителями технологической индустрии в Белом доме. Среди ее участников были глава Meta Марк Цукерберг, основатель SpaceX Илон Маск, глава Google Сундар Пичаи, гендиректор Anthropic Дарио Амодеи, руководитель Nvidia Дженсен Хуанг и президент OpenAI Грег Брокман.
«Это почти как конституция, в некотором смысле», — заявил Трамп после встречи.
Компании договорились создать четыре уровня контроля за разработкой ИИ, уточняет Associated Press (AP). В частности, разработчики должны проводить внутреннюю оценку рисков своих систем, привлекать независимых внешних аудиторов, а также предоставлять отчеты советам директоров для отдельного рассмотрения.
Цукерберг рассказал, что соглашение предполагает создание «надежных механизмов внутреннего контроля» для выявления возможных проблем с технологией. Проверки будут начинаться внутри самих компаний, после чего к ним должны подключаться независимые аудиторы и эксперты.
«Я вижу огромное саморегулирование. И они понимают, что должны сами себя контролировать», — сказал Трамп.
При этом соглашение носит добровольный характер и не предусматривает юридической ответственности компаний за нарушение взятых обязательств. Трамп назвал документ «морально обязывающим». Полный механизм реализации договоренностей пока остается неясным.
Глава Anthropic Дарио Амодеи, который неоднократно предупреждал о возможных рисках быстрого развития ИИ, после встречи заявил, что считает угрозы технологии реальными.
«Я думаю, что у технологии есть вполне реальные риски. Механизм того, как мы будем справляться с этими рисками, все еще обсуждается», — сказал он.
От «больного заговора» до контроля
Ранее RTVI рассказывал о растущих угрозах в отношении возможных последствий ИИ. По самым «алармическим» прогнозам искусственный интеллект может в ближайшие годы выйти из-под контроля, захватить реальные ресурсы и в конечном счете даже уничтожить человечество. Эти опасения объединяют представителей полярных политических кругов в США.
Трамп при этом еще недавно занимал, мягко скажем, скептическую позицию по отношению к подобным опасениям. Соответствующие утверждения он называл обманом, мистификацией, «больным заговором» и сравнивал с предупреждениями об опасности климатических изменений.
Одновременно президент выступал против приостановки разработки наиболее мощных систем, утверждая, что это даст преимущество Китаю. Как писал RTVI, ранее в сентябре Трамп объявил о создании в США «ИИ-сил» (AI Force) и назвал искусственный интеллект следующей промышленной революцией, способной в будущем обеспечить до четверти американского ВВП.
Впрочем, новое соглашение, похоже, не означает, что администрация отказалась от курса на ускоренное развитие технологии. Трамп после встречи вновь выступил в поддержку строительства дата-центров, необходимых для работы ИИ, и подчеркнул значение отрасли для американской экономики.
Одновременно с соглашением о контроле над ИИ Трамп подписал указ, предписывающий федеральным ведомствам отказаться от термина «искусственный интеллект» (Artificial Intelligence, AI) и вместо него использовать «суперинтеллект» (Super Intelligence, SI). Согласно документу, Белый дом считает, что новое название лучше отражает возможности и потенциал современных систем.
Федеральные ведомства должны перейти на термин Super Intelligence в официальной переписке, публичных заявлениях, отчетах и других документах. В течение 60 дней советник президента по науке и технологиям должен также подготовить предложения по закреплению нового определения в законодательстве.
