В Google предложили создать международный регулятор в сфере ИИ
Соучредитель и генеральный директор Google DeepMind и Isomorphic Labs, нобелевский лауреат Демис Хассабис призвал США выступить с инициативой по созданию новой организации для надзора за искусственным интеллектом (ИИ). Он подчеркнул, что ведомство должно обладать правом на проверку самых продвинутых в мире моделей и координировать замедление их развития в масштабах всей отрасли, если появится любая опасность.
В своей статье на Substack Хассабис отметил, что США могут возглавить разработку системы стандартов для ИИ. Он предложил создать орган по образцу государственно‑частного партнерства под федеральным надзором — с участием независимых технических экспертов и представителей открытого исходного кода.
В пример он привел уже существующее в Соединенных Штатах Управление по регулированию финансовой индустрии (Financial Industry Regulatory Authority, FINRA), которое работает по схожей модели. Также он упомянул экономическое и технологическое положение США, благодаря которому страна «имеет все возможности» для того, чтобы сделать первый шаг в разработке подобной системы.
«Эта инициатива, выдвинутая США, станет хорошей отправной точкой для создания общих международных стандартов в области передового искусственного интеллекта. <…> В идеале эта система подтолкнет международное сообщество к достижению консенсуса в вопросе управления наиболее серьезными рисками», — подчеркнул Хассабис.
Как отметил эксперт, передовые модели создают угрозы для кибербезопасности. Он не исключил также по мере их развития появление рисков, связанных с биологическим и ядерным оружием. Именно для предотвращения таких угроз и должна быть создана новая организация, уверен Хассабис.
Согласно предложению гендиректора Google DeepMind, в качестве первого правила необходимо установить добровольное предоставление ИИ-моделей на оценку новому органу за 30 дней до выпуска, а после проверки эффективности такого механизма — сделать процедуру обязательной для выхода на рынок Соединенных Штатов.
«Орган по стандартизации будет отвечать за разработку протоколов оценки и сотрудничество с соответствующими федеральными агентствами и национальными лабораториями США для проведения испытаний в областях, имеющих отношение к национальной безопасности», — заявил Хассабис.
Помимо технических задач, предстоит решить экономические и философские вопросы, считает нобелевский лауреат. Он отметил важность построения новых экономических моделей и понимания, как изменится роль человека при развитии технологий.
Особенное внимание он уделил появлению общего искусственного интеллекта (Artificial General Intelligence, AGI) — системы, обладающей всеми когнитивными способностями человеческого мозга. По мнению Хассабиса, это будет «поворотный момент в истории человечества», до которого, вероятно, «осталось всего несколько лет».
Сам он сравнил появление подобной модели с сингулярностью — гипотетическим моментом в будущем, когда развитие технологий достигнет такого уровня, который станет неуправляемым и недоступным для человеческого понимания.
В интервью Axios Хассабис добавил, что пришло время для более «системного» подхода к регулированию ИИ. Сегодняшние кибер-риски, связанные с искусственным интеллектом, по мнению главы проекта Gemini в Google, это «предупредительные выстрелы». Более серьезные опасности могут проявиться в течение 18 месяцев, считает он. Эксперт связал это с существованием моделей с открытым исходным кодом, которые неподконтрольны ни одному правительству.
Именно поэтому Хассабис несколько месяцев втайне заручался поддержкой плана по созданию единого регулятора ИИ, информируя администрацию президента США Дональда Трампа, коллег из других лабораторий и европейских чиновников, прежде чем объявить о проекте публично, пишет издание.
«Импровизированные репрессивные меры администрации Трампа в отношении моделей Mythos и Fable от Anthropic в прошлом месяце стали «своего рода тревожным звонком», по словам Хассабиса, и доказательством того, что Вашингтону нужно нечто более основательное, чем ситуативные директивы», — уточняет Axios.
Напомним, правительство США из-за опасений по поводу безопасности в июне распорядилось приостановить доступ к продвинутым ИИ-моделям Claude Fable 5 и Mythos 5 для всех иностранных граждан, находящихся на территории страны и за ее пределами, в том числе зарубежных сотрудников компании Anthropic, которая разрабатывала эти нейросети.
