Иранские пропагандисты используют ChatGPT для обмана американцев перед выборами — отчет
Компания OpenAI, разработавшая ChatGPT, пресекла в этом году пропагандистскую деятельность групп, которые пытались использовать чат-бот для создания контента, связанного с выборами в США и других регионах мира.
В своем отчете компания, в частности, упомянула, что группа Storm-0817, предположительно связанная с иранским правительством, создавала фейковые англоязычные новостные сайты. Эти ресурсы якобы отражали различные политические позиции в американском обществе. ChatGPT также использовался для создания постов в социальных сетях в поддержку поддельных сайтов.
«Ни одна из выявленных нами операций не привела к вирусной популярности или вовлечению аудитории из-за использования ИИ. Социальные сети — сложная среда. Но мы продолжим поиски и будем сообщать о том, что находим», — заявил главный исследователь по разведке и расследованиям в OpenAI Бен Ниммо.
В OpenAI также рассказали, что хакерская группа CyberAv3ngers, аффилированная с Тегераном, нацелилась на предприятия водоснабжения и канализации. Злоумышленники неоднократно пытались использовать чат-бот компании на нескольких этапах своей операции. Их вредоносная деятельность связана с США, Израилем или Ирландией, говорится в отчете. Одну из атак в Пенсильвании в прошлом году связывали с CyberAv3ngers.
Постоянное представительство Ирана при ООН оставило без внимания просьбу NBC News прокомментировать информацию о кибератаке на объекты водоснабжения или пропагандистской операции.
В сентябре представитель американской разведки заявил, что пропагандисты в Китае, Иране и России с помощью искусственного интеллекта генерируют контент, конечной целью которого является обман граждан США в преддверии ноябрьского голосования. За месяц до этого OpenAI отчитывалась о блокировке аккаунтов, которые использовали ChatGPT для создания пропагандистских «длинных статей и более коротких комментариев в социальных сетях».
Помимо этого, компания рассказала, что хакеры, предположительно связанные с Китаем, провели операцию по взлому личной и корпоративной почты сотрудников OpenAI. Их действия, как утверждается, не имели успеха. Это первый случай, когда было публично заявлено, что американская фирма, связанная с деятельностью в области искусственного интеллекта, подверглась фишинговой атаке.
Злоумышленники рассылали электронные письма с прикрепленной к ним вредоносной программой SugarGh0st RAT. В этих письмах некий SweetSpecter представлялся пользователем ChatGPT и просил поддержки у сотрудников.
В мае RTVI.US рассказывал, что OpenAI впервые сообщила, что сорвала тайные операции влияния России и Китая по продвижению пропаганды в соцсетях.
