OpenAI сорвала тайные операции влияния России и Китая по продвижению пропаганды в соцсетях
Компания OpenAI, разработавшая чат-бот ChatGPT, впервые сообщила о разоблачении операций по обманному использованию искусственного интеллекта с целью воздействия на общественные мнение и политические процессы. Среди тех, кто пытался продвигать пропагандистские нарративы, называются группы из России, Китая, Ирана и Израиля.
В России кампанию дезинформации, связанную преимущественно с боевыми действиями в Украине, курировали две сети под кодовыми названиями Bad Grammar и Doppelganger. Участники первой группы создавали короткие политические комментарии на русском и английском языках, ориентируясь на аудиторию в Украине, Молдове, странах Балтии и США, а причастные ко второй применяли языковые модели OpenAI для генерации комментариев на английском, французском, немецком, итальянском и польском языках на платформах X (бывший Twitter) и 9GAG.
В свою очередь китайская сеть, известная как Spamouflage, пользовалась услугами компании для исследования активности в соцсетях, генерации текстов на китайском, английском, японском и корейском языках на платформах X, Medium и Blogspot. Вместе с тем иранская операция — International Union of Virtual Media (IUVM) — была связана с созданием и переводом статей, заголовков и веб-сайтов, размещавшихся на специальной платформе.
Помимо этого, OpenAI пресекла деятельность группы STOIC, связанной с Израилем. Участники операции, получившей название Zero Zeno, использовали языковые модели для создания статей и комментариев, которые затем размещались в Instagram, Facebook, X и на других сайтах. Недавнее исследование, кстати, показало, что в X стало больше фейковых аккаунтов, поддерживающих экс-президента США Дональда Трампа.
Контент, который генерировали группы, был посвящен «вторжению России в Украину, конфликту в Газе, выборам в Индии, политике в Европе и Соединенных Штатах, а также критику китайского правительства китайскими диссидентами и иностранными правительствами», говорится в отчете компании. При этом сорванные операции, судя по всему, не привели к существенному увеличению вовлеченности аудитории или охватов.
Отчет OpenAI, к слову, появился через месяц после того, как администрация президента США Джо Байдена объявила о формировании нового Совета по безопасности искусственного интеллекта с руководителями ведущих компаний этой сферы в составе, включая Сэма Альтмана.
В середине мая компанию покинул один из разработчиков ChatGPT Илья Суцкевер, который осенью прошлого года, как писали СМИ, приложил руку к тому, чтобы Альтман оставил свой пост. В марте он вернулся в совет директоров компании.
Ранее RTVI.US рассказывал, что группы влияния, предположительно, связанные с Кремлем, активизировали усилия по дискредитации предстоящих президентских выборов в США, в частности рассказывая об украинской «фабрике троллей», которая под руководством команды Владимира Зеленского якобы пыталась очернить Трампа, чтобы не дать ему одержать победу над Байденом.
