Доклад Минздрава США частично оказался фикцией — он мог быть подготовлен с помощью ИИ
Доклад главы Министерства здравоохранения и социальных служб США (HHS) Роберта Кеннеди-младшего (РФК), посвященный детскому здоровью, мог быть частично сгенерирован нейросетью. Об этом Washington Post (WP) заявили эксперты в сфере искусственного интеллекта (ИИ).
Сам доклад, ставший первым для созданной президентом Дональдом Трампом Комиссии «Сделаем Америку снова здоровой» (MAHA), был опубликован 22 мая. В расхваленном Кеннеди 78-страничном документе излагаются приоритеты властей США по решению проблемы хронических заболеваний у детей. В докладе причины этой проблемы связываются с плохим питанием, недостатком физической активности, стрессом, чрезмерным назначением лекарств и воздействием химических веществ в окружающей среде.
В документе указаны 522 ссылки на исследования, правительственные отчеты и научные статьи. Однако, как обнаружило издание NOTUS, некоторые из ссылок ошибочны или же не существуют вовсе. В других же случаях, по словам авторов исследований, их выводы были искажены.
Масштаб ошибок в докладе был таким, что Белый дом признал их наличие и пообещал опубликовать обновленную версию.
«Насколько мне известно, у доклада MAHA действительно были некоторые проблемы с форматированием, которые сейчас устраняются, и документ будет обновлен, — заявила пресс-секретарь Белого дома Кэролайн Ливитт. — Но это никоим образом не умаляет сути доклада, который, как вы знаете, является одним из самых преобразующих отчетов о здравоохранении, когда-либо опубликованных федеральным правительством».
Ливитт также заявила, что Белый дом полностью доверяет РФК и его команде. Обновленная версия доклада была опубликована в четверг, 29 мая.
«Незначительные ошибки в цитировании и форматировании были исправлены, но суть доклада MAHA осталась прежней — это историческая и преобразующая оценка со стороны федерального правительства для понимания эпидемии хронических заболеваний, поражающих детей нашей страны», — заявила пресс-секретарь HHS Эмили Хиллиард.
WP отмечает, что проблемы доклада MAHA могут быть гораздо глубже и связаны с использованием ИИ при его подготовке. Из 522 ссылок в первоначальной версии документа как минимум 37 упоминаются несколько раз, а еще 21 — не существует.
Кроме того, в некоторых URL (адресах ресурса в сети) содержится пометка oaicite — явный признак того, что исследования были собраны с помощью ИИ. Oaicite указывает на использование технологий компании OpenAI.
Общей отличительной чертой чат-ботов на базе ИИ, таких как ChatGPT, является повторяющийся, неестественный текст, который не похож на то, что мог написать человек, или же попросту недостоверен. Кроме того, они склонны к «галлюцинациям», то есть к созданию убедительно звучащих, но вымышленных исследований или ответов.
По словам почетного профессора Вашингтонского университета Орена Этциони, изучающего ИИ, эта технология может законно использоваться для быстрого обзора исследований в той или иной области науки. Однако он был шокирован небрежной работой при подготовке доклада MAHA.
«Честно говоря, это халтура, — заявил он. — Мы заслуживаем лучшего».
Сам Кеннеди давно обещал использовать ИИ для улучшения и повышения эффективности системы здравоохранения в США. А недавно он заявил на слушаниях в Конгрессе, что даже видел прототип ИИ-медсестры, который «может устроить революцию в оказании медицинской помощи в сельской местности».
По словам президента некоммерческой организации Center for Science in the Public Interest Питера Лури, он был не удивлен, что в докладе MAHA есть признаки использования ИИ. Он рассказал, что поручил своим сотрудникам проверить документ, когда заметил, что в нем была ссылка на один из информационных бюллетеней его организации. Однако в докладе в качестве авторов бюллетеня были указаны Министерство сельского хозяйства (USDA) и HHS.
«Сама идея, что они прикрываются авторитетом научной добросовестности, при этом выпуская доклад, который в значительной степени опирается на ИИ, — это поразительное лицемерие», — заявил Лури.
В прошлом он занимал высокую должность в Управлении по санитарному надзору за качеством пищевых продуктов и медикаментов (FDA) в администрации Барака Обамы и сам писал подобные правительственные отчеты.
