Врачи стали массово доверять ИИ — что дает сервис OpenEvidence и стоит ли его опасаться?
Не менее 65% докторов в США за прошедший месяц воспользовались поисковым сервисом на основе искусственного интеллекта (ИИ) под названием OpenEvidence, сообщает NBC News со ссылкой на компанию-разработчика и самих врачей. В количественном исчислении речь идет о более чем 600 000 пользователей в США и еще более 1 млн в мире.
Нейросеть, которая позволяет компилировать информацию научных статей по медицине начала разрабатываться в 2022 году, через год демонстрировала более чем 90-процентный результат в американском экзамене на врачебную лицензию, а к 2026 году капитализация стартапа OpenEvidence достигла $12 млрд. Среди инвесторов компании, базирующейся во Флориде, фигурируют Google, Nvidia и Blackrock.
Как отмечает NBC News, OpenEvidence позиционируется как нейросетевой аналог «опытного коллеги» для врачей, к которому можно обратиться за советом в подборе лечения для пациента с теми или иными симптомами. В программу также встроены инструменты для составления врачебной выписки.
Врач Анупам Джена, который в Гарварде занимается исследованием нового инструмента, заявил каналу, что популярность ОpenEvidence среди коллег растет в «геометрической прогрессии».
«60% всех поисковых запросов касаются принятия решений в клинических ситуациях. Врачи спрашивают, например, как правильно лечить того или иного пациента с определенными показаниями, состоянием и возможными сопутствующими заболеваниями», — отметил Джена.
По словам Джены, врачей зачастую интересуют вопросы не конкретно по их профилю, в котором они разбираются хорошо, а дополнительные моменты, связанные с другими сферами медицины или, например, применению тех или иных препаратов при определенных показаниях.
В качестве примера он привел ситуацию, когда через OpenEvidence смог уточнить, как назначать антибиотики человеку с удаленной cелезенкой. Нейросеть подобрала для него необходимую статью 2014 года, которая не отображалась через обычный поиск в Google.
OpenEvidence в своих правилах использования предостерегает, что не является заменой врачебной экспертизы. Сервис доступен только лицензированным врачам и разработчики не заявляли о планах предложить его широкой аудитории в будущем.
«Сервис никоим образом не предполагается как диагностический, устраняющий неточности диагностики, рекомендующий конкретные препараты или терапию или каким-либо иным образом заменяющим суждение квалифицированного медицинского специалиста», — говорится в правилах.
В компании подчеркивают, что разделяют опасения о присущих ИИ «галлюцинациях», когда нейросети просто додумывают или придумывают информацию, чтобы не разочаровать пользователя. Создавший компанию бизнесмен Дэниэл Надлер подчеркнул в интервью NBC News, что избегать этой проблемы OpenEvidence удается за счет сотрудничества с ведущими медицинскими журналами США New England Journal of Medicine (NEJM) и The Journal of the American Medical Association, а также Национальной комплексной онкологической сетью (NCCN) и Американской диабетической ассоциацией.
Несмотря на заверения Надлера о том, что нейросеть используется как «поисковый клей», а не для генерации текста, опрошенные NBC News врачи отметили, что иногда сталкивались с несколько «преувеличенными» ответами OpenEvidence, особенно по малоизученным вопросам. В целом при этом многие подчеркнули, что были удивлены «точностью» поиска, и добавили, что стараются читать оригиналы статей, а не только ИИ-компиляцию.
В марте Американская медицинская ассоциация (AMA), которая считается крупнейшим объединением врачей и студентов медицинских вузов в США, сообщала по итогам собственного опроса, что более 80% докторов так или иначе стали использовать ИИ в работе.
Глава союза Джон Уайт тогда подчеркивал, что инструменты должны быть «безопасными, эффективными и использоваться ответственно», чтобы «расширять возможности» врачей, а не заменять их собой. Около 40% респондентов отмечали, что используют ИИ именно для составления обзоров медицинских статей и новейших стандартов лечения.
