Создатель ChatGPT предупредил о риске «когнитивной атрофии» из-за искусственного интеллекта
Одной из самых недооцененных угроз искусственного интеллекта (ИИ) может оказаться вовсе не потеря рабочих мест, распространение дипфейков или выход ИИ из-под контроля, а постепенное ослабление человеческого мышления. С таким предупреждением выступил глава OpenAI Сэм Альтман, признавший, что чрезмерная зависимость от ИИ может привести к «когнитивной атрофии», когда люди перестанут самостоятельно решать интеллектуальные задачи.
В подкасте Invest Like the Best Альтмана спросили, какие нерешенные проблемы искусственного интеллекта он считает наиболее важными. Вместо привычных тем — безопасности сверхразумных систем, регулирования или влияния ИИ на рынок труда — глава OpenAI, которая разработала популярный чат-бот ChatGPT, назвал риск, который, по его мнению, почти не обсуждается.
«Одна из вещей, которой, как мне кажется, уделяют недостаточно внимания, — как нам избежать когнитивной атрофии?» — сказал Альтман.
По его словам, главный вопрос заключается в том, смогут ли люди пользоваться ИИ так, чтобы продолжать развивать собственное мышление, а не постепенно перекладывать на алгоритмы все больше интеллектуальной работы.
«Как использовать эти инструменты так, чтобы мы продолжали тренировать свой мозг и понимать действительно важные вещи?» — отметил он.
Хотя подобные опасения редко звучат из уст руководителей крупнейших ИИ-компаний, часть исследователей предупреждает об этой проблеме уже несколько лет. Как отмечает Business Insider, исследователь Массачусетского технологического института (MIT) Наталья Космына ранее заявила, что генеративный ИИ — первый инструмент, который способен не просто автоматизировать рутинные действия, а фактически взять на себя сам процесс мышления. Предварительные результаты ее исследования показали, что участники, регулярно использовавшие ИИ при написании эссе, со временем демонстрировали худшие результаты, чем люди, пользовавшиеся обычным поиском Google или выполнявшие задания самостоятельно.
Теоретический нейробиолог и исследователь ИИ Вивьен Минг называет это явление «хроническим замещением» (chronic substitution). По ее словам, если человек постоянно передает интеллектуальную работу алгоритмам, это может постепенно снижать так называемый когнитивный резерв — один из факторов, который помогает мозгу противостоять возрастным изменениям и деменции.
Однако Альтман — не единственный руководитель ИИ-компании, который говорит о подобных рисках. В прошлом году генеральный директор французской Mistral AI Артур Менш предупреждал, что одной из главных угроз может стать постепенная утрата профессиональных навыков (deskilling), если люди начнут слишком сильно полагаться на искусственный интеллект при выполнении своей работы.
При этом сам Альтман не считает подобный сценарий неизбежным. В том же интервью он описал будущее, в котором персональный ИИ будет читать документы, анализировать встречи, напоминать о важных письмах и даже предлагать новые идеи. Однако, по его мнению, существуют качества, которые современные модели пока не способны воспроизвести.
«Миру, возможно, даже понадобится новое слово для того типа суждений, в которых люди действительно очень хороши, а ИИ испытывает серьезные трудности», — сказал глава OpenAI.
