Разоружение ИИ и отказ от «справедливых войн»: о чем папа римский написал в своей первой энциклике
Ватикан опубликовал первую энциклику Папы римского Льва XIV «Magnifica humanitas: О защите человеческой личности во времена искусственного интеллекта». В ней утверждается, что стремительное развитие технологий, особенно искусственного интеллекта (ИИ), требует «новой духовной, этической и политической основы». Понтифик призвал общественность и технологические компании внедрять «общие стандарты социальной справедливости», чтобы не допустить злоупотреблений со стороны тех, кто «обладает экономическими ресурсами, экспертными знаниями и доступом к данным».
Энциклика представляет собой послание папы римского по моральным, социальным и политическим вопросам. Свой первый документ такого рода Лев XIV посвятил проблеме ИИ и его влиянию на образование, экономику, военные конфликты и рынок труда. Доктрина концептуально отсылает к энциклике Rerum Novarum 1891 года, ставшей ответом Церкви на промышленную революцию XIX века.
Документ состоит из 245 параграфов, разделенных на введение и пять глав. Первые две главы посвящены развитию социального учения Церкви — от папы Льва XIII до наших дней. В последующих главах понтифик предлагает использовать принципы католического социального учения в качестве нравственных ориентиров. Так, критериями технологического прогресса должны стать достоинство личности, общее благо, всеобщее предназначение материальных благ, субсидиарность, солидарность и справедливость.
В документе подчеркивается, что ИИ не является нейтральным инструментом: значение имеет не только то, как он используется, но и то, как он создается.
«На практике технологии никогда не бывают нейтральными, потому что они неизбежно принимают облик тех, кто их создает, финансирует, регулирует и использует», — отмечается в энциклике.
Понтифик утверждает, что для компаний в области ИИ недостаточно лишь ссылаться на этические нормы — необходимы «прочные правовые рамки, независимый надзор, информированные пользователи и политическая система, не уклоняющаяся от своей ответственности». Лев XIV обращается к разработчикам ИИ и политикам, ответственным за его регулирование, с призывом делать выбор в пользу всеобщего блага, а не власти и прибыли.
«Стремление к большей прибыли не может оправдывать решения, ведущие к систематическому сокращению рабочих мест, потому что человек — это цель, а не средство, и экономический порядок должен оставаться подчиненным человеческому достоинству и общему благу», — пишет Лев XIV.
Отдельное внимание в энциклике уделено рискам развития все более совершенных технологий дистанционного ведения войны и «нормализации» вооруженных конфликтов. Хотя конкретные примеры не упоминаются, папа говорит о противостоянии держав, стремящихся сохранить свое превосходство, и тех, кто пытается это господство оспорить.
«Искусственный интеллект должен быть разоружен и освобожден от логики, превращающей его в инструмент господства, исключения и смерти», — заявил Папа на презентации энциклики в Ватикане.
По словам понтифика, теория «справедливой войны», согласно которой война может быть оправдана лишь защитой от агрессии, сегодня утратила актуальность. Как пишет Reuters, ранее на эту доктрину ссылались представители администрации президента США Дональда Трампа, включая вице-президента Джей Ди Вэнса, католика по вероисповеданию.
«Сегодня как никогда важно вновь подтвердить, что теория «справедливой войны», которая слишком часто использовалась для оправдания любых войн, уже устарела. У человечества есть гораздо более действенные и достойные средства для защиты жизни и разрешения конфликтов — диалог, дипломатия и прощение», — говорится в документе.
На презентации энциклики в Ватикане присутствовал сооснователь Anthropic Кристофер Ола. Его компания сегодня ведет судебную тяжбу с администрацией Трампа после отказа предоставить неограниченный доступ к своим системам для военных целей. Ола поддержал критику, озвученную в энциклике, подчеркнув необходимость внешнего контроля ИИ.
«Нам нужно, чтобы религиозные общины, гражданское общество, ученые и правительства сделали то, что сделал Его Святейшество: отнеслись к этому серьезно, внимательно изучили ситуацию и попытались изменить происходящее в лучшую сторону. Нам нужны голоса морали, неподвластные влиянию стимулов и выгод», — заявил Ола.
Мероприятие также посетили богословы, представители Святого престола, кардиналы, специалисты по компьютерным технологиям, журналисты и дипломаты, включая посла США в Ватикане Брайана Берча.
Тейлор Блэк, руководитель направления ИИ в Microsoft, отметил, что документ заставит людей, находящихся «на переднем крае разработки этих инструментов», вновь задуматься над тем, что значит быть человеком.
Паоло Кароцца, председатель Наблюдательного совета Meta, заявил, что папа предлагает «ясный, всесторонний и последовательный взгляд», а сама энциклика «может стать определяющим документом эпохи».
В то же время некоторые эксперты считают, что документ главным образом будет полезен духовенству и верующим католикам, тогда как в Кремниевой долине к нему могут отнестись без особого внимания.
«Не думаю, что «технобратья» Кремниевой долины будут особенно прислушиваться. Но внутри Церкви этот документ станет важным ориентиром для священников, епископов и особенно для тех, кто занимается воспитанием семинаристов и молодежи», — заявила профессор Норин Херцфельд, директор программы по технологиям и этике Школы богословия Святого Иоанна в Миннесоте.
