«Забрали частичку меня»: дипфейк-порно с детьми распространяется по сети, а власти бьют тревогу
В США наблюдается рост количества детской порнографии, сгенерированных с помощью искусственного интеллекта (ИИ). Это вызывает серьезные опасения у правоохранителей и правозащитников. В ответ на эту тревожную тенденцию власти активно разрабатывают меры для борьбы с преступлениями в цифровой среде, сообщает Associated Press (AP).
Использование ИИ для создания порнографических изображений с участием несовершеннолетних — одна из новейших и опаснейших форм злоупотребления технологиями. Преступники используют ИИ для модификации реальных изображений детей и создания фотореалистичных изображений, которые, несмотря на свою виртуальную природу, наносят психологический вред. Даже если изображение основано на искусственно созданной модели, оно остается преступным и аморальным, отмечает AP.
Глава Отдела по борьбе с эксплуатацией детей при Министерстве юстиции США Стивен Гроцки подчеркнул, что «это преступление, которое будет расследовано и наказано по закону при наличии доказательств». По его словам, «ошибочно думать иначе».
Согласно официальной позиции Минюста, виртуальные изображения детей, полностью созданные с помощью ИИ, подлежат уголовной ответственности.
Растущий поток ИИ-контента вызывает тревогу и у правозащитников, поскольку его распространение усложняет защиту реальных жертв. У следователей уходит значительное время на определение того, является ли изображение реальным или же создано ИИ.
«Следователи тратят часы, пытаясь определить, действительно ли изображен реальный несовершеннолетний или оно создано ИИ, — сказал заместитель окружного прокурора округа Вентура в Калифорнии Риколе Келли. — Раньше были некоторые действительно четкие индикаторы. С развитием ИИ-технологий это больше не так».
В связи с этим, в более чем десяти штатах, включая Калифорнию, уже приняты законы, четко запрещающие использование ИИ для создания детской порнографии. «Мы, правоохранительные органы, пытаемся догнать технологию, которая, честно говоря, развивается гораздо быстрее нас», — заявил окружной прокурор округа Вентура в Калифорнии Эрик Насаренко.
Под руководством Насаренко был разработан закон, подписанный губернатором Калифорнии Гэвином Ньюсомом, который сделал нелегальными материалы с использованием ИИ для создания порнографических изображений детей. Ранее, без таких законов, прокуратуре пришлось прекратить рассмотрение восьми дел из-за отсутствия доказательств, что на изображениях были реальные дети.
Ранее RTVI.US. рассказывал, что прокуратура Сан-Франциско подала иск к 16 сайтам, позволявшим школьникам и другим пользователям «раздевать» друг друга и создавать порно-дипфейки.
Подростки, чьи образы используются для создания порнографических изображений, нередко испытывают психологическую травму, даже в реальности они не подвергались физическому насилию. Так, 17-летняя актриса Кейлин Хейман, известная по сериалу Just Roll with It, стала жертвой дипфейков — ее лицо подставили к телу в интимных сценах. Она активно поддержала новый закон, который защищает детей от подобного.
«Мне казалось, что забрали частичку меня, хотя я не подвергалась физическому насилию», — поделилась она.
RTVI.US писал, что соцсеть X (бывший Twitter) пыталась бороться с распространением порно-фейков с Тейлор Свифт.
По данным экспертов, доступ к ИИ моделям с открытым кодом облегчает создание запрещенного контента. Злоумышленники могут скачивать и модифицировать такие инструменты для создания детской порнографии, а в даркнете обсуждаются инструкции по их использованию.
Исследование Стэнфордской интернет-обсерватории показало, что один из крупнейших ИИ-источников данных, используемых ведущими разработчиками, содержал ссылки на изображения, которые могли быть использованы для генерации порнографических материалов с детьми.
Ведущие технологические компании, включая Google и OpenAI, объединили усилия с организацией Thorn, борющейся с сексуальной эксплуатацией детей, с целью предотвращения распространения материалов, созданных с помощью ИИ.
В 2003 году в США был подписан закон, запрещающий производство любых материалов детей в сексуально-эксплицитных ситуациях, даже если они не существуют в реальности.
Накануне RTVI.US рассказывал, что детский психолог распространяла порно с полугодовалым младенцем — при этом выдавала себя за мужчину.
